A fronteira que uma vez separou GPUs práticas de modelos de ponta está rapidamente desaparecendo. Acontece que o hardware da classe 5090 está garantindo uma posição perfeita para lidar com inferência. À medida que essas mudanças ocorrem, vale a pena perguntar onde a maior parte dos seus custos está indo: o treinamento ou a inferência está consumindo mais do orçamento?
#Inferência #GPUs #Storj