AI wnioskowanie, wyprzedzanie na zakręcie

Przez wiele lat NVIDIA dominowała na rynku chipów AI, mimo że inne firmy nieustannie próbowały, nigdy nie udało im się zakwestionować jej pozycji lidera.

Jednak dziś sytuacja się zmienia. „Obliczenia wnioskowania” stały się kluczowym hasłem tej rewolucji technologii AI.

Niezależnie od tego, czy to giganty technologiczne, czy małe startupy, wszyscy celują w tor rozwoju chipów dedykowanych AI, takie jak Groq, Cerebras Systems i inne.

Meta jest typowym przypadkiem. Chociaż użyli chipów NVIDIA do trenowania Llama3.1 405B, to w rzeczywistości do świadczenia usług dla użytkowników korzystają z chipów AMD MI300s.