Jensen Huang: pamięć to dziś największe „wąskie gardło” dla AI. Co to oznacza dla Nvidii

Nvidia, spółka obecna na rynku od 1993 roku, przez lata kojarzona była głównie z procesorami graficznymi (GPU). Te układy są kluczowe do szkolenia i skalowania sztucznej inteligencji (AI), bo dostarczają dużej części mocy obliczeniowej, która napędza obciążenia związane z AI.

Na początku obecnego boomu na AI celem gigantów technologicznych było po prostu zdobywanie jak największej ilości mocy obliczeniowej, czyli przede wszystkim GPU. Teraz priorytet przesunął się na układy pamięci. Jak podkreślił Jensen Huang, CEO Nvidii, układy pamięci stały się teraz największym „wąskim gardłem” dla AI.

Dlaczego pamięć ma znaczenie w AI i dla Nvidii

Szkolenie i działanie systemów AI opiera się na ogromnych ilościach danych. Bez specjalistycznych układów pamięci nie byłoby możliwe ich przechowywanie ani szybkie odczytywanie.

Gdy AI jest wykorzystywane do obsługi coraz bardziej złożonych zadań — na przykład uruchamiania autonomicznych agentów albo przetwarzania skomplikowanego kontekstu zamiast prostych rekomendacji — rośnie znaczenie pamięci o dużej przepustowości (high bandwidth memory).

Nvidia zaczynała swoją drogę, sprzedając GPU i sprzęt AI, ale teraz buduje systemy o wielu elementach, w tym układy pamięci zintegrowane w jej rozwiązaniach. Oznacza to, że potrzebuje stałych, dużych dostaw od producentów pamięci, takich jak Micron, SK Hynix i Samsung.

Niestety, wytwarzanie tak wyspecjalizowanych układów pamięci jest trudne, dlatego tylko nieliczne firmy produkują zdecydowaną większość z nich.

Co to oznacza dla Nvidii

Największa wada niedoboru pamięci polega na tym, że Nvidia jest uzależniona od dostawców układów pamięci w swojej własnej produkcji i łańcuchu dostaw. Jeśli dostawcy nie będą w stanie wytwarzać pamięci wystarczająco szybko, Nvidia będzie musiała czekać, co może przełożyć się na jej działalność.

Z drugiej strony Nvidia ma gotówkę i skalę zakupów, co daje jej szansę na priorytet przy produkcji pamięci. W ostatnim kwartale, zakończonym 26 kwietnia, spółka wygenerowała 48,6 mld USD wolnych przepływów pieniężnych (free cash flow) i zakończyła kwartał z 13,2 mld USD gotówki oraz środków pieniężnych.

Dzięki temu Nvidia może bez problemu płacić premię za zakup większych wolumenów, odcinając mniejszych konkurentów i dodatkowo umacniając swoją pozycję na rynku.

W tym roku akcje Nvidii rozczarowują: spółka jest na plusie tylko o 0,60% od początku roku (year to date) według stanu na zamknięcie rynku 29 lipca. W dużej mierze wynika to z ogólnego nastawienia wobec dużych spółek technologicznych, w tym z grupy „Magnificent Seven”, a nie z rozczarowujących wyników biznesowych Nvidii.