Przewaga Nvidii w AI wykracza poza układy GPU

Przez pierwsze lata rozwoju sztucznej inteligencji Nvidia była jedynym dostawcą najbardziej zaawansowanych procesorów graficznych (GPU). Wraz z rozwojem całej branży układy te przynosiły spółce bardzo wysokie zyski. W ostatnich latach wielcy dostawcy usług chmurowych, tacy jak Amazon i Google, zaczęli projektować własne układy. Nvidia nie jest już jedynym liczącym się dostawcą, dlatego wielu inwestorów zaczęło się zastanawiać, jak trwała jest jej przewaga.

To przekonujący obraz sytuacji i w większości zgodny z faktami. Od początku 2023 roku do połowy 2025 roku kapitalizacja rynkowa Nvidii wzrosła dziesięciokrotnie. W ciągu ostatniego roku kurs akcji spółki rósł jednak znacznie wolniej, między innymi z powodu obaw o konkurencję na rynku GPU.

Po opublikowaniu wyników Nvidii w środę zaczął kształtować się nowy obraz sytuacji. Inwestorzy dostrzegają, że przewaga spółki wykracza daleko poza same procesory graficzne. Gdy moc obliczeniowa wykorzystywana przez sztuczną inteligencję rośnie do skali gigawatów, zarządzanie pracą całej infrastruktury staje się coraz bardziej złożone. Nvidia stworzyła dużą część najbardziej zaawansowanego sprzętu potrzebnego do obsługi takich systemów. Daje jej to znaczącą przewagę w elementach otaczających GPU, nawet jeśli konkurencja na rynku samych procesorów graficznych rośnie.

Mimo że moc obliczeniowa jest często traktowana jak zwykły, łatwo dostępny zasób, prowadzenie ogromnego centrum danych z maksymalną wydajnością pozostaje bardzo trudne. Wraz ze wzrostem skali i szybkości wdrożeń problem ten staje się jeszcze większy.

Szafa po szafie

Widać to w szczegółach oferty Nvidii. Spółka wprowadza obecnie architekturę Vera Rubin. Łączy ona procesor graficzny Rubin z zestawem innych jednostek, w tym procesorem centralnym Vera, akceleratorem wnioskowania Groq 3 LPX oraz podobnymi szafami przeznaczonymi do przechowywania danych i obsługi sieci.

Systemy te są bardzo wyspecjalizowane, podobnie jak sam procesor Rubin. Nie zajmują się jednak bezpośrednim przetwarzaniem tokenów, czyli jednostek tekstu analizowanych lub tworzonych przez modele AI. Ich zadaniem jest zapewnienie możliwie sprawnego działania wszystkiego, co znajduje się poza GPU. Jeśli GPU jest silnikiem, pozostałe elementy pełnią funkcję całej reszty samochodu.

Procesor Vera koncentruje się przede wszystkim na zarządzaniu przepływem danych. „Vera jest ważna, ponieważ ilość pamięci, którą można umieścić w jednym serwerze lub na dowolnej platformie obliczeniowej, jest ograniczona” — powiedział Jason Hardy, wiceprezes Nvidii ds. technologii pamięci masowych.

Wraz ze wzrostem mocy obliczeniowej centrów danych zwiększała się także ich pojemność pamięci. To jeden z powodów, dla których firmy takie jak Micron mocno zyskały podczas drugiej fali rozwoju infrastruktury. Samo dostarczenie danych do GPU we właściwym momencie nie jest jednak proste. Firmy chcą coraz bardziej poprawiać efektywność mierzoną liczbą tokenów przetwarzanych na wat i coraz wyraźniej widzą, jak ważne jest sprawne kierowanie takim ruchem danych.

„W tych operacjach odnotowaliśmy poprawę sięgającą ponad trzykrotności, gdy procesor Vera zapewnia przyspieszenie” — powiedział Hardy. „Dzięki temu możemy w pełni wykorzystać pamięć flash, ponieważ uzyskujemy z niej całą dostępną wydajność bez tworzenia wąskiego gardła”.

Podobny problem widać także poza Nvidią. Gdy OpenAI opracowywała własny układ Jalapeño, jednym z głównych celów było całkowite uniknięcie tych wyzwań przez ograniczenie ilości danych, które trzeba przesyłać między poszczególnymi elementami systemu.

„Zaprojektowaliśmy Jalapeño tak, aby ograniczyć przesyłanie danych i opóźnienia w komunikacji” — podała firma. „Duży zakres działania układu pozwala utrzymać całe obciążenie w jednym połączonym systemie. Ogranicza to przesyłanie danych i pomaga zachować szybkość oraz wydajność całego żądania od początku do końca”.

To inne podejście: zamiast przesyłać dane między różnymi elementami, całość zadania jest wykonywana w jednym zintegrowanym układzie. Ogólna zasada pozostaje jednak taka sama. Wydajność rośnie dzięki lepszemu zarządzaniu przepływem danych, a nie tylko przez zwiększanie liczby operacji wykonywanych przez procesory. Tworzy to nową warstwę infrastruktury, w której firmy mogą ze sobą konkurować.

Nowe zainteresowanie zarządzaniem przepływem danych nie oznacza automatycznie zwycięstwa Nvidii. Spółka będzie musiała rywalizować z producentami konkurencyjnych układów oraz wielkimi dostawcami chmury, podobnie jak konkuruje z nimi na rynku GPU. Rywalizacja przenosi się jednak na nowy poziom. Samo stworzenie konkurencyjnego procesora graficznego będzie mniej istotne niż zapewnienie sprawnego działania całego systemu.

Przynajmniej na początkowym etapie Nvidia wydaje się mieć na tym polu wyraźną przewagę.