VAST Data rozszerza współpracę z AMD, by budować AI fabryki pod erę inference

VAST Data, firma stojąca za „AI Operating System”, ogłosiła rozszerzenie współpracy z AMD. Razem wspierają dostawców usług chmurowych dla AI oraz przedsiębiorstwa w budowie i eksploatacji wydajnych „AI fabryk” na dużą skalę.

W ramach współpracy łączy się system VAST AI Operating System z procesorami AMD EPYC™ 6. generacji oraz GPU AMD Instinct™. Ma to umożliwiać skalowalne obciążenia związane z treningiem, inference oraz agentic AI, z poprawą efektywności, elastyczności i wydajności.

Gdy organizacje przechodzą z etapu samego treningu modeli do operacjonalizacji AI agentów, systemów rozumowania i dużej skali usług inference, szybko zmieniają się wymagania infrastrukturalne. O sukcesie decyduje coraz częściej nie tylko wydajność obliczeniowa, lecz także to, jak sprawnie organizacje potrafią zarządzać danymi, pamięcią, kontekstem i zasobami obliczeniowymi jako jednym, spójnym systemem.

Kluczowe dla takiego podejścia jest rozwiązanie VAST: Disaggregated Shared Everything (DASE). Architektura ta wychodzi poza standardowe przechowywanie i ma zapewniać solidne wsparcie dla wielu najemców (multi-tenancy) z separacją obciążeń pod kątem bezpiecznego odseparowania, natywny dostęp wieloprotokołowy oraz jedną globalną przestrzeń nazw ułatwiającą dostęp do danych w środowiskach rozproszonych. Dzięki usprawnieniu kluczowych operacji danych — takich jak szybkie ładowanie modeli — w ramach podstawowych wartości platformy danych VAST system pozwala chmurom AI uruchamiać ogromne, równoległe obciążenia, maksymalizując wykorzystanie sprzętu.

Wiele obecnych środowisk AI zaprojektowano pod workflow skoncentrowany na treningu. Trudniej im natomiast obsłużyć rosnące, trwałe wymagania kontekstu w pipeline’ach retrieval augmented generation (RAG) oraz w długotrwałym, wieloturnowym wnioskowaniu. W efekcie organizacje mierzą się ze wzrostem kosztów infrastruktury i tokenów, niewykorzystaniem GPU oraz rosnącą złożonością operacyjną wraz ze skalowaniem AI w realnych zastosowaniach.

Aby sprostać tym wyzwaniom, VAST i AMD rozszerzają współpracę tak, by dostarczyć otwarte i elastyczne podejście do infrastruktury AI. Ma ono łączyć przyspieszone liczenie, inteligentne usługi danych i zoptymalizowane oprogramowanie do inference w jedną platformę dla chmur AI oraz wdrożeń AI w przedsiębiorstwach.

W ramach współpracy znalazły się m.in. następujące elementy:

• VAST wybrał procesory AMD EPYC 6. generacji, wcześniej kodowane jako „Venice”, aby zasilać 6. generację platform CBox oraz 3. generację platform EBox, będących podstawą VAST AI OS. Procesory EPYC 6. generacji zapewniają wsparcie dla PCIe® Gen-6, co ma przekładać się na 2X większą przepustowość I/O między generacjami, poprawiając wydajność plików i pamięci obiektowej. Jednocześnie ogranicza to opóźnienia, zwiększając wydajność rdzeni procesora w przypadku krytycznych usług danych AI, w tym baz danych, hurtowni danych i strumieniowania zdarzeń, dzięki możliwościom DataBase i DataEngine.

• Opracowana przez VAST, AMD i DriveNets architektura referencyjna infrastruktury AI uwzględnia rack-scale rozwiązania klasy AMD Helios, połączone z VAST AI OS oraz sieciowaniem DriveNets AI Fabric. Te architektury referencyjne opisują wsparcie infrastruktury dla treningu modeli, inference, reinforcement learning (RL) oraz obciążeń KV cache — z uwzględnieniem doboru skali oraz wskazówkami dla dostawców chmurowych i przedsiębiorstw, które mają uprościć i przyspieszyć wdrożenia „AI fabryk”: wysoko dostępne, wydajne i efektywne.

• Rozszerzenie współpracy w ekosystemie z innowatorami oprogramowania, w tym TensorMesh i EmbeddedLLM, ma przyspieszać wdrażanie gotowych do produkcji architektur inference, zoptymalizowanych pod agentic AI.

• Nowe optymalizacje KV cache i inference łączą GPU AMD Instinct, AMD Infinity Context oraz oprogramowanie AMD ROCm™ z VAST AI OS. Wczesne testy VAST z wykorzystaniem akceleratora AMD Instinct MI355X wykazały 9X przyspieszenia czasu do pierwszego tokena (TTFT, time-to-first-token) oraz 9,7X większą przepustowość tokenów przy zastosowaniu VAST do offloadingu (zrzucania) KV cache w warunkach wysokiej współbieżności dla agentic AI.

• Te przyspieszone wyniki i wysoka współbieżność są kluczowe dla dostarczania inference o niskim czasie odpowiedzi, niższym koszcie i lepszej efektywności energetycznej.

• Uwaga dotycząca punktów odniesienia (baselines): ponieważ przyspieszenia zawsze są relatywne względem bazowego sprzętu, uruchamianie tych obciążeń na GPU o niższej mocy obliczeniowej może dać jeszcze wyższe względne przyspieszenie niż w przypadku pomiaru opóźnień wynikających z bezpośredniego odczytu z pamięci masowej.

• Automatyczne zarządzanie cyklem życia KV cache: usuwanie danych z cache zawierających wrażliwe lub osobiste informacje jest kluczowym wyzwaniem zgodności w środowiskach enterprise. Integracja wykorzystuje natywne polityki cyklu życia danych VAST, aby automatycznie wygaszać i usuwać dane KV cache, pomagając zapewniać solidne możliwości bezpieczeństwa, prywatności i zgodności regulacyjnej — bez ręcznego obciążenia operacyjnego.

• Sieć AI po stronie danych zapewnia AMD Pensando™ Pollara 400 AI NIC. Integracja wykorzystuje NFS przez TCP oraz NFS przez RDMA do efektywnego przenoszenia danych z pamięci GPU do klastra pamięci masowej VAST opartego o dyski NVMe SSD. Ma to umożliwiać obsługę KV-cache oraz dostępu do pamięci masowej, od których zależą duże wdrożenia inference i agentic AI.

• Potwierdzone wdrożenia u czołowych dostawców usług chmurowych dla AI, którzy dostarczają klientom usługi oparte o technologię AMD na całym świecie.

VAST AI OS ma pełnić rolę warstwy danych i egzekucji w tych środowiskach, umożliwiając organizacjom ujednolicenie przechowywania, bazy danych, strumieniowania i usług AI w ramach jednej platformy programowej. Traktując zarządzanie modelami jako kluczową usługę danych, VAST niemal całkowicie eliminuje wąskie gardła związane z „cold-startami” (opóźnieniami startu) dzięki ładowaniu modeli praktycznie natychmiast, co ma maksymalizować wykorzystanie GPU.

W połączeniu z przyspieszonymi rozwiązaniami obliczeniowymi AMD klienci mogą wdrażać skalowalną infrastrukturę obsługującą trening, inference, retrieval-augmented generation oraz obciążenia agentic AI w środowiskach rozproszonych.

VAST zapowiedział, że wspólną architekturę, projekty referencyjne i technologie optymalizacji inference zaprezentuje podczas AMD Advancing AI 2026 w San Francisco w dniach 22–23 lipca 2026.