Nvidia tworzy Open Secure AI Alliance po incydencie z Hugging Face

Nvidia (NASDAQ: NVDA), producent chipów do sztucznej inteligencji, powołała koalicję z kilkoma spółkami technologicznymi i z obszaru cyberbezpieczeństwa. Celem jest opracowanie i udostępnianie narzędzi, które pomagają chronić systemy AI.

Inicjatywa Open Secure AI Alliance jest odpowiedzią na incydent związany z Hugging Face. Wydarzenie zwiększyło uwagę na ryzyka dotyczące autonomicznych agentów AI.

W skład sojuszu wchodzą: Adobe (NASDAQ: ADBE), CrowdStrike (NASDAQ: CRWD), Hugging Face oraz Dell Technologies (NYSE: DELL).

Sojusz powstał także w kontekście publicznego listu, który popiera otwarte modele AI (modele o „open weights”, czyli otwartych wagach). Nvidia podkreśla, że szerokie ograniczanie rozwiązań działających w otwartych systemach może zmniejszać możliwości obrony, a także zwiększać zależność od niewielkiej liczby zamkniętych dostawców.

Nvidia zapowiedziała, że wniesie do współpracy otwarte modele, wagi modeli, dane oraz badania związane z kontrolą agentów AI. Spółka wskazuje, że proponowane ramy działania mogą pomóc organizacjom testować zachowanie agentów AI, śledzić je, przeprowadzać przeglądy oraz regulować ich działanie. W zamierzeniu ma to stawiać bezpieczeństwo AI i nadzór nad systemami w centrum prac sojuszu.