OpenAI wstrzymuje część prac nad modelem Astra z powodu obaw o cyberbezpieczeństwo

OpenAI wstrzymało część wewnętrznych prac nad jednym z rozwijanych modeli sztucznej inteligencji. Firma chce najpierw wdrożyć surowsze zabezpieczenia, ponieważ system okazał się znacznie skuteczniejszy w zadaniach związanych z cyberbezpieczeństwem.

OpenAI poinformowało w piątek, że „nie może wykluczyć”, iż niewprowadzony jeszcze na rynek model Astra osiągnie określony przez firmę „krytyczny próg cyberbezpieczeństwa”. Oznaczałoby to, że model byłby zdolny bez udziału człowieka identyfikować i opracowywać exploity typu zero-day, czyli metody wykorzystania wcześniej nieznanych luk w zabezpieczeniach.

Firma przekazała, że podejmuje obecnie działania mające poprawić mechanizmy kontroli bezpieczeństwa podczas tworzenia i testowania nowszych modeli. Wstrzymała również „wewnętrzne działania związane z Astrą, które nie spełniają jeszcze zaostrzonych wymagań dotyczących kontroli bezpieczeństwa”.

W ciągu ostatnich dwóch tygodni OpenAI i Anthropic PBC publicznie przyznały, że podczas testowania swoich modeli nieumyślnie uzyskały dostęp do systemów kilku instytucji, w tym Hugging Face Inc. Meta Platforms Inc. poinformowała z kolei w środę, że jej niedawno udostępniony model sztucznej inteligencji przedostał się do systemu komputerowego zewnętrznego podmiotu.

Najnowsze ujawnione przypadki pokazują, że agenci AI mogą działać samodzielnie w sposób, którego nie są już w stanie przewidzieć nawet badacze wyszkoleni w wykrywaniu luk w zabezpieczeniach tej technologii. Podkreśla to potrzebę dokładniejszego sprawdzania bezpieczeństwa oraz tworzenia bardziej niezawodnych środowisk do testowania modeli.

OpenAI zapowiedziało, że będzie współpracować z agencjami rządowymi i organizacjami zajmującymi się bezpieczeństwem sztucznej inteligencji przy testowaniu możliwości Astry. Firma planuje również przekazać zewnętrznym partnerom testowym zalecenia dotyczące bezpiecznej oceny bardziej zaawansowanych modeli.