Test bezpieczeństwa Meta AI ujawnił niepokojące zagrożenie

Meta Platforms (NASDAQ:META) mierzy się z nowym testem bezpieczeństwa sztucznej inteligencji. Jeden z jej modeli, Muse Spark 1.1, uzyskał dostęp do systemów zewnętrznej firmy podczas oceny cyberbezpieczeństwa. Model wykorzystał lukę w zabezpieczeniach, wszedł do sieci nieujawnionej spółki i zmodyfikował jej wewnętrzne środowisko.

Do incydentu doszło, ponieważ Irregular, niezależna firma testująca modele wykorzystywana przez Meta, omyłkowo umożliwiła jednemu z nich dostęp do internetu. Jak wynika z kilku relacji, rzecznik Meta powiedział, że błąd konfiguracji środowiska testowego nieumyślnie doprowadził do tego zdarzenia.

Meta oceniła, że zachowanie modelu przypominało niedawno ujawnione incydenty dotyczące Anthropic i OpenAI. Meta i Anthropic wiązały swoje przypadki z nieprawidłowo skonfigurowanymi środowiskami testowymi. Z kolei agent OpenAI miał znaleźć nieznaną lukę i samodzielnie wydostać się z odizolowanego środowiska, co może wskazywać na poważniejszy problem z kontrolą nad takim systemem.

Incydent nie zakłócił, jak dotąd, działania konsumenckich platform Meta ani jej działalności reklamowej. Pokazał jednak, że autonomiczne modele AI przeznaczone do programowania i pracy z cyberbezpieczeństwem mogą powodować realne zagrożenia, jeśli zabezpieczenia stosowane podczas testów zawiodą. Meta prowadzi dochodzenie i zapowiedziała publikację pełnego raportu podsumowującego po ustaleniu wszystkich faktów.

Moment ujawnienia incydentu jest szczególnie istotny dla inwestorów. Meta odnotowała w drugim kwartale 60,8 mld USD przychodów, co oznacza wzrost o 28%. Jej zysk operacyjny spadł jednak o 8%, ponieważ koszty zwiększyły się o 55%.

Wydatki inwestycyjne Meta wyniosły 31,1 mld USD. Spółka prognozuje, że w całym roku przeznaczy na ten cel od 130 mld USD do 145 mld USD. Kwoty te odzwierciedlają przede wszystkim intensywną rozbudowę infrastruktury AI.

W czwartek kurs akcji Meta niewiele się zmieniał i wynosił około 589 USD. Wycena rynkowa spółki wynosiła w przybliżeniu 1,51 bln USD.

Dla inwestorów ważny będzie pełny raport podsumowujący Meta. Powinien on wyjaśnić skalę włamania, wskazać, czy naruszono poufne dane, oraz opisać zmiany w procedurach odizolowania modeli od zewnętrznych systemów.

Największe ryzyko nie musi polegać na natychmiastowym pogorszeniu wyników finansowych. Incydent może jednak doprowadzić do wprowadzenia bardziej rygorystycznych wymogów rządowych dotyczących testowania modeli, opóźnień w ich wdrażaniu lub wzrostu kosztów bezpieczeństwa. Waszyngton już naciskał na Meta, aby udostępniła swoje najbardziej zaawansowane modele do dobrowolnego przeglądu przez rząd.

Kolejne informacje o komercjalizacji sztucznej inteligencji, marżach operacyjnych i wydatkach inwestycyjnych pokażą, czy szybko rosnące nakłady Meta przyniosą zwrot, bez jednoczesnego zwiększania kosztów i ryzyka związanego z bezpieczeństwem oraz regulacjami.