Andy Jassy z Amazonu wskazywany jako współautor obaw ws. modeli Anthropic; po restrykcjach Fable 5 i Mythos 5 wyłączone

Anthropic miało pokazać przełomowe modele, aby podkreślić swój technologiczny poziom tuż przed planowanym IPO. Tymczasem najnowsze systemy firmy zostały wycofane z publicznego dostępu na całym świecie, po tym jak administracja Trumpa wprowadziła kontrole eksportu związane z obawami o bezpieczeństwo.

Według doniesień jeden z kluczowych uczestników tych rozmów miał wskazywać na ryzyko, które wiąże się z możliwościami modelu Anthropic. W tym kontekście pojawia się nazwisko Andy’ego Jassya, CEO Amazonu (NYSE: AMZN). Amazon jest jednym z największych inwestorów w Anthropic i – w razie sukcesu firmy – może bezpośrednio skorzystać na jej rozwoju.

Co stało za decyzją o ograniczeniach

Doniesienia z Wall Street Journal, później powtarzane przez Reuters, TechCrunch i The Information, opisują rozmowę Jassya z sekretarzem skarbu Scottem Bessentem oraz innymi urzędnikami. Jassy miał przekazać, że badacze Amazonu użyli modelu Fable 5 do pozyskania informacji, które potencjalnie mogłyby zostać wykorzystane w cyberatakach.

Krótko po tych ustaleniach rząd USA miał ograniczyć dostęp do Fable 5, a następnie także do bardziej zaawansowanego modelu Mythos 5.

Anthropic nie zgadza się z taką oceną sytuacji.

Rola Amazonu i skala inwestycji

Amazon nie potwierdził szczegółów żadnych rozmów Jassya z przedstawicielami rządu. Reuters i TechCrunch informowały jednocześnie, że rzecznik firmy miał przyznać, iż rządy czasem proszą Amazon o opinię w kwestiach potencjalnych ryzyk bezpieczeństwa.

Sprawa ma jednak wymiar szczególnie złożony, bo Amazon jest jednym z najważniejszych sponsorów Anthropic. Firma zainwestowała w startup co najmniej 8 mld USD i zadeklarowała możliwość dalszego finansowania – łącznie nawet do 25 mld USD. Ostatnio wartość udziału Amazonu w Anthropic szacowano na ponad 74 mld USD na papierze, po bardzo szybkim wzroście wyceny Anthropic.

Kontrowersja pojawia się kilka dni po publicznym ostrzeżeniu Dario Amodeiego, który wskazywał, że rozwój AI może postępować zbyt szybko i wezwał do mocniejszych zabezpieczeń dla coraz bardziej zdolnych systemów. Urzędnicy z administracji argumentowali też, że Anthropic nie zareagowało wystarczająco na obawy, gdy pokazano sposoby obchodzenia barier ochronnych modeli.

David Sacks, współprzewodniczący President’s Council of Advisors on Science and Technology, miał powiedzieć, że rząd poprosił Anthropic o naprawę lub usunięcie modeli, a firma odmówiła. Anthropic kwestionuje ten opis.

Amazon nie odniósł się do prośby o komentarz w tej sprawie.

Możliwy wpływ na planowane IPO

Wątek regulacyjny może mieć znaczenie dla wyjścia na giełdę Anthropic. Firma złożyła poufnie dokumenty do amerykańskiego IPO na początku tego miesiąca, a oferta jest szeroko postrzegana jako jedna z najważniejszych w ostatnich latach. Reuters podał, że Anthropic osiągnęło niedawno wycenę 965 mld USD na rynku prywatnym po pozyskaniu 65 mld USD finansowania, co ma przewyższać ostatnią wycenę OpenAI.

Jeśli Fable 5 i Mythos 5 ostatecznie wrócą do użytku, cała sytuacja pokazuje jednak nową warstwę ryzyka: możliwość interwencji regulacyjnej w działalność firm rozwijających „frontier AI”. Jeżeli rząd USA potrafi w krótkim czasie wymusić wyłączenie flagowych modeli u jednego z najbardziej zaawansowanych graczy, inwestorzy mogą zacząć domagać się większej przejrzystości, jak firmy zabezpieczają kwestie cyberbezpieczeństwa i jak prowadzą relacje z instytucjami państwowymi.

Jednocześnie fundamenty działalności Anthropic pozostają mocne. Spółka raportowała w tym roku, że jej przychody o charakterze „run-rate” przekraczają 47 mld USD, a firma wciąż jest uznawana za jedną z czołowych w wyścigu o komercjalizację zaawansowanego AI.

Czy obecny konflikt okaże się tylko chwilową przeszkodą, czy stanie się trwałym problemem dla potencjalnych akcjonariuszy, może zależeć od tego, jak szybko Anthropic uporządkuje spór z Waszyngtonem i przywróci dostęp do najbardziej zaawansowanych modeli.

Stanowisko Anthropic

W odpowiedzi na prośbę o komentarz Anthropic wskazało na wcześniejsze publiczne wyjaśnienia, w których twierdzi, że opisany „jailbreak” ujawnił jedynie „wcześniej znane, drobne podatności”, a podobne możliwości są już dostępne w modelach konkurencji.