Jamie Dimon: szeroki dostęp do modelu Anthropic Mythos to realne ryzyko

Jamie Dimon, dyrektor generalny JPMorgan Chase & Co., powiedział, że ryzyka wynikające z modelu AI Anthropic „Mythos” to „realny problem”. Dodał, że urzędnicy rządowi w USA skupiają się teraz na działaniach, które mają ograniczyć możliwe zagrożenia.

Dimon zwrócił uwagę na skutki szerokiego udostępniania potężnych systemów AI. Ostrzegł, że powszechny dostęp do Mythos może stworzyć zagrożenia porównywalne do sytuacji, w której „pociski balistyczne trafiają w ręce osób prywatnych”.

Tym, jak państwa powinny zarządzać ryzykiem cyberbezpieczeństwa, jakie mogą stwarzać zaawansowane modele AI, zajmuje się też Anthropic — firma znalazła się w centrum tej debaty.

W kwietniu Anthropic ogłosił uruchomienie Project Glasswing, czyli defensywnej inicjatywy cyberbezpieczeństwa opartej na bardzo zaawansowanym, jeszcze nieudostępnionym publicznie modelu „Claude Mythos”. Firma podkreślała, że zamiast wypuszczać model wprost do publicznego obiegu, najpierw współpracowała z ponad 50 organizacjami, m.in. z Google, Microsoft i Apple. Celem było proaktywne skanowanie i łatane — czyli „łatkowanie” — krytycznych podatności w oprogramowaniu, zanim mogłyby zostać wykorzystane przez sztuczną inteligencję w ujęciu o charakterze wrogim (adversarial).

Później Anthropic dołączył kolejne firmy. W opisie projektu przekazał, że rozszerzył dostęp do projektu do około 150 nowych organizacji.

Anthropic zaznaczył, że Project Glasswing oraz możliwości „Claude Mythos Preview” wywołały szeroką dyskusję zarówno w branży oprogramowania, jak i wśród rządów, o tym, jak zmienia się cyberbezpieczeństwo wraz z rozwojem AI.

Firma opisała też swoje podejście w dwóch krokach. Po pierwsze ma pomagać branży oprogramowania w dostosowaniu się poprzez bezpieczne, szerokie udostępnianie lepszych modeli, narzędzi i wspólnej infrastruktury. Po drugie wsparcie ma stopniowo przesuwać się z samego znajdowania podatności na ujawnianie, doprowadzanie do napraw oraz wdrażanie oprogramowania po wprowadzeniu poprawek.

Anthropic, założony w 2021 roku przez byłych pracowników OpenAI, szybko stał się ważnym graczem na rynku sztucznej inteligencji. Firma tworzy narzędzia, które wpływają na to, jak biznes podchodzi m.in. do programowania oraz cyberbezpieczeństwa.

W maju Anthropic wyprzedził OpenAI i został uznany za najcenniejszy na świecie startup po rundzie Series H o wartości 65 mld USD, która wyceniła firmę na 965 mld USD. Wiodącymi inwestorami w tej rundzie były Altimeter Capital, Dragoneer, Greenoaks oraz Sequoia Capital.

Anthropic prowadzi obecnie rozmowy z inwestorami przed potencjalnym dużym wejściem na giełdę. Firma chce skorzystać z silnego popytu na debiuty spółek związanych z AI.

Banki prowadzące ofertę umawiają spotkania z inwestorami w najbliższych tygodniach. Według doniesień firma rozważa IPO już na początku października. Twórca „Claude” zatrudnił do obsługi procesu Morgan Stanley, Goldman Sachs Group oraz JPMorgan Chase. Szczegóły IPO są w toku i mogą ulec zmianie.