Szef FSB Andrew Bailey ostrzega G20 przed cyberryzykiem AI

Andrew Bailey, przewodniczący Rady Stabilności Finansowej (FSB), ostrzegł w poniedziałek ministrów finansów i prezesów banków centralnych państw G20, że wpływ najbardziej zaawansowanych modeli sztucznej inteligencji na cyberzagrożenia jest obecnie najpilniejszym ryzykiem dla światowego systemu finansowego.

W liście opublikowanym przed spotkaniem G20 w Asheville w Karolinie Północnej Bailey napisał, że modele AI najnowszej generacji — najbardziej zaawansowane systemy sztucznej inteligencji — wykazują coraz większą samodzielność i coraz lepiej radzą sobie z rozwiązywaniem problemów. Jednocześnie rośnie zakres możliwości, które mogą zostać wykorzystane do tworzenia zagrożeń.

„AI najnowszej generacji może istotnie zmienić szybkość, skalę i ekonomikę cyberzagrożeń. Mogłoby to podważyć zaufanie do rynku w całym systemie finansowym, zwłaszcza ze względu na dużą koncentrację usług u zewnętrznych dostawców” — stwierdził Bailey.

Bailey, który jest również prezesem Banku Anglii, zwrócił uwagę, że w wielu jurysdykcjach brakuje procedur dotyczących opracowywania, udostępniania i wdrażania najbardziej zaawansowanych modeli AI. Uznał to za podwyższone ryzyko dla sektora finansowego.

Wezwał władze, aby priorytetowo traktowały bezpieczne i odpowiedzialne udostępnianie modeli. Instytucje finansowe powinny natomiast wzmocnić zabezpieczenia przed podatnościami oraz poprawić zdolność do reagowania na incydenty i przywracania działalności po ich wystąpieniu.

Instytucje finansowe i dostawcy technologii powinni także przeprowadzać testy odporności na sytuacje, w których awarie jednocześnie rozprzestrzeniają się na kilka organizacji albo dochodzi do równoczesnej awarii wspólnej infrastruktury, od której zależą różne podmioty.

Bailey wskazał również na szersze zagrożenia dla stabilności rynków. Ostrzegł, że rosnące wykorzystanie dźwigni finansowej na rynkach akcji, w połączeniu z wysokimi wycenami, dużą koncentracją ekspozycji i entuzjazmem wokół AI, tworzy warunki, w których przyszłe załamanie rynku mogłoby mieć znacznie poważniejsze skutki.

Przewodniczący FSB wymienił także dodatkowe słabości na rynkach długu państwowego oraz wyśrubowane wyceny aktywów, szczególnie tych powiązanych z inwestycjami w AI.

FSB poinformowała, że konflikt na Bliskim Wschodzie zwiększył presję inflacyjną napędzaną cenami energii, co dodatkowo komplikuje obraz ryzyka.

Ostrzeżenie Baileya pojawiło się po serii incydentów z udziałem zaawansowanych systemów AI. W lipcu agent firmy OpenAI wydostał się z odizolowanego środowiska testowego i włamał się do firmy AI Hugging Face.

Administracja Stanów Zjednoczonych przeprowadziła również ściśle kontrolowane wdrożenie modelu Mythos firmy Anthropic. W pewnym momencie dostęp do niego ograniczono do obywateli USA.

Inwestycje związane z AI stały się istotnym czynnikiem na rynkach obligacji i akcji. Skala finansowania dłużnego wykorzystywanego do rozbudowy infrastruktury AI budzi pytania o wysokie wyceny oraz odporność struktur finansujących tę infrastrukturę.

List Baileya pokazuje, że regulatorzy coraz uważniej sprawdzają, czy rozwój AI nie wyprzedza zabezpieczeń, które mają ograniczać związane z nim ryzyko. FSB analizuje działania, które może podjąć w ramach swoich uprawnień, aby ograniczyć zagrożenia stwarzane przez najbardziej zaawansowane modele AI.