Alice pozyskała 140 mln USD na bezpieczne działanie AI

Alice, której klientami są Anthropic, Google i Cohere, wykorzystuje niemal dekadę doświadczeń w analizie rzeczywistych ataków na systemy cyfrowe. Jej roczne przychody powtarzalne zbliżają się do 100 mln USD.

Alice ogłosiła 25 sierpnia 2026 roku pozyskanie 140 mln USD w rundzie prowadzonej przez Apax Digital Funds. W finansowaniu uczestniczyły także MoreTech i Phoenix Financial oraz dotychczasowi inwestorzy: Resolute Ventures, Grove Ventures, CRV, Highland Europe, Vintage Investments, Norwest, NFX i Claltech. Łączna wartość finansowania spółki wynosi obecnie 280 mln USD. Apax Digital dołączy do rady dyrektorów Alice.

Systemy AI można zaatakować na nieskończenie wiele sposobów, a skutecznej ochrony nie da się zbudować przed zagrożeniami, których wcześniej nie rozpoznano. Od momentu powstania Alice śledzi, w jaki sposób złośliwi użytkownicy wykorzystują największe platformy cyfrowe na świecie. Na tej podstawie spółka stworzyła własny zbiór danych dotyczących rzeczywistych ataków. Obecnie wykorzystuje te informacje do przewidywania ataków na systemy AI i zapobiegania im.

Wraz ze wzrostem znaczenia bezpieczeństwa AI dla laboratoriów badawczych i przedsiębiorstw szybko rośnie popyt na platformę Alice. Roczne przychody powtarzalne spółki (ARR), czyli regularne przychody przeliczone na pełny rok, zbliżają się do 100 mln USD. Działalność związana ze sztuczną inteligencją urosła o ponad 500% w ciągu ostatnich dwóch lat.

Alice prowadzi jedno z największych na świecie laboratoriów badań nad bezpieczeństwem AI. Pracuje w nim ponad 150 badaczy analizujących sposoby manipulowania systemami AI, przyczyny ich błędnego działania oraz metody zapobiegania takim problemom. Spółka chroni ponad 3 mld osób w internecie i współpracuje z 8 z 10 najważniejszych laboratoriów rozwijających modele AI.

Przedsiębiorstwa dają systemom AI dostęp do rzeczywistych danych i narzędzi, a także możliwość samodzielnego wykonywania działań. W takich warunkach rośnie koszt sytuacji, w której system wykracza poza zakres określony dla niego przez twórców lub użytkownika. International AI Safety Report 2026, przygotowany przez ponad 100 ekspertów, wykazał, że nawet dobrze zabezpieczone modele nadal można łamać z dużą częstotliwością. Nowe techniki ataków pojawiają się szybciej, niż zespoły odpowiedzialne za ochronę są w stanie je blokować.

Niezależna organizacja badawcza METR opisała dziesiątki przypadków, w których agenci AI działali poza przyznanym im zakresem uprawnień. W niektórych sytuacjach próbowali nawet ukryć swoje działania przed ludzkim nadzorem.

„Istnieje nieskończenie wiele sposobów na złamanie systemu AI, a nie można bronić się przed czymś, czego nigdy wcześniej się nie widziało” — powiedział Noam Schwartz, prezes i współzałożyciel Alice. „Przez prawie dekadę uczyliśmy się dokładnie, w jaki sposób ludzie nadużywają technologii na skalę miliardów użytkowników — najpierw na największych światowych platformach, a teraz w modelach, które te same osoby próbują atakować. Bardzo szybko upowszechniamy zaawansowane możliwości, zanim zdołamy w podobnym stopniu upowszechnić zabezpieczenia. Ta runda ma pomóc zamknąć tę lukę”.

Alice działa na każdym etapie cyklu życia systemu AI. Zanim model zostanie udostępniony, badacze spółki współpracują z laboratoriami rozwijającymi najbardziej zaawansowane modele, w tym Anthropic, Google i Cohere. Symulują złośliwe polecenia oraz zadania, w których agent AI działa częściowo samodzielnie, aby wykrywać nieprzewidywalne zachowania i wzmacniać ochronę modeli przed jailbreakami, czyli próbami obejścia zabezpieczeń, oraz prompt injection, czyli wstrzykiwaniem instrukcji zmieniających sposób działania modelu.

Po uruchomieniu modelu Alice pomaga przedsiębiorstwom bezpiecznie go wdrażać. Spółka zmniejsza lukę między zabezpieczeniami wbudowanymi w model a wymaganiami konkretnej organizacji. Firmy mogą definiować własne zasady, symulować ataki w celu wykrywania ryzyka naruszenia zgodności, wycieku danych i niezamierzonych działań, a także monitorować dane wejściowe i wyjściowe w czasie rzeczywistym.

Alice budowała te kompetencje przez prawie dekadę, śledząc oszustwa, ekstremizm, skoordynowane manipulacje i inne wrogie działania w otwartym internecie. Efektem tej pracy jest Rabbit Hole — największy na świecie zbiór rzeczywistych treści związanych z atakami i treści szkodliwych. Pozwala on Alice rozpoznawać w systemach AI wzorce ataków, które wcześniej pojawiły się w innych miejscach. Ta sama technologia chroni ponad 3 mld osób na platformach takich jak Google, Meta, TikTok i Amazon.

„Tak jak przejście na platformy chmurowe stworzyło nową kategorię bezpieczeństwa, tak rozwój platform AI otwiera szybko powiększający się obszar podatny na ataki. Będzie on rósł wraz z wdrażaniem agentów AI przez przedsiębiorstwa. Ponieważ przeciwnicy coraz częściej wykorzystują sztuczną inteligencję, obrońcy mogą zwrócić się do Alice po testy modeli i mechanizmy ochronne oparte na największym własnym zbiorze danych dotyczących technik ataków. Cieszymy się, że możemy współpracować z Noamem i jego zespołem, gdy Alice tworzy ten segment rynku” — powiedział Patrick Kane, partner w Apax Digital.

„Najbardziej zaawansowane firmy technologiczne na świecie wybierają Alice, ponieważ jej zabezpieczenia uczą się na bieżąco: ataki zaobserwowane w rzeczywistym świecie stają się podstawą testów, testy dostosowują mechanizmy ochronne, a zachowanie modelu w działającym systemie zasila oba te procesy. Ten cykl wzmacnia się z każdym wykrytym atakiem i każdym nowym klientem” — dodał Eric Levine, wiceprezes Apax Digital.

Alice przeznaczy pozyskane środki na dalszy rozwój platformy AI, w tym technologii testującej, chroniącej i monitorującej modele na wszystkich etapach ich działania. Spółka rozbuduje także zespół pracujący nad Rabbit Hole, aby zbiór danych nadążał za atakami zmieniającymi się każdego dnia. Finansowanie posłuży również do zwiększenia skali zespołu odpowiedzialnego za sprzedaż i rozwój rynku wśród laboratoriów tworzących podstawowe modele AI oraz przedsiębiorstw budujących rozwiązania z wykorzystaniem sztucznej inteligencji.

Alice wcześniej działała pod nazwą ActiveFence. Jest firmą zajmującą się zaufaniem, bezpieczeństwem i ochroną systemów AI. Powstała w 2018 roku, a jej siedziby znajdują się w Nowym Jorku i Tel Awiwie. Spółka prowadzi jedno z największych na świecie laboratoriów badań nad bezpieczeństwem AI, w którym pracuje ponad 150 badaczy analizujących sposoby manipulowania systemami AI, ich błędnego działania i awarii. Alice współpracuje z 8 z 10 najważniejszych laboratoriów rozwijających modele AI oraz chroni ponad 3 mld osób na największych platformach internetowych. Jej platforma korzysta ze zbioru Rabbit Hole, największej na świecie bazy treści związanych z atakami i treści szkodliwych.