Hebbia: era „tokenmaxxing” nie obniżyła kosztów pracy. Firmy trafiły w chaos zarządzania

George Sivulka, 27-letni absolwent Stanforda i założyciel oraz szef firmy Hebbia (startup w obszarze AI dla przedsiębiorstw), wskazuje na sedno obaw związanych z erą agentów AI. Firmy za szybko wdrażały „AI workforces”, ale nie budowały infrastruktury zarządczej potrzebnej, by taką pracę realnie kontrolować.

Hebbia obsługuje m.in. BlackRock, KKR oraz amerykańskie Siły Powietrzne. To daje Sivulce perspektywę z pierwszej linii na to, jak te problemy wyglądają wewnątrz dużych organizacji. W swoim tekście podkreśla, że AI nie obniżyło kosztów pracy. Wprost odwróciło to równanie: „po raz pierwszy w historii ludzie są tańsi niż oprogramowanie”. A do menedżerów, którzy rzucili się na wdrożenia określane krótko jako „tokenmaxxing”, kieruje ostrzeżenie: „właśnie zatrudniliście milion złych pracowników”.

Wskazuje też, że ta faza szybko się skończyła. Powodem miały być m.in. ujawnienia Amazona, który w ciągu jednego miesiąca odnotował stratę 500 mln USD — gdy agenci „szaleli” bez realnych efektów. Z kolei Ford Motor Company miała wrócić do zatrudniania nowych inżynierów „graybeards”, by pracowali razem z AI w ramach działań wzmacniających.

Sivulka porównuje ten moment do kolejowej katastrofy z 1841 roku. Wtedy w USA szybko rosła długość linii kolejowych — w ciągu dekady około 120-krotnie — a branża nie miała odpowiednich systemów koordynacji. W efekcie doszło do śmiertelnego zderzenia pociągów w Massachusetts, które wymusiło powstanie nowoczesnego zarządzania: z jasnymi rolami, liniami raportowania i hierarchią.

Według niego to kryzys sprawił, że koleje stały się jedną z pierwszych branż wartą miliardy dolarów, a „w szczycie” odpowiadały za ok. 60% wartości giełdowej. Podobnie — jego zdaniem — agenci AI uruchomiły apetyt na „pracę w sieci” i efekt skali, ale zarządzanie AI jest trudniejsze niż zarządzanie ludźmi: AI skaluje dysfunkcję „natychmiast”.

Dlaczego firmy „zatrudniły milion złych pracowników”

Sedno diagnozy Sivulki jest takie: agenci AI nie zawodzą dlatego, że modele są słabe. Zawodzi to, że w firmach prawie nikt nie potrafi opisać zadania na tyle jasno, by agent wykonał je dobrze.

Sivulka szacuje, że umiejętność dostarczania AI właściwego kontekstu ma „1 na 100 pracowników”. To określa jako „rzadki gatunek” ludzi myślących jasno. Reszta — według niego — po prostu nie ma tej kompetencji.

W efekcie powstaje zjawisko, które nazywa „looping”. Chodzi o sytuację, w której agenci wywołują samych siebie w kółko, próbując się samodzielnie korygować po błędnych instrukcjach. Sivulka opisuje to wprost: „wydawanie tokenów na wydawanie tokenów”.

Tokeny to koszt, ale nie ten właściwy problem

Sivulka twierdzi, że branża błędnie zdiagnozowała własny cykl hossy na hype’ie. W jego ujęciu „tokenmaxxing” najpierw wystrzelił wydatkami, a potem załamał się w ciągu miesiąca, ale „liczba wydanych tokenów nigdy nie była prawdziwym problemem”. Problemem miało być to, że ludzie nie wiedzieli, jak wykorzystywać tokeny efektywnie.

UBS, powołując się na rozmowy z firmami, podaje konkretne liczby. Jedno z AI-owych przedsiębiorstw miało ujawnić, że wydało na Anthropic 20 tys. USD w grudniu i jest na drodze, by w lipcu przekroczyć 1 mln USD — czyli wzrost ok. 50x w siedem miesięcy. Mimo skoku firma nie zamierzała ograniczać użycia: „nie throttlujemy, nie chcemy przerywać — ludzie mają z tego korzystać”.

Jednocześnie firma wdraża brakującą warstwę zarządzania. Ma „alertować” po przekroczeniu określonego progu miesięcznie i uruchamiać wewnętrzne „governors” — czyli reguły ograniczające użycie, tak aby np. działy G&A (ogólne koszty i administracja) nie korzystały z „frontier models”, czyli najbardziej zaawansowanych, najdroższych modeli.

W podobnym kierunku ma iść szerszy rynek. Pojawiają się też publiczne wypowiedzi OpenAI, że „AI costs” stały się dużym problemem, który wcześniej nie był przedmiotem uwagi na początku roku. UBS szacował także, że niepokój kosztami tokenów stał się „realnym zmartwieniem” ok. 60% organizacji — a ta liczba ma wyglądać dziś na wyższą.

Sivulka odnosi to także do krytyki ze strony Palantir, w tym wypowiedzi szefa firmy Alexa Karpa. Miał on mówić, że laboratoria AI „całkowicie i nieodpowiedzialnie” przeszacowały swoje modele, podczas gdy przedsiębiorstwa palą pieniądze na konsumpcji tokenów bez dyscypliny zwrotu z inwestycji. „Coś poszło kompletnie źle”, miał powiedzieć, dodając, że „podstawowe podejście w firmach w tym kraju jest takie, że będę sobie siedzieć i ‘chillaxować’, marnując czas na tokeny”.

Zarządzanie zamiast wiarę w marketingowe obietnice

W ujęciu Sivulki problem polega na tym, że obietnice z marketingu AI nie wytrzymują testu w perspektywie „siły roboczej”. Do tego dochodzi jego szersza krytyka zbyt rozbudowanych struktur organizacyjnych. Twierdzi, że wiele firm jest już dziś „źle zarządzanych”, a część pracowników działa jak „trybiki w maszynie”. W argumentacji pojawia się porównanie do redukcji zatrudnienia w X o 80% dokonanej przez Elona Muska — według Sivulki firma radziła sobie lepiej właśnie dlatego, że cięcia usunęły „martwy ciężar”.

Analogicznie: „tak jak 80% pracowników nic nie robi, tak dziś 80% tokenów nic nie robi”.

„100x token” jako kierunek rozwiązania

Sivulka nie mówi, że AI jest zepsute. Uważa, że rozwiązanie jest takie samo jak w latach 40. XIX wieku dla kolei: lepsze zarządzanie, a nie mniej technologii.

Jako kluczową kompetencję na kolejną dekadę wskazuje „engineering kontekstu” — czyli umiejętność dopasowywania kontekstu do zadań, aby agenty działały precyzyjnie. „Inżynier 10x zbudował poprzednią erę firm. Token 100x zbuduje następną” — mówi Sivulka. W jego ujęciu przesunięcie ekonomiczne działa tak: ludzie są z reguły tańsi niż tokeny, ale dobre tokeny stają się tańsze w skali. To zarządzanie ma przekładać jedną rzecz na drugą.

UBS opisuje, że część firm dochodzi niezależnie do tego samego rozwiązania poprzez „model routing” — czyli kierowanie konkretnych podzadań do konkretnych modeli zamiast traktowania AI jako jednego, niepodzielnego narzędzia.

Jedna z dyrektorek firmy AI miała opisać zmianę: „Sześć miesięcy temu braliśmy całe zadanie i mówiliśmy: ‘okej, ten model jest prawdopodobnie najlepszy do tego’. Teraz podzadania w ramach projektu idą do różnych modeli, bo wiemy dokładnie, które modele są dobre do których zadań”.

Zysk ma mieć charakter arbitrażu kosztowego. Ten sam rozmówca miał powiedzieć, że da się korzystać z wielu modeli i „jest okno na różnice kosztowe”, bo firma ma dane o tym, do jakich konkretnych zadań modele są najlepsze. „Jest sporo arbitrażu po stronie ceny, który możemy przekazywać naszym klientom”.

Inna firma wyjaśniła podział jeszcze prościej: w rutynowych procesach, gdzie liczy się mniej „doświadczenie podobne do ludzkiego”, używa się tańszych lub szybszych modeli. Modele „frontier” zostawia się na przypadki „core use cases” — czyli „nasz chleb powszedni”. To wprost odpowiada argumentowi Sivulki, że management, a nie sama surowa moc modeli, zamienia stracone wydatki w przewagę.

Ryzyko „context hoarding”, czyli ukrywania wiedzy przed AI

Sivulka ostrzega też przed tarciem organizacyjnym, gdy pracownicy zaczynają opierać się oddawaniu systemom AI swojej wiedzy instytucjonalnej. Przykładem ma być Meta. Pracownicy mający udziały w spółce, mimo że są finansowo zainteresowani tym, by AI działało, mają naciskać, by firma nie wykorzystywała ich kontekstu pracy jako danych treningowych. To określa jako „mikroobraz” tego, co ma wydarzyć się w całej branży.

Jego zdaniem rośnie zjawisko „context hoarding”, czyli „gromadzenia kontekstu”, które staje się „najnowszą taktyką obrony miejsc pracy”. Sivulka nazywa to „dużym problemem politycznym” w firmach i ocenia, że będzie się pogłębiać. „Pracownicy nie chcą uczyć AI swojego sekretnego sposobu działania”. A gdy już wiedzą, że zarządzanie w firmie nie potrafi wykorzystywać tokenów tanio, zyskują pozycję negocjacyjną.