Współdyrektor Waymo ostrzega firmy AI budujące roboty i samochody

Dmitri Dolgov, współdyrektor generalny należącego do Alphabetu Waymo, uważa, że twórcy sztucznej inteligencji działającej w świecie fizycznym nie powinni przenosić na autonomiczne samochody i roboty kultury „szybkiego działania za wszelką cenę”, znanej z Doliny Krzemowej. W przypadku maszyn poruszających się wśród ludzi błędy mogą mieć nieodwracalne konsekwencje.

Podczas wywiadu dla Y Combinator, opublikowanego w poniedziałek, Dolgov zaproponował inne podejście: „Działaj szybko i wdrażaj bezpiecznie”. Jego zdaniem bezpieczeństwo powinno być uwzględnione od początku w modelach sztucznej inteligencji, metodach ich trenowania oraz architekturze całego systemu. Nie należy dodawać zabezpieczeń dopiero po uruchomieniu produktu.

Dolgov zauważył, że pomyłka chatbota zwykle oznacza konieczność ponowienia pytania. Błąd autonomicznego pojazdu może jednak kosztować „ludzkie życie, a nie tokeny”, czyli jednostki wykorzystywane do przetwarzania tekstu przez modele AI. „Po prostu nie ma przycisku cofnięcia i ponowienia” — powiedział.

Szybka ekspansja Waymo zwiększa znaczenie tych ostrzeżeń. Spółka odnotowała ponad 220 mln mil przejazdów bez udziału kierowcy i obecnie realizuje ponad 500 tys. w pełni autonomicznych przejazdów tygodniowo. Badanie obejmujące 56,7 mln mil takich przejazdów wykazało, że w porównaniu z przejazdami prowadzonymi przez ludzi odsetek wypadków zgłaszanych jako powodujące obrażenia oraz wypadków, w których doszło do uruchomienia poduszek powietrznych, był statystycznie niższy.

Historia Waymo nie jest jednak pozbawiona problemów. W maju spółka objęła akcją wycofania z rynku prawie 3 800 robotaksówek, ponieważ błąd oprogramowania mógł kierować pojazdy na zalane drogi. Później wycofała prawie 3 900 pojazdów po ponad tuzinie incydentów, w których robotaksówki wjeżdżały na zamknięte odcinki autostrad objęte pracami budowlanymi. Na czas instalowania aktualizacji firma tymczasowo zawiesiła obsługę przejazdów po autostradach.

Waymo znalazło się również pod lupą federalnych organów nadzoru z powodu przypadków omijania zatrzymanych autobusów szkolnych oraz nieprzewidywalnego zachowania w pobliżu sygnalizacji i innych urządzeń kierujących ruchem.

W lipcu amerykańska Krajowa Administracja Bezpieczeństwa Ruchu Drogowego (NHTSA) ostrzegła twórców pojazdów autonomicznych przed „wyraźnym wzorcem” sytuacji, w których pojazdy bez kierowcy wjeżdżały na miejsca działań ratunkowych, blokowały karetki pogotowia i wozy strażackie albo nieprawidłowo reagowały na światła, dym i pachołki drogowe.

Administrator NHTSA Jonathan Morrison napisał w komunikacie opublikowanym na początku lipca, że każdy pojazd zautomatyzowany, który nie potrafi bezpiecznie współpracować ze służbami ratunkowymi, stanowi zagrożenie dla społeczeństwa. Zaapelował do firm o nadanie najwyższego priorytetu usunięciu tych problemów.

Argumentacja Dolgova działa w obie strony. Badania dotyczące bezpieczeństwa przemawiają za ostrożnym wdrażaniem usług komercyjnych, ale wycofania pojazdów z rynku pokazują, że systemy sztucznej inteligencji działające w świecie fizycznym wymagają dalszych testów także po rozpoczęciu działalności.