Układy Apple gotowe na lokalną AI. PrismML dokonał przełomu

14 lipca startup PrismML, związany z Caltech, udostępnił Bonsai 27B — bezpłatny model sztucznej inteligencji (AI), który został skompresowany na tyle, by działać lokalnie na iPhonie 17 Pro firmy Apple (NASDAQ: AAPL). Według spółki zachowuje on około 90% wydajności pierwotnego modelu.

Zaawansowana AI, która mieści się w telefonie, może być ważną zmianą dla konsumentów. Dyrektor generalny PrismML powiedział niedawno CNBC, że Apple prowadzi z firmą „bardzo wstępne” rozmowy na temat tej technologii. Z czasem bezpłatna, lokalna AI o otwartych wagach — czyli taka, której parametry są dostępne do wykorzystania i modyfikacji — może stać się dla użytkowników zestawem usług wybieranych według potrzeb. Własne układy Apple zostały zaprojektowane tak, aby uruchamiać tego rodzaju rozwiązania.

### Poważny model, który mieści się w telefonie

Tradycyjny model z 27 mld parametrów nie zmieściłby się w pamięci użytkowej telefonu. Bonsai zajmuje 3,9 GB, bazuje na modelu Qwen3.6 firmy Alibaba i może działać na iPhonie 17 Pro, a także na iPadzie, komputerach Mac i komputerach PC.

Zmniejszanie rozmiaru modeli o otwartych wagach nie jest nowym pomysłem. Nowością jest jednak skompresowanie modelu tej klasy przy zachowaniu jego wydajności. Dla Apple, którego najnowsze układy zaprojektowano z myślą o uruchamianiu AI bezpośrednio na urządzeniu, może to zwiększyć znaczenie własnych prac nad modelami bazowymi, czyli uniwersalnymi modelami wykorzystywanymi do tworzenia różnych usług AI.

Najnowsze iPhone’y korzystają z układów A19 i A19 Pro wyposażonych w akceleratory neuronowe. Apple twierdzi, że zapewniają one wyraźny wzrost wydajności zadań związanych ze sztuczną inteligencją. Podczas kwietniowej telekonferencji dotyczącej wyników za drugi kwartał zarząd określił Maca mianem „najlepszej platformy dla AI”. Według spółki jej układy mogą uruchamiać zaawansowaną AI jak nigdy wcześniej.

### Kto zarobi na AI dla konsumentów?

Większość zastosowań AI dla konsumentów jest bezpłatna. W lutym OpenAI przekroczyło poziom 900 mln aktywnych użytkowników tygodniowo. Około 50 mln z nich płaciło za subskrypcję, co oznaczało współczynnik konwersji na poziomie około 5,5%.

Jeśli firmy tworzące najbardziej zaawansowane modele liczyły na to, że użytkownicy będą płacić za przetwarzanie zapytań przez AI, ta możliwość może się zmniejszać. Bezpłatne modele o otwartych wagach stale się poprawiają i zdobywają udział w rynku.

Pozycja Apple jest inna. Spółka zarabia przede wszystkim na sprzedaży urządzeń. Upowszechnienie lokalnej AI oznaczałoby potrzebę montowania w nich większej ilości pamięci i zapewnienia większej mocy obliczeniowej. Podniosłoby to koszty produkcji sprzętu Apple.

Dotychczasowe działania Apple w dziedzinie AI były mało przekonujące. Przebudowana Siri, której debiut wcześniej opóźniono, nie spełniła oczekiwań w wewnętrznych testach przeprowadzonych w lutym. Zarząd wyraził jednak optymizm podczas telekonferencji dotyczącej wyników z 30 lipca. Funkcje AI Siri były wtedy od kilku tygodni dostępne w publicznej wersji testowej, a opinie użytkowników były pozytywne.

W lipcu Apple pozwało OpenAI przed sądem federalnym. Spółka zarzuciła rywalowi kradzież tajemnic handlowych w związku z byłymi inżynierami Apple, którzy dołączyli do OpenAI. Pozew obejmuje również twierdzenia, że tajemnice handlowe miały pomóc OpenAI w budowie własnych urządzeń.

Pozew Apple przeciwko OpenAI postawił rywalizację o rynek AI dla konsumentów w centrum uwagi. Zgodnie z przewidywaniami Apple nie komentowało sprawy podczas telekonferencji dotyczącej wyników.

Apple ma już odpowiednie układy. Dzięki przełomom takim jak rozwiązanie PrismML użytkownicy mogą wkrótce uzyskać dostęp do zaawansowanej AI, która działa bez połączenia z internetem, pozwala przechowywać dane na urządzeniu i nie wymaga miesięcznej opłaty.