Rewolucja AI, która już działa w Twoim telefonie

Jedziesz pociągiem, a zasięg właśnie zniknął. Telefon wciąż potrafi rozpoznać elementy zdjęcia, a klawiatura może podpowiadać kolejne słowa. Na zgodnym urządzeniu niektóre narzędzia potrafią także poprawić krótki tekst bez wysyłania go do zewnętrznego serwera. Nie widać żadnej rewolucji: ekran wygląda tak samo jak wczoraj. Zmieniło się jednak miejsce, w którym wykonywane są obliczenia.

Przez lata najbardziej imponujące narzędzia AI opierały się głównie na ogromnych centrach danych. Telefon wysyłał zapytanie i czekał na wynik. Ten model nadal jest potrzebny przy trudnych zadaniach, lecz coraz więcej pracy można wykonać lokalnie. Nazywa się to on-device AI, czyli sztuczną inteligencją działającą bezpośrednio na urządzeniu. To nie jedna aplikacja ani jeden producent, tylko inny sposób podziału zadań między telefon a chmurę.

Co właściwie działa w telefonie?

Pod napisem „AI” kryją się różne technologie. Aparat może używać uczenia maszynowego do poprawiania zdjęcia. System rozpoznawania mowy zamienia dźwięk na tekst. Model językowy streszcza wiadomość lub proponuje nową wersję zdania. Jedne zadania obsługują niewielkie, wyspecjalizowane modele, inne — większe modele generatywne. Część działa lokalnie, część korzysta z internetu, a niektóre funkcje łączą oba podejścia.

To ważne, ponieważ przycisk AI w aplikacji nie mówi, gdzie naprawdę odbywają się obliczenia. Asystent wymagający połączenia z serwerem może wyglądać identycznie jak funkcja działająca bez sieci. Z kolei program, który początkowo musi pobrać model, później potrafi pracować offline. Aby to odróżnić, potrzebujemy opisu konkretnej funkcji i — jeśli to możliwe — prostego testu bez internetu.

Jak mały komputer radzi sobie z dużym pomysłem?

Model AI to matematyczna struktura zawierająca wzorce wyuczone podczas treningu. Podczas używania system stosuje je do nowych danych: zdjęcia, dźwięku lub tekstu. Ten etap to wnioskowanie, po angielsku inference. Uczenie modelu zwykle kosztuje znacznie więcej obliczeń niż późniejsze korzystanie z gotowego rozwiązania. Telefon nie musi więc za każdym razem uczyć się od początku.

Współczesne smartfony mają procesor CPU do ogólnych zadań, układ graficzny GPU przyspieszający obliczenia równoległe i często specjalny blok NPU, zaprojektowany do działań typowych dla AI. Oprogramowanie dobiera sprzęt do potrzeb. Dzięki temu niektóre funkcje działają szybciej i oszczędniej. Nadal istnieją ograniczenia pamięci, nagrzewania się telefonu i baterii.

Inżynierowie zmniejszają też rozmiar modeli. Jedną z metod jest kwantyzacja, czyli zapisywanie części liczb z mniejszą dokładnością, aby ograniczyć ilość pamięci i liczbę operacji. Zyskujemy szybkość, ale model trzeba ponownie przetestować, ponieważ może zachowywać się inaczej. Niewielki system świetnie radzący sobie z krótkim podsumowaniem nie musi nadawać się do analizy trudnego problemu prawnego albo naukowego.

Android: Gemini Nano i AICore

Google opisuje Gemini Nano jako kompaktowy model generatywny przeznaczony do pracy na zgodnych urządzeniach z Androidem. Jego działaniem zarządza usługa systemowa AICore. Programiści mogą wykorzystywać udostępniane przez Google interfejsy między innymi do podsumowań, korekty i przekształcania krótkich tekstów. W odpowiednich konfiguracjach obliczenia odbywają się lokalnie, bez przesyłania każdej prośby do modelu w chmurze.

Nie oznacza to, że każda wersja Androida i każdy smartfon ma te same możliwości. Znaczenie mają model urządzenia, pamięć, aktualizacje oraz to, czy dana aplikacja obsługuje funkcję. Czasami trzeba najpierw pobrać odpowiednie składniki. Dobre pytanie brzmi więc nie „Czy Android ma AI?”, tylko „Które zadanie działa lokalnie na moim konkretnym telefonie?”.

Apple: obliczenia lokalne i Private Cloud Compute

Apple opisuje Apple Intelligence jako rozwiązanie hybrydowe. Część zadań wykonywana jest na zgodnym urządzeniu. Bardziej wymagające operacje mogą korzystać z Private Cloud Compute, czyli specjalnej infrastruktury serwerowej zaprojektowanej z myślą o ochronie prywatności. Producent deklaruje, że dane przekazane do tej usługi nie są przechowywane ani udostępniane Apple, a system zabezpieczeń udostępnia materiały do niezależnej analizy.

Tu pojawia się ważne rozróżnienie: prywatne przetwarzanie w chmurze nadal jest przetwarzaniem w chmurze. Wymaga połączenia i nie odbywa się wyłącznie w telefonie. Także dostępność Apple Intelligence zależy od urządzenia, języka, regionu oraz wersji systemu. Sam znak lub nazwa funkcji nie wystarczy, aby wyciągnąć wniosek o jej działaniu i prywatności.

Co zyskuje zwykły użytkownik?

Pierwszą korzyścią może być krótszy czas odpowiedzi. Jeżeli dane nie muszą podróżować przez sieć, znika opóźnienie związane z transmisją. Złożone zadanie na słabszym telefonie nadal może jednak działać wolniej niż na szybkim serwerze. Druga korzyść to niezależność od zasięgu: wybrane funkcje mogą działać w metrze, samolocie albo miejscu o słabym sygnale. Trzecia to potencjalnie lepsza kontrola nad prywatnością, jeśli dane w danym zadaniu naprawdę nie opuszczają urządzenia.

Każda z tych zalet ma granice. Aplikacja może później zsynchronizować wynik, stworzyć kopię zapasową lub wykonać kolejną operację w chmurze. Obliczenia lokalne nie sprawiają automatycznie, że program jest bezpieczny. Model nadal może źle zrozumieć pytanie albo wymyślić błędną odpowiedź. Instalacja języków i aktualizacja modeli również może wymagać połączenia.

Jak samodzielnie sprawdzić reklamowe obietnice?

Wybierz prostą, nieszkodliwą funkcję, na przykład korektę krótkiego zdania. Najpierw upewnij się, że wszystkie wymagane pakiety zostały pobrane. Potem włącz tryb samolotowy i ponów próbę. Zapisz, co zadziałało, co przestało działać i czy program poprosił o połączenie. Następnie przeczytaj dokumentację producenta. Powinna odnosić się do tej konkretnej czynności, a nie do ogólnego hasła „AI w telefonie”.

Taki eksperyment nie jest audytem bezpieczeństwa i nie dowodzi, że żadna informacja nie będzie wysłana później. Pomaga jednak rozpoznać przesadne obietnice. Ważna pułapka: jeśli funkcja działa offline, nie wynika z tego, że aplikacja nigdy nie wysłała danych do sieci. Model mógł zostać pobrany wcześniej, dokument mógł już trafić do kopii zapasowej, a wyniki mogą się zsynchronizować po ponownym włączeniu internetu. Tryb samolotowy sprawdza przede wszystkim możliwość wykonania określonej czynności bez połączenia — nie całą historię przepływu danych. W przypadku informacji prywatnych warto dodatkowo sprawdzić, co aplikacja zapisuje, jakie ma uprawnienia i jak działają jej ustawienia synchronizacji. Warto też sprawdzić uprawnienia aplikacji, automatyczne kopie zapasowe, obsługiwane języki, zużycie baterii i rzeczywistą przydatność funkcji.

Trzy pytania przed włączeniem nowej funkcji

Przy pierwszym uruchomieniu funkcji AI sprawdź, czy wymaga pobrania dodatkowego modelu. Jeśli tak, pobierz go przez zaufaną sieć i dopiero potem przetestuj tryb samolotowy. Następnie rozróżnij trzy rzeczy: analizę danych, przechowywanie wyniku i synchronizację konta. Nawet gdy analiza odbywa się na urządzeniu, zdjęcie albo nowy tekst mogą później trafić do kopii zapasowej. Dlatego warto zajrzeć nie tylko do ustawień AI, lecz także do uprawnień aplikacji i ustawień chmury.

Drugie pytanie dotyczy jakości. Sprawdź na krótkim, niepoufnym przykładzie, jak narzędzie radzi sobie z językiem, którego używasz na co dzień. Dobre działanie po angielsku nie gwarantuje równie dobrych rezultatów po polsku. Trzecie pytanie jest bardzo praktyczne: czy dana funkcja ułatwia Ci regularnie wykonywane zadanie, czy tylko robi wrażenie na pokazie? Taki test daje więcej niż reklama oparta na liczbie operacji na sekundę.

Rewolucja, której prawie nie widać

Najciekawsze zastosowania lokalnej AI mogą być zupełnie nieefektowne: szybsze rozpoznawanie mowy, wygodniejsze czytanie tekstu, poprawa zdjęć czy proste narzędzia dostępności. Część pracy komputer wykonuje tam, gdzie powstają dane. Nie kończy to ery serwerów ani nie rozwiązuje problemu błędnych odpowiedzi. Daje nam jednak ważniejsze pytanie przy wyborze technologii: „Gdzie naprawdę pracuje ta funkcja i kto otrzymuje moje informacje?”