Sztuczna inteligencja to dziś coś więcej niż najzdolniejszy stażysta. W wielu firmach zaczyna piąć się po szczeblach kariery – wspiera obsługę klienta, analizuje dane, pisze treści, a czasem nawet podejmuje decyzje biznesowe. Jest oczytana, pracuje całą dobę i nigdy nie narzeka.
Ma jednak jedną, nieco mroczną cechę: potrafi z „kamienną twarzą” kłamać. Jest w stanie opowiedzieć Ci o bitwie pod Pcimiem, która nigdy się nie odbyła, powołując się przy tym na nieistniejących historyków. Oczywiście „kłamstwo” jest tu metaforą – AI nie ma intencji oszukania użytkownika, ale potrafi wygenerować fałszywą informację w bardzo przekonującej formie.
Zjawisko do określane jest mianem halucynacji AI. Nie chodzi tu jednak o żadne „wizje”, lecz o efekt uboczny działania dużych modeli językowych (LLM) – zjawisko ciekawe technologicznie, ale i wymagające choćby częściowego zrozumienia. Kiedy matematyka próbuje udawać ludzką intuicję, efekty działania AI stają się nieprzewidywalne.
Pułapka najbardziej prawdopodobnego słowa
Żeby zrozumieć halucynacje, warto spojrzeć na podstawy działania modeli LLM (ang. Large Language Models). W bardzo dużym uproszczeniu są to modele statystyczne, które przewidują kolejne fragmenty tekstu – tzw. tokeny – na podstawie wcześniejszego kontekstu. One niczego nie „wiedzą” w ludzkim sensie. Nie mają świadomości ani dostępu do faktów w czasie rzeczywistym (chyba że zostaną podłączone do zewnętrznych narzędzi). Bez dodatkowych narzędzi operują głównie na wzorcach przyswojonych podczas treningu oraz na kontekście rozmowy.
Można to ująć w ten sposób: model analizuje, jakie słowa najczęściej pojawiały się obok siebie w milionach tekstów i na tej podstawie buduje odpowiedź. Weźmy na przykład zdanie: „Mikołaj Kopernik wstrzymał Słońce, ruszył...”. Statystyka od razu podpowiada: „Ziemię”.
To działa świetnie, dopóki poruszamy się w dobrze znanych kontekstach. Problem pojawia się, gdy zapytasz o coś niszowego, niejednoznacznego albo rzadko występującego w danych treningowych. Model nie sprawdza faktów w encyklopedii. On jedynie estymuje, jakie słowa będą w danym miejscu pasować. Analizuje wektory oraz prawdopodobieństwo. Jeśli uzna, że po nazwisku mniej znanego naukowca z XVII wieku świetnie pasuje słowo „odkrył”, może przypisać mu nienależne zasługi.
Sztuczna inteligencja nie jest bazą danych, lecz maszyną do przewidywania. Halucynacja pojawia się wtedy, gdy model przedkłada płynność językową nad wierność faktom. Dla sieci neuronowej zdania „Paryż jest stolicą Francji” oraz „Paryż jest stolicą Księżyca” mają tę samą, poprawną strukturę gramatyczną. Różni je tylko statystyczna waga prawdy, która czasem po prostu przegrywa z językową fantazją algorytmu.
Dlaczego AI tak rzadko mówi „nie wiem”?
To bodaj największy grzech współczesnych modeli językowych (LLM). Są one trenowane przede wszystkim po to, by być pomocne. W procesie zwanym RLHF (ang. Reinforcement Learning from Human Feedback, czyli uczenie ze wzmocnieniem na podstawie opinii ludzi), trenerzy często nagradzają modele za udzielanie wyczerpujących odpowiedzi.
Podczas generowania tekstu model nie weryfikuje faktów na bieżąco w zewnętrznym repozytorium wiedzy (o ile nie ma zintegrowanej wyszukiwarki). Opiera się wyłącznie na wagach matematycznych ustalonych na etapie treningu. Jeśli algorytm skojarzy, że po nazwisku znanego fizyka często występuje słowo „Nagroda”, może przypisać mu statuetkę Nobla, nawet jeśli ten naukowiec nigdy jej nie otrzymał.
W efekcie model wpada w tryb nadgorliwego ucznia. Zamiast przyznać się do luki w informacjach, próbuje wyekstrapolować odpowiedź z wzorców, które już przetworzył. Zjawisko to przypomina sytuację na egzaminie ustnym, gdy student nie zna poprawnej odpowiedzi, więc zaczyna „lać wodę” w nadziei, że wstrzeli się w klucz oczekiwań egzaminatora. AI robi dokładnie to samo, tyle że z prędkością nowoczesnego procesora i elokwencją wybitnego noblisty.
Anatomia oszustwa: dlaczego tak łatwo w to wierzymy?
Halucynacje AI są groźne, ponieważ zupełnie nie wyglądają jak błędy. Użytkownik nie otrzymuje systemowego komunikatu 404 Not Found ani niezrozumiałego bełkotu. Zamiast tego dostaje:
- Perfekcyjną składnię: tekst jest zazwyczaj wolny od jakichkolwiek błędów językowych.
- Autorytatywny ton: AI rzadko używa sformułowania „wydaje mi się” – ona po prostu kategorycznie twierdzi.
- Fałszywe dowody: modele potrafią wygenerować linki, które wyglądają na autentyczne, lub zmyślić nazwiska profesorów brzmiące bardzo wiarygodnie w zadanym kontekście.
Czy da się „wyleczyć” AI z halucynacji?
Krótka odpowiedź brzmi: nie całkowicie. Halucynacje są naturalnym skutkiem działania współczesnych modeli językowych. Choć potrafią one analizować kontekst i wychwytywać złożone zależności między słowami, nadal generują odpowiedzi na podstawie prawdopodobieństwa, a nie rzeczywistej wiedzy czy rozumienia świata. Możemy jednak założyć sztucznej inteligencji swego rodzaju „okulary korekcyjne”:
- RAG (Retrieval-Augmented Generation) – rozwiązanie przypominające wręczenie modelowi otwartej książki tuż przed udzieleniem odpowiedzi. Zamiast polegać wyłącznie na wiedzy zdobytej podczas treningu, AI może korzystać z dostarczonych, aktualnych i wiarygodnych źródeł informacji, co znacząco zmniejsza ryzyko halucynacji.
- Chain of Thought (łańcuch myślowy) – technika zachęcająca model do rozkładania problemu na kolejne kroki. Pomaga szczególnie w zadaniach wymagających wieloetapowego rozumowania, choć nie jest gwarancją poprawności faktów.
- Weryfikacja krzyżowa – metoda polegająca na sprawdzaniu odpowiedzi przez drugi model AI lub dodatkowy mechanizm kontrolny. Jeśli pojawią się rozbieżności, odpowiedź może zostać ponownie przeanalizowana lub oznaczona jako wymagająca weryfikacji.
Oczywisty wniosek: miej ograniczone zaufanie
Halucynacje to cena, jaką płacimy za niesamowitą kreatywność i elastyczność sztucznej inteligencji. Ta sama cecha, która pozwala algorytmowi napisać wiersz o programowaniu w Pythonie w stylu Mickiewicza, sprawia, że potrafi on z pełnym przekonaniem opowiadać o nieistniejącej bibliotece kodu.
Korzystając z AI, pamiętaj: to nie jest nieomylna wyrocznia, lecz genialny improwizator. Jeśli informacja, którą Ci podaje, jest warta więcej niż 5 minut Twojego czasu – zawsze weryfikuj ją u źródła.