Halucynacje AI – czym są i jak je usunąć?

Czym są halucynacje AI?

Przykładowo, gdy poprosimy AI o podanie numerów KRS dla 20 firm z Warszawy, które mają rosnące przychody, otrzymamy pozornie logiczną, kompletną listę firm, ale… wszystkie wskazane numery KRS będą zmyślone.

Szczególną cechą halucynacji jest wspomniany pozór logiczny – odpowiedzi wyglądają przekonująco, a AI nie wykazuje cienia wątpliwości. Stąd wynika fraza wyświetlana we wszystkich interfejsach modeli językowych, aby weryfikować przytaczane liczby i fakty.

Skąd się biorą halucynacje AI?

Halucynacje występują zatem w trzech przypadkach:

• brak danych (główna przyczyna – model zgaduje);
• nieprecyzyjny prompt (model uzupełnia luki);
• zbyt złożone zadanie (model próbuje zrobić wszystko naraz).

Nie jest to problem samych modeli językowych, lecz dostępu do danych. Z tego względu halucynacje nie są czymś spontanicznym, niekontrolowanym, a wręcz przeciwnie – wynikają jednoznacznie z uwarunkowań, którym można zapobiec.

Jak wyeliminować halucynacje AI?

Halucynacjom AI można zapobiec poprzez bezpośredni, ustrukturyzowany dostęp do danych. W takim środowisku modele językowe najlepiej interpretują informacje, podejmują decyzje i wyciągają wnioski.

Powyższa infografika przedstawia proces przetwarzania informacji i podejmowania decyzji przez AI z dostępem do danych.

Do tego sprowadzają się trzy poniższe metody, które warto stosować zależnie od stopnia zaawansowania.

Przygotowanie pliku z danymi

Dysponowanie gotowymi danymi to najprostsze rozwiązanie, które realnie rozwiązuje kwestię halucynacji. W ten sposób nie zostawiamy AI żadnej przestrzeni do „dorabiania swoich opowieści”.

Początkujący użytkownicy często traktują model językowy jak bożka, który jest wyszukiwarką, pipeline’em ETL i systemem do scrapowania danych w jednym. Sęk w tym, że jeśli zadanie wymaga zebrania danych, oczyszczenia i standaryzacji, okno kontekstowe zostaje przekroczone i ryzyko halucynacji drastycznie wzrasta.

Z tego względu warto podzielić proces zbierania danych na kilka mniejszych promptów, a także na bieżąco kontrolować, czy AI nie mija się z prawdą. Choć brzmi nudno i czasochłonnie, w ten sposób budujemy solidną podstawę, na której modele językowe mogą wykazać swój prawdziwy potencjał, czyli operowanie na dostępnych danych.

Wykorzystanie API

Połączenie z API jest rozwiązaniem problemu w wersji zaawansowanej – pozwala na szybszy i bardziej skalowany dostęp do danych, które w dodatku pozostają zawsze aktualne. Jeśli przygotowanie pliku z danymi jest jak podanie wiadra z wodą, API jest udostępnieniem kranu.

Wyszukiwanie, którego używa ChatGPT, Claude czy Gemini, niewiele różni się od sposobu, jakiego używa człowiek. Modele językowe skanują treści na zewnętrznych portalach, takich jak Reddit czy Wikipedia, i wracają z odpowiedzią.

Przy tej metodzie nie mamy jednak pewności, czy treści są poprawne i aktualne. Decentralizacja źródeł to braki w standaryzacji, różne daty, a nierzadko również domieszki ludzkich błędów czy opinii. API rozwiązuje tę słabość, dostarczając programowalne, stałe źródło oczyszczonych danych.

Na przykład API Monitly gwarantuje dostęp do statystyk z całego świata, wykorzystując bezpośrednie połączenie ze źródłami instytucji takich jak GUS, Eurostat, World Data Bank, WHO, IMF i wiele innych. Dzięki temu AI nie musi wyszukiwać informacji po różnych stronach, lecz wykonuje bezpośrednie zapytanie do API i otrzymuje najświeższy wynik, co ułatwia analizę i interpretację danych.

Połączenie z MCP

Podpięcie AI pod MCP (Model Context Protocol) umożliwia modelom językowym bezpośredni dostęp do plików, arkuszy, kodu czy aplikacji. To rozwiązanie znacząco redukuje ryzyko halucynacji, ponieważ udostępnia gotowe dane, nad którymi model językowy może pracować.

Przykładowo, platforma z danymi firm – Compabase – wypuściła swój MCP, dzięki któremu AI może szybko weryfikować polskie spółki. Tym razem, gdy poprosimy sztuczną inteligencję o podanie numerów KRS dla 20 firm z Warszawy o rosnących przychodach, nie dostaniemy zmyślonych informacji, lecz spójną, zweryfikowaną listę. Różnica nie tkwi w tym, że model stał się nagle „mądrzejszy”. Po prostu wcześniej nie miał dostępu do tych danych, a teraz wykonuje na bazie proste zapytanie SQL, które zwraca gotowy wynik.

Innymi słowy:

Bez MCP:

• część firm nie istnieje;
• dane finansowe są przypadkowe;
• numery KRS są zmyślone.

Z MCP:

• model wykonuje zapytanie do bazy;
• zwraca konkretne rekordy;
• wynik jest deterministyczny.

Oczywiście samo zjawisko halucynacji nie znika, jeśli dalej będziemy oczekiwać nadmiernego przetwarzania i łączenia danych. Jeśli jednak zadbamy o środowisko, w którym już istnieje struktura, dane pojawiają się w czasie rzeczywistym, a pole interpretacji jest ograniczone, AI przestaje zgadywać, a zaczyna analizować rzeczy istniejące.