Halucynacje AI – 7 sposobów, jak ograniczyć ryzyko błędnych odpowiedzi w firmie

Halucynacja to odpowiedź AI, która brzmi wiarygodnie, ale jest nieprawdziwa. Może to być zmyślony przepis, nieistniejące orzeczenie, błędna kwota albo procedura, której firma nigdy nie miała. Model podaje ją tym samym pewnym tonem co informację prawdziwą.

Model AI nie sprawdza faktów w bazie danych. Układa odpowiedź, która statystycznie najlepiej pasuje do pytania. Gdy nie zna odpowiedzi, często zgaduje zamiast przyznać się do niewiedzy.

Badacze OpenAI w pracy z 2025 r. tłumaczą to sposobem uczenia i oceniania modeli. Testy, na których porównuje się modele, zwykle nagradzają trafione zgadywanie, a za odpowiedź „nie wiem” nie dają punktów. Model zachowuje się więc jak uczeń na teście wyboru, który woli strzelać niż zostawić puste pole.

Nowsze modele mylą się rzadziej, ale problem nie znika. Najczęściej dotyczy pytań o rzeczy rzadkie albo specyficzne dla Twojej firmy: wewnętrzne procedury, indywidualne warunki klienta, aktualne ceny.

Dwie głośne sprawy dobrze pokazują, kto płaci za halucynacje. W obu przypadkach odpowiedzialność poniosła firma, która korzystała z AI, a nie dostawca modelu.

W sprawie Moffatt przeciwko Air Canada chatbot linii lotniczej podał klientowi błędne zasady zniżki dla osób w żałobie. Linia twierdziła, że poprawna informacja była na innej stronie serwisu. Trybunał uznał, że firma odpowiada za to, co mówi jej chatbot, i zasądził zwrot różnicy w cenie.

W sprawie Mata przeciwko Avianca prawnicy złożyli w sądzie pismo z orzeczeniami wymyślonymi przez ChatGPT. Sąd nałożył na nich karę i nakazał poinformować sędziów, którym przypisano fikcyjne wyroki. Koszt reputacyjny był znacznie wyższy niż sama kara.

W średniej firmie stawka jest zwykle mniej medialna, ale realna. Poniżej typowe skutki błędów AI w codziennej pracy.

Nie każde zastosowanie AI wymaga tych samych zabezpieczeń. Szkic wewnętrznej notatki, który ktoś i tak przeczyta, może zawierać drobne błędy. Kwota przelewu albo odpowiedź dla klienta o warunkach umowy – już nie.

Prosty sposób to policzyć oczekiwany koszt błędów. Załóżmy hipotetycznie, że AI przygotowuje 1 000 odpowiedzi miesięcznie, a 2 na 100 zawiera istotny błąd. To 20 błędów miesięcznie. Jeśli każdy kosztuje średnio 500 zł korekty i straconego czasu, ryzyko wynosi 10 000 zł miesięcznie.

Tę kwotę porównujesz z kosztem zabezpieczeń. Jeśli kontrola przez człowieka kosztuje mniej niż błędy, którym zapobiega, warto ją wprowadzić. Tabela poniżej pokazuje typowe dopasowanie zabezpieczeń do rodzaju zastosowania.

Pierwszy i najskuteczniejszy sposób to odpowiadanie na podstawie firmowych dokumentów. Ta technika nazywa się RAG: AI najpierw wyszukuje fragmenty w Twoich procedurach, cennikach czy umowach, a potem odpowiada tylko na ich podstawie. Działa to jak pracownik, który przed odpowiedzią zagląda do właściwego segregatora.

Ważne, by AI podawało źródło każdej odpowiedzi, np. nazwę dokumentu i rozdział. Pracownik może wtedy szybko sprawdzić odpowiedź, a Ty po fakcie ustalisz, skąd wziął się błąd. RAG nie pomoże jednak, jeśli w dokumentach leżą trzy sprzeczne wersje cennika.

Drugi sposób to dobre instrukcje dla modelu. AI powinno mieć wyraźną zgodę na odpowiedź „nie wiem” i polecenie, by korzystało wyłącznie z przekazanych dokumentów. Warto też zawęzić zadanie: „wypisz termin płatności z umowy” daje mniej błędów niż „przeanalizuj umowę”.

Trzeci sposób to automatyczne reguły, które sprawdzają wynik, zanim trafi dalej. Nie wykrywają każdego błędu, ale wychwytują te najbardziej kosztowne. Poniżej przykłady takich reguł.

Czwarty sposób to druga, niezależna kontrola odpowiedzi. Osobne zapytanie do modelu, często innego, sprawdza, czy odpowiedź wynika z przekazanych dokumentów. Jeśli kontrola wykaże niezgodność, odpowiedź nie trafia do użytkownika, tylko do człowieka.

Taka kontrola wydłuża czas odpowiedzi i zwiększa opłaty za korzystanie z modelu, bo każde pytanie przetwarzane jest dwa razy. Ma sens tam, gdzie błąd kosztuje dużo, np. w odpowiedziach dla klientów o warunkach umów. W najbardziej wymagających zastosowaniach to samo pytanie można wysłać do dwóch lub trzech różnych modeli. Gdy odpowiedzi się różnią, sprawa trafia do człowieka.

Piąty sposób to zatwierdzanie przez człowieka powyżej ustalonego progu. AI przygotowuje propozycję i krótkie uzasadnienie, a pracownik ją akceptuje albo poprawia. Próg ustalasz według ryzyka: kwoty, rodzaju klienta albo tego, czy AI było pewne odpowiedzi.

Dobrze zaprojektowane zatwierdzanie jest szybkie, bo pracownik dostaje gotowe zestawienie, a nie surowy dokument. Dla systemów wysokiego ryzyka nadzór człowieka jest też wymogiem AI Act (art. 14).

Szósty sposób to zestaw pytań testowych z poprawnymi odpowiedziami, przygotowany przed uruchomieniem. Powinien zawierać typowe pytania, przypadki graniczne i pytania podchwytliwe, na które poprawna odpowiedź brzmi „nie wiem”. Odpowiedzi AI porównujesz z wzorcem i zapisujesz wynik.

Ten sam zestaw uruchamiasz po każdej zmianie: modelu, instrukcji albo dokumentów źródłowych. Dostawcy regularnie wycofują starsze modele, a przejście na nowy potrafi zmienić jakość odpowiedzi nawet wtedy, gdy w procesie nic się nie zmieniło.

Siódmy sposób to stała kontrola po uruchomieniu. Bez niej o błędach dowiadujesz się z reklamacji klientów, czyli za późno. Poniżej elementy, które warto wprowadzić od pierwszego dnia.

AI Act nie zawiera osobnego przepisu o halucynacjach. Kilka obowiązków dotyczy jednak wprost jakości i przejrzystości odpowiedzi. Który z nich Cię obejmuje, zależy od tego, do czego używasz AI.

Od 2 sierpnia 2026 r. każdy system AI rozmawiający z ludźmi musi informować ich, że rozmawiają z AI (art. 50). Dotyczy to np. chatbota na stronie albo asystenta głosowego.

Dla systemów wysokiego ryzyka, np. AI oceniającego kandydatów do pracy albo zdolność kredytową, obowiązuje więcej wymagań. Po zmianach z 2026 r. stosuje się je od 2 grudnia 2027 r. Większość z nich spełnia dostawca systemu, a firma, która go stosuje, odpowiada m.in. za nadzór człowieka i korzystanie zgodnie z instrukcją (art. 26). Lista poniżej pokazuje wymagania najmocniej związane z błędnymi odpowiedziami.