Wyobraź sobie taką sytuację: czytasz tekst, który płynie niesamowicie gładko. Zdania są idealnie skrojone, interpunkcja nie budzi najmniejszych zastrzeżeń, a styl wręcz zachwyca profesjonalizmem. Twoja czujność naturalnie uypia. Podświadomie zakładasz, że skoro autor tak genialnie operuje słowem, to wszystkie podane przez niego fakty, daty i nazwiska muszą być prawdziwe.

To klasyczna pułapka, w którą codziennie wpada nasz mózg. Kiedy jednak połączymy tę ludzką słabość z mechanizmem działania sztucznej inteligencji, otrzymujemy zjawisko znane jako efekt halucynacji korektorskiej AI (ang. AI proofreading hallucination). To jedno z najbardziej podstępnych wyzwań w erze generatywnych modeli językowych, które całkowicie redefiniuje to, jak powinniśmy podchodzić do redagowania i weryfikacji treści.

Czym jest iluzja korektorska u ludzi?

Aby dobrze zrozumieć to zjawisko w kontekście technologii, musimy najpierw cofnąć się o krok i przyjrzeć się ludzkiej psychologii. Istnieje w niej pojęcie znane jako iluzja korektorska (ang. proofreader's illusion). To błąd poznawczy, który sprawia, że podczas czytania tekstu (szczególnie własnego lub bardzo dobrze napisanego) nie zauważamy ewidentnych błędów merytorycznych, a czasem nawet literówek.

Nasz mózg nie analizuje każdej litery ani każdego słowa po kolei. Zamiast tego działa na zasadzie tzw. przetwarzania odgórnego (ang. top-down processing). Na podstawie kontekstu i naszych wcześniejszych doświadczeń przewiduje, jakie słowo powinno nastąpić jako kolejne, i po prostu „dokleja” je w naszej głowie, ignorując błędy na ekranie czy papierze.

Doskonałym tego przykładem jest słynny internetowy mem o badaniach z Cambridge (tzw. typoglikemia), w którym tekst z poprzestawianymi literami wewnątrz wyrazów („Aoccdrnig to a rscheearch...”) czyta się z absolutną płynnością. Nasz mózg po prostu automatycznie koryguje błędy, by utrzymać płynność znaczenia.

Jak sztuczna inteligencja naśladuje nasz mózg?

Co to ma wspólnego ze sztuczną inteligencją? Okazuje się, że bardzo wiele. Duże modele językowe (LLM), takie jak GPT-4, Claude czy Gemini, nie są bazami wiedzy, które „rozumieją” świat w taki sposób jak my. To zaawansowane maszyny probabilistyczne. Ich głównym zadaniem jest przewidywanie kolejnego, najbardziej prawdopodobnego słowa (lub tokenu) w sekwencji, na podstawie gigantycznych ilości danych, na których zostały wyszkolone.

Podobnie jak ludzki mózg w stanie iluzji korektorskiej, AI skupia się przede wszystkim na płynności językowej i gramatycznej spójności. Kiedy model ma za zadanie poprawić tekst lub napisać go od nowa, jego priorytetem jest sprawienie, by brzmiał on naturalnie, profesjonalnie i poprawnie stylistycznie. W tym dążeniu do perfekcji formy, logiczne filtry odpowiedzialne za weryfikację faktów mogą zostać całkowicie pominięte.

Dwa oblicza halucynacji korektorskiej AI

Zjawisko to możemy rozpatrywać na dwa różne sposoby. Oba są równie fascynujące, co niebezpieczne dla rzetelności informacji.

AI jako nadgorliwy i zmyślający korektor

Kiedy zlecasz sztucznej inteligencji redakcję lub korektę swojego tekstu, ufasz, że poprawi ona jedynie błędy językowe. AI potrafi jednak pójść o krok za daleko. W dążeniu do poprawy płynności (tzw. fluency) model może:

• Zmienić fakty na bardziej „prawdopodobne”: Jeśli w tekście użyjesz rzadkiego, ale poprawnego terminu specjalistycznego, AI może podmienić go na słowo bardziej popularne, całkowicie zmieniając sens naukowy czy prawny wypowiedzi.
• Wymyślić kontekst: Poprawiając zdanie, sztuczna inteligencja może dodać od siebie szczegóły (np. daty, nazwiska czy statystyki), które brzmią niezwykle profesjonalnie i logicznie pasują do kontekstu, ale są całkowicie wyssane z palca.
• Wprowadzić sprzeczności: Model może tak przeformułować akapit, by brzmiał lepiej, jednocześnie nie zauważając, że nowe sformułowanie przeczy faktom napisanym linijkę wyżej.

Pułapka płynności, czyli jak AI oszukuje ludzkiego korektora

To druga strona tego samego medalu. Ponieważ współczesne modele AI piszą niesamowicie przekonującym, autorytatywnym tonem i nie popełniają prostych błędów ortograficznych, u ludzi sprawdzających te teksty uruchamia się wspomniana wcześniej iluzja korektorska.

Czytając tekst wygenerowany lub poprawiony przez AI, podświadomie zakładamy: „skoro styl jest bezbłędny, to treść też musi być poprawna”. Nasz mózg idzie na łatwiznę. Prześlizgujemy się wzrokiem po gładkich zdaniach i nie zauważamy, że AI właśnie zmyśliła wyrok sądu, przypisała komuś nieistniejący cytat albo podała fałszywe dane. To tak zwana pułapka płynności (ang. fluency trap).

Dlaczego to zjawisko niesie ogromne ryzyko?

W kreatywnym pisaniu halucynacje AI mogą być traktowane jako przejaw „wyobraźni” i nie stanowią dużego problemu. Jednak w sektorach wysokiego zaufania konsekwencje mogą być bardzo poważne:

• Medycyna: Coraz popularniejsze asystenty AI (tzw. AI scribes), które spisują notatki z wizyt lekarskich, mogą wygenerować płynną, profesjonalnie brzmiącą kartę pacjenta, w której jednak subtelnie przekręcą dawkę leku lub objawy. Lekarz, spiesząc się i ulegając iluzji korektorskiej, może podpisać taki dokument bez dokładnej weryfikacji.
• Prawo: Prawnicy korzystający z AI do redagowania pism procesowych mogą nie zauważyć, że model wplótł w bezbłędny wywód prawny nieistniejące precedensy lub błędne numery artykułów ustaw.
• Biznes i finanse: Raporty finansowe poprawiane przez AI mogą zawierać „wygładzone” zdania, które jednak zmieniają interpretację kluczowych wskaźników ekonomicznych.

Jak nie dać się złapać w pułapkę? Praktyczne wskazówki

Skoro wiemy już, jak działa efekt halucynacji korektorskiej AI, warto wdrożyć procedury, które pozwolą zachować pełną kontrolę nad tekstem. Oto kilka sprawdzonych metod:

• Zasada „oddziel styl od faktów”: Podczas weryfikacji tekstu po AI wykonaj dwa osobne czytania. Pierwsze poświęć wyłącznie na sprawdzenie poprawności merytorycznej (fact-checking) – zweryfikuj każdą datę, nazwisko, liczbę i definicję u źródła. Dopiero w drugim kroku oceniaj styl i brzmienie zdań.
• Wprowadź człowieka do pętli (human-in-the-loop): Nigdy nie pozwól, aby proces generowania i publikacji ważnych dokumentów odbywał się w pełni automatycznie. Ludzki ekspert z danej dziedziny jest niezbędny, by wyłapać logiczne anomalie.
• Precyzyjne promptowanie: Zlecając AI korektę, wyraźnie zaznacz granice jej swobody. Możesz użyć instrukcji takich jak: „Popraw jedynie błędy ortograficzne i interpunkcyjne. Nie zmieniaj struktury zdań, terminologii specjalistycznej ani nie dodawaj żadnych nowych informacji”.
• Porównywanie wersji (diff): Zawsze korzystaj z narzędzi do porównywania tekstów (np. tryb „Śledź zmiany” w Wordzie lub narzędzia typu diff), aby dokładnie widzieć, które słowa AI usunęła, a które dodała. Nie akceptuj zmian „w ciemno”.

Ciekawostka: stuletnia historia współczesnego problemu

W psychologii poznawczej badanie iluzji korektorskiej sięga początków XX wieku. Już w 1915 roku psycholog Arthur H. Pierce opublikował pracę na temat tego, dlaczego błędnego czytania nie można tłumaczyć wyłącznie wadami wzroku. Wykazał on, że to nasz wewnętrzny system pojęciowy „nadpisuje” rzeczywistość. Ponad sto lat później stworzyliśmy technologię, która cierpi dokładnie na tę samą przypadłość – i to z bardzo podobnych powodów!