Zjawisko, w którym sztuczna inteligencja (AI) zachowuje się jak nadgorliwy uczeń, próbujący za wszelką cenę udowodnić swoją wiedzę, jest dobrze znane badaczom i użytkownikom dużych modeli językowych (LLM). Często objawia się to poprawianiem drobnych literówek, które nie wpływają na sens wypowiedzi, lub dopisywaniem długich akapitów z oczywistymi informacjami. Choć może to być irytujące, nie wynika ze złej woli algorytmu, lecz z samej architektury i procesów, w jakich te modele są trenowane.

Dlaczego AI bywa nadgorliwa?

Głównym powodem tego zachowania jest proces zwany RLHF (Reinforcement Learning from Human Feedback), czyli uczenie ze wzmocnieniem na podstawie informacji zwrotnych od ludzi. Podczas trenowania modelu, testerzy oceniają odpowiedzi generowane przez AI. W początkowych fazach rozwoju technologii promowane były odpowiedzi, które są wyczerpujące, uprzejme i pomocne.

W efekcie model „nauczył się”, że im więcej informacji poda i im bardziej „bezpieczny” oraz „poprawny” będzie jego ton, tym wyższą ocenę otrzyma. To prowadzi do tzw. biasu użyteczności (helpfulness bias). AI zakłada, że jeśli użytkownik o coś pyta, to oczekuje kompleksowej obsługi, w tym wyłapania każdego błędu, nawet jeśli jest on nieistotny dla kontekstu.

Kolejnym czynnikiem jest unikanie halucynacji. Twórcy AI kładą ogromny nacisk na to, aby modele nie podawały błędnych informacji. W rezultacie algorytmy stają się nadwrażliwe – wolą skorygować coś, co wydaje im się nieścisłością, niż ryzykować pozostawienie błędu merytorycznego, co mogłoby zostać odebrane jako porażka systemu.

Mechanizm przewidywania kolejnego słowa

Warto pamiętać, że AI nie „rozumie” świata tak jak my, lecz operuje na statystycznym prawdopodobieństwie wystąpienia kolejnych słów (tokenów). Jeśli w ogromnym zbiorze danych treningowych poprawki merytoryczne często występują po stwierdzeniach zawierających błędy, model z dużym prawdopodobieństwem wygeneruje taką poprawkę.

Dla AI „pomaganie” jest domyślnym trybem pracy. Jeśli nie otrzyma konkretnych instrukcji dotyczących formy, będzie dążyć do standardu, który w jego „mniemaniu” (opartym na statystyce) jest najbardziej wartościowy dla ogółu użytkowników – czyli do formy rozbudowanej i korygującej.

Ciekawostka: Verbosity Bias

W badaniach nad modelami językowymi zaobserwowano zjawisko zwane verbosity bias. Polega ono na tym, że ludzie (a co za tym idzie, systemy oceniające AI) podświadomie oceniają dłuższe odpowiedzi jako bardziej inteligentne i pomocne, nawet jeśli zawierają one zbędne „lanie wody”. Modele po prostu dostosowują się do tych ludzkich preferencji.

Jak zaradzić nadmiernej korygującej naturze AI?

Jeśli czujesz, że Twój asystent AI zbyt mocno ingeruje w treść lub zasypuje Cię niepotrzebnymi radami, możesz przejąć kontrolę za pomocą odpowiedniego promptingu. Oto kilka sprawdzonych metod:

1. Precyzyjne instrukcje negatywne

Najprostszym sposobem jest powiedzenie AI, czego ma nie robić. Wprowadzenie do promptu frazy: „Nie poprawiaj moich błędów stylistycznych ani merytorycznych, chyba że o to poproszę” lub „Skup się wyłącznie na odpowiedzi na pytanie, bez dodawania zbędnych wyjaśnień”, potrafi zdziałać cuda.

2. Nadawanie konkretnej roli (Persona)

Zamiast pytać ogólnie, nadaj AI rolę, która naturalnie wymaga zwięzłości. Na przykład: „Działaj jako doświadczony programista, który udziela krótkich, technicznych wskazówek. Unikaj uprzejmości i zbędnego kontekstu”. Model dostosuje ton do narzuconej roli.

3. Określenie formatu wyjściowego

Możesz narzucić sztywne ramy odpowiedzi, np.: „Odpowiedz w maksymalnie dwóch zdaniach” lub „Przedstaw tylko listę punktową bez wstępu i zakończenia”. Ograniczenie liczby znaków lub słów to najskuteczniejszy hamulec dla nadgorliwego algorytmu.

4. Wykorzystanie instrukcji systemowych (Custom Instructions)

Jeśli korzystasz z narzędzi takich jak ChatGPT, możesz ustawić „Własne instrukcje” (Custom Instructions). W sekcji dotyczącej tego, jak AI ma odpowiadać, wpisz na stałe preferencje dotyczące zwięzłości i braku nieproszonych korekt. Dzięki temu nie będziesz musiał powtarzać tego przy każdym nowym czacie.

Czy to się zmieni w przyszłości?

Rozwój technologii zmierza w stronę lepszego rozumienia intencji użytkownika. Nowsze wersje modeli są trenowane tak, aby lepiej rozpoznawać, kiedy użytkownik oczekuje luźnej burzy mózgów, a kiedy rygorystycznej korekty merytorycznej. Niemniej jednak, dopóki głównym miernikiem sukcesu AI będzie „pomocność” mierzona ludzkimi standardami, tendencja do lekkiej nadgorliwości może się utrzymywać. Kluczem pozostaje świadoma komunikacja z modelem i precyzyjne określanie swoich oczekiwań.