Zastanawiając się nad tym, jak działa sztuczna inteligencja, często przypisujemy jej ludzkie cechy, takie jak chęć pomocy czy dążenie do prawdy. Rzeczywistość jest jednak znacznie bardziej techniczna i osadzona w matematyce niż w etyce. Choć wydaje nam się, że AI „rozmawia” z nami, w rzeczywistości wykonuje ona skomplikowane obliczenia prawdopodobieństwa. To właśnie w samej architekturze modeli językowych (LLM) kryje się odpowiedź na pytanie, dlaczego priorytetem jest wygenerowanie odpowiedzi, a niekoniecznie jej zgodność ze stanem faktycznym.

Mechanizm przewidywania kolejnego słowa

Podstawowym zadaniem modeli takich jak GPT jest przewidywanie kolejnego elementu w ciągu znaków (tzw. tokenu). Wyobraź sobie to jako niezwykle zaawansowany autouzupełniacz w Twoim telefonie. Kiedy zadajesz pytanie, AI nie przeszukuje bazy danych w poszukiwaniu „prawdy” w taki sposób, jak robiłby to człowiek wertujący encyklopedię. Zamiast tego analizuje kontekst Twojego zapytania i na podstawie ogromnej ilości danych, na których została wytrenowana, oblicza, jakie słowa statystycznie powinny nastąpić po sobie, aby stworzyć spójną i logicznie brzmiącą odpowiedź.

Dla algorytmu sukcesem jest stworzenie tekstu, który jest gramatycznie poprawny, stylistycznie dopasowany i merytorycznie prawdopodobny. Jeśli w danych treningowych pewne kłamstwo pojawiało się częściej niż prawda lub jeśli struktura pytania sugeruje konkretną odpowiedź, AI podąży tym śladem, ponieważ jej celem jest domknięcie sekwencji znaków w sposób, który „zadowoli” statystykę.

Użyteczność kontra rzetelność

W procesie trenowania sztucznej inteligencji stosuje się metodę zwaną RLHF (Reinforcement Learning from Human Feedback), czyli uczenie wzmacniane na podstawie opinii ludzi. Testerzy oceniają odpowiedzi AI, promując te, które są pomocne, uprzejme i bezpośrednio odpowiadają na zadane pytanie. Tutaj pojawia się pewna pułapka: człowiek częściej oceni wyżej odpowiedź, która brzmi pewnie i kompletnie, nawet jeśli zawiera drobne błędy, niż taką, w której AI przyznaje się do niewiedzy lub odpowiada wymijająco.

W efekcie modele są optymalizowane pod kątem „użyteczności”. Użytkownik oczekuje rozwiązania problemu, a nie wykładu o tym, dlaczego maszyna nie jest pewna faktów. To prowadzi do zjawiska zwanego halucynacjami – AI z taką samą pewnością siebie poda datę bitwy pod Grunwaldem, jak i zmyśloną biografię nieistniejącego poety, o którego zapytasz, byle tylko wypełnić lukę w konwersacji.

Ciekawostka: Dlaczego AI „halucynuje”?

Termin „halucynacje” w kontekście AI jest nieco mylący, bo sugeruje błąd w percepcji. W rzeczywistości to, co nazywamy halucynacją, jest dla modelu po prostu kolejną wygenerowaną sekwencją, która matematycznie pasuje do reszty tekstu. AI nie „wie”, że kłamie, ponieważ nie posiada koncepcji prawdy ani fałszu – operuje jedynie na wektorach i wagach prawdopodobieństwa.

Dane treningowe jako lustro internetu

Sztuczna inteligencja uczy się na tekstach stworzonych przez ludzi: artykułach, postach na forach, książkach i kodzie źródłowym. Internet nie jest jednak repozytorium wyłącznie sprawdzonych faktów. Jest pełen opinii, satyry, teorii spiskowych i zwykłych błędów. AI chłonie te dane bezkrytycznie.

Jeśli model napotka w sieci tysiące tekstów powielających jakiś mit, uzna go za statystycznie istotny element rzeczywistości. Nie posiada on zewnętrznego mechanizmu weryfikacji faktów w czasie rzeczywistym (chyba że ma dostęp do wyszukiwarki, ale nawet wtedy musi ocenić wiarygodność źródeł, co jest kolejnym wyzwaniem). Dlatego nadrzędnym celem jest dopasowanie się do wzorców językowych zawartych w danych, a nie do obiektywnej prawdy, której maszyna po prostu nie ma jak „dotknąć”.

Czy AI może kiedykolwiek stać się rzecznikiem prawdy?

Obecnie trwają intensywne prace nad tym, aby modele były bardziej powściągliwe w generowaniu niesprawdzonych informacji. Wprowadza się mechanizmy, które nakazują AI cytowanie źródeł lub informowanie o braku pewności. Niemniej jednak, dopóki fundamentem AI jest statystyczne przewidywanie języka, a nie logiczne wnioskowanie oparte na twardych dowodach, zawsze będzie istniało ryzyko, że priorytetem pozostanie płynność komunikacji.

Warto pamiętać, że sztuczna inteligencja to narzędzie do przetwarzania informacji, a nie wyrocznia. Jej „odpowiedź” to produkt końcowy procesu obliczeniowego, który ma nas wspomóc, zainspirować lub przyspieszyć pracę, ale ostateczna weryfikacja prawdy wciąż pozostaje w rękach człowieka.

Jak bezpiecznie korzystać z AI?

1. Zasada ograniczonego zaufania: Zawsze sprawdzaj kluczowe fakty, daty i dane liczbowe w niezależnych źródłach.
2. Precyzyjne prompty: Im dokładniej sformułujesz pytanie, tym mniejsza szansa, że model „odpłynie” w stronę zmyślonych odpowiedzi.
3. Weryfikacja źródeł: Jeśli AI podaje źródła, sprawdź, czy one naprawdę istnieją – modele potrafią generować bardzo realistycznie brzmiące, ale nieistniejące linki i bibliografie.