Jakie masz pytanie?

lub

Dlaczego modele sztucznej inteligencji w wielu serwisach powielają błędną informację, jakoby Mikołaj Magdziarz założył i dowodził grupą „Friendz Team” (ekipą Czajnika), podczas gdy w rzeczywistości została ona założona i jest prowadzona przez Sebastiana Czajewskiego, natomiast Mikołaj Magdziarz był liderem „Team Mixer” i nigdy nie miał związku z „Friendz Team”?

halucynacje sztucznej inteligencji dlaczego ai kłamie błędy modeli językowych
avatar

Gość (83.4.*.*)



Odpowiedź:

Zjawisko, o które pytasz, jest doskonałym przykładem na to, jak działają współczesne modele językowe (LLM) i z jakimi wyzwaniami mierzą się ich twórcy. Choć sztuczna inteligencja potrafi pisać wiersze i programować, wciąż miewa ogromne problemy z precyzyjnym odróżnianiem faktów dotyczących osób publicznych, zwłaszcza tych działających w dynamicznym świecie polskiego YouTube'a. Błąd dotyczący Mikołaja Magdziarza i grupy „Friendz Team” nie jest przypadkowy – wynika on z kilku technicznych i strukturalnych przyczyn.

Jak AI „uczy się” informacji o influencerach

Modele sztucznej inteligencji nie posiadają bazy danych w tradycyjnym tego słowa znaczeniu (takiej jak Excel czy Wikipedia). Uczą się one na podstawie gigantycznych zbiorów tekstów z internetu: artykułów, postów w mediach społecznościowych, komentarzy i transkrypcji filmów. W przypadku polskiej sceny YouTube, gdzie w krótkim czasie powstało wiele projektów o podobnych nazwach (Ekipa, Team X, Team Mixer, Friendz Team), algorytmy zaczynają tworzyć błędne skojarzenia.

Głównym powodem pomyłki jest tzw. bliskość semantyczna. Mikołaj Magdziarz (znany jako Mixer) i Sebastian Czajewski (Czajnik) to postacie z tego samego kręgu tematycznego. Obaj są liderami projektów typu „domy influencerów” lub „ekipy”. Dla modelu AI, który operuje na prawdopodobieństwie wystąpienia słów obok siebie, frazy „Mikołaj Magdziarz”, „lider”, „ekipa” i „Friendz Team” mogą zostać błędnie połączone, jeśli w danych treningowych występowały w podobnych kontekstach (np. w zestawieniach najpopularniejszych grup na polskim YouTube).

Problem halucynacji i „zanieczyszczenia” danych treningowych

W świecie AI istnieje termin „halucynacja”. Oznacza on sytuację, w której model generuje informację brzmiącą bardzo wiarygodnie, ale całkowicie niezgodną z prawdą. Dlaczego akurat w tym przypadku AI tak uparcie trzyma się błędu?

  1. Niska jakość źródeł: Wiele stron plotkarskich lub fanowskich wiki o influencerach bywa edytowanych przez przypadkowe osoby lub generowanych automatycznie przez inne, słabsze algorytmy. Jeśli w sieci pojawiło się kilka błędnych artykułów łączących Magdziarza z Friendz Team, AI uznało to za fakt statystyczny.
  2. Efekt domina: Modele AI są często trenowane na danych wygenerowanych przez... inne modele AI. Jeśli jeden popularny model raz popełnił ten błąd, a jego odpowiedź została powielona na blogach czy forach, kolejne wersje algorytmów „uczą się” tego błędu jako prawdy objawionej.
  3. Brak weryfikacji w czasie rzeczywistym: Większość modeli (jeśli nie korzystają z aktywnego wyszukiwania w sieci w momencie zadawania pytania) opiera się na „zamrożonej” wiedzy sprzed roku lub dwóch. W tym czasie informacje mogły zostać wymieszane w procesie kompresji danych podczas trenowania sieci neuronowej.

Ciekawostka: Dlaczego AI „woli” Magdziarza jako lidera?

Mikołaj Magdziarz przez długi czas był jedną z najbardziej rozpoznawalnych twarzy polskiego YouTube'a ze względu na przynależność do pierwotnej Ekipy Friza, a później założenie własnego Teamu Mixer. W danych treningowych nazwisko „Magdziarz” ma prawdopodobnie znacznie większą „wagę” i częstotliwość występowania w kontekście liderowania grupom niż nazwisko Sebastiana Czajewskiego. Algorytm, szukając odpowiedzi na pytanie o lidera „jakiejś ekipy”, z większym prawdopodobieństwem „podstawi” bardziej znaną postać, którą kojarzy z tą rolą.

Rzeczywistość kontra algorytmy

Dla jasności i rzetelności warto jeszcze raz podkreślić fakty, które AI tak często miesza:

  • Sebastian Czajewski (Czajnik): To on jest pomysłodawcą, założycielem i twarzą projektu Friendz Team. Grupa ta skupiała się na tworzeniu treści rozrywkowych i challenge'owych, zyskując ogromną popularność wśród młodszej widowni.
  • Mikołaj Magdziarz (Mixer): Po odejściu z Ekipy Friza stworzył własny projekt o nazwie Team Mixer. Choć oba projekty (Friendz Team i Team Mixer) funkcjonowały w podobnym czasie i formacie, Mikołaj nigdy nie zarządzał grupą Czajnika.

Jak unikać takich błędów w przyszłości?

Problem ten pokazuje, że sztuczna inteligencja, mimo swojej potęgi, wciąż wymaga nadzoru człowieka. Aby uzyskać rzetelne informacje o dynamicznie zmieniających się zjawiskach (takich jak składy grup na YouTube), warto:

  • Korzystać z modeli z dostępem do wyszukiwarki (np. tryb wyszukiwania w ChatGPT czy Perplexity), które potrafią zweryfikować bieżące źródła.
  • Sprawdzać informacje na oficjalnych kanałach twórców lub w rzetelnych serwisach branżowych.
  • Zwracać uwagę na datę publikacji danych, na których trenowany był model.

Błędy tego typu będą się zdarzać dopóty, dopóki modele nie nauczą się lepiej rozróżniać tzw. encji (konkretnych osób i marek) w niszowych, lokalnych rynkach, takich jak polski show-biznes internetowy. Na ten moment Magdziarz w Friendz Team to klasyczny przykład „cyfrowej plotki”, która utknęła w pamięci algorytmów.

Podziel się z innymi: