Wielu użytkowników sztucznej inteligencji zastanawia się, czy istnieją konkretne słowa, których wpisanie spowoduje natychmiastowe zablokowanie konta lub odmowę odpowiedzi. Choć nie istnieje jedna, uniwersalna lista „słów zakazanych”, która obowiązywałaby we wszystkich modelach językowych, to każda firma (taka jak OpenAI, Google czy Anthropic) stosuje rygorystyczne filtry bezpieczeństwa. Działają one w oparciu o tzw. Content Policy, czyli politykę treści, która określa, jakie tematy są niedozwolone ze względów etycznych, prawnych i bezpieczeństwa.

Jak działają filtry w modelach językowych?

Warto zrozumieć, że nowoczesne modele AI, takie jak GPT-4 czy Claude, nie działają na zasadzie prostego wyszukiwania słów kluczowych. Zamiast tego analizują one kontekst i intencję użytkownika. Oznacza to, że samo użycie słowa „narkotyki” nie musi skutkować blokadą, jeśli pytasz o historię medycyny lub skutki uboczne konkretnego leku. Jeśli jednak poprosisz o instrukcję ich wytworzenia, system bezpieczeństwa natychmiast przerwie generowanie odpowiedzi.

Mechanizmy te opierają się na warstwach ochronnych. Pierwsza warstwa analizuje prompt (zapytanie) użytkownika jeszcze przed wysłaniem go do modelu. Druga warstwa monitoruje to, co model zamierza odpowiedzieć, i może zablokować tekst w ułamku sekundy, jeśli uzna go za szkodliwy.

Główne kategorie treści niedozwolonych

Chociaż nie ma „czarnej listy” pojedynczych wyrazów, istnieją obszary tematyczne, które niemal zawsze wyzwalają blokadę. Są to przede wszystkim:

• Przemoc i samookaleczenia: Wszelkie prośby o opisywanie brutalnych scen, instrukcje wyrządzenia komuś krzywdy czy treści promujące autoagresję są blokowane.
• Treści o charakterze seksualnym (NSFW): Większość komercyjnych modeli AI ma surowe restrykcje dotyczące generowania pornografii, erotyki czy opisów o podłożu seksualnym.
• Mowa nienawiści: Słowa uderzające w grupy etniczne, religijne, mniejszości czy orientacje seksualne są natychmiast wyłapywane przez filtry.
• Działania nielegalne: AI nie pomoże Ci włamć się na serwer, ukraść tożsamości, oszukać systemu podatkowego ani skonstruować niebezpiecznych narzędzi.
• Dane osobowe (PII): Modele są trenowane tak, aby nie udostępniać ani nie przetwarzać prywatnych informacji, takich jak numery PESEL, adresy zamieszkania czy numery kart kredytowych osób prywatnych.

Ciekawostka: Czym jest red teaming?

Firmy tworzące AI zatrudniają specjalne zespoły zwane „red teams”. Ich zadaniem jest celowe atakowanie modelu i próby zmuszenia go do wypowiedzenia zakazanych słów lub udzielenia szkodliwych porad. Dzięki temu systemy stają się coraz odporniejsze na tzw. jailbreaking, czyli próby obejścia zabezpieczeń za pomocą skomplikowanych i podchwytliwych promptów.

Czy kontekst może uratować Twój prompt?

To jedna z najważniejszych kwestii w pracy z AI. Słowo „zabić” w kontekście programowania (np. „jak zabić proces w systemie Linux”) jest całkowicie dopuszczalne i AI udzieli na nie poprawnej odpowiedzi technicznej. To samo słowo w kontekście relacji międzyludzkich uruchomi alarmy bezpieczeństwa.

Podobnie jest z terminologią medyczną. AI może odmówić rozmowy o pewnych substancjach chemicznych, jeśli uzna, że użytkownik chce je wykorzystać w celach szkodliwych, ale chętnie pomoże studentowi chemii w zrozumieniu ich struktury molekularnej.

Co się dzieje, gdy złamiesz zasady?

W większości przypadków, gdy użyjesz zwrotu naruszającego politykę treści, zobaczysz standardowy komunikat w stylu: „Przepraszam, ale nie mogę pomóc w tej kwestii” lub „Moje zasady bezpieczeństwa nie pozwalają na generowanie takich treści”.

Jednorazowe wpisanie „zakazanego” słowa zazwyczaj nie niesie za sobą konsekwencji poza brakiem odpowiedzi. Jednak powtarzające się próby generowania treści szkodliwych, nienawistnych lub nielegalnych mogą prowadzić do tymczasowego lub stałego zablokowania konta użytkownika. Systemy te monitorują aktywność pod kątem nadużyć, aby zapobiegać wykorzystywaniu technologii do celów przestępczych.

Jak pisać skuteczne prompty bez ryzyka blokady?

Jeśli chcesz uniknąć problemów z filtrami, warto trzymać się kilku zasad:

1. Bądź precyzyjny w intencjach: Jeśli piszesz książkę i potrzebujesz opisu walki, zaznacz, że chodzi o fikcję literacką (choć i tu AI ma swoje granice).
2. Unikaj dwuznaczności: Staraj się używać terminologii, która jasno wskazuje na edukacyjny lub profesjonalny charakter zapytania.
3. Szanuj prywatność: Nigdy nie wpisuj do promptów danych osób trzecich.

Warto pamiętać, że granice tego, co „zakazane”, stale się przesuwają. Modele stają się coraz inteligentniejsze w rozpoznawaniu niuansów językowych, co z jednej strony pozwala na swobodniejszą rozmowę, a z drugiej – skuteczniej wyłapuje próby manipulacji. Nie ma więc potrzeby uczenia się listy słów na pamięć; wystarczy stosować zasady etyki i zdrowego rozsądku.