Wprowadzenie unijnego rozporządzenia o sztucznej inteligencji, znanego jako AI Act, to kamień milowy w regulacji nowoczesnych technologii. Jednym z jego kluczowych założeń jest przejrzystość – użytkownik powinien wiedzieć, że ma do czynienia z treścią wygenerowaną przez algorytmy. Jednak, jak to często bywa w starciu prawa z technologią, pojawia się pytanie o skuteczność tych przepisów w starciu z osobami, które świadomie chcą je złamać. Odpowiedź jest złożona, ale krótka: tak, osoba o nieuczciwych zamiarach technicznie będzie w stanie ominąć te zabezpieczenia.

Jak działają oznaczenia AI i dlaczego można je usunąć

Unijne przepisy nakładają obowiązki przede wszystkim na dostawców systemów AI (takich jak OpenAI, Google czy Microsoft). Firmy te muszą implementować mechanizmy, które automatycznie dodają do generowanych obrazów, filmów czy dźwięków specjalne metadane lub cyfrowe znaki wodne. Problem polega na tym, że większość tych zabezpieczeń jest obecnie możliwa do usunięcia przez kogoś, kto posiada odpowiednią wiedzę techniczną.

Cyfrowe znaki wodne mogą być "zaszyte" w strukturze pliku w sposób niewidoczny dla ludzkiego oka, ale widoczny dla oprogramowania skanującego. Jednak proste operacje, takie jak zmiana formatu pliku, silna kompresja, zrobienie zrzutu ekranu czy nawet drobna edycja graficzna, mogą skutecznie zniszczyć te znaczniki. W przypadku tekstu sprawa jest jeszcze trudniejsza – nie da się trwale "oznakować" ciągu liter w taki sposób, by po skopiowaniu go do innego edytora nadal nosił on znamiona pochodzenia od AI.

Modele open-source, czyli AI bez cenzury i kontroli

Największym wyzwaniem dla skuteczności AI Act są modele typu open-source (otwarte oprogramowanie). Podczas gdy giganci technologiczni muszą pilnować standardów, aby uniknąć gigantycznych kar finansowych, modele o otwartym kodzie źródłowym mogą być pobierane i uruchamiane na prywatnych serwerach lub domowych komputerach.

Osoba o nieuczciwych zamiarach może pobrać taki model, zmodyfikować go i usunąć z niego wszelkie filtry bezpieczeństwa oraz mechanizmy znakowania treści. W takim scenariuszu prawo staje się trudne do wyegzekwowania, ponieważ twórca materiału działa poza oficjalnymi platformami objętymi ścisłym nadzorem. To właśnie tutaj rodzi się największe ryzyko związane z tworzeniem deepfake’ów czy kampaniami dezinformacyjnymi.

Ciekawostka: Wyścig zbrojeń w detekcji AI

Obecnie trwa technologiczny wyścig zbrojeń. Z jednej strony powstają coraz lepsze generatory, a z drugiej – narzędzia do detekcji AI. Niestety, obecnie żadne narzędzie nie daje 100% pewności. Nawet najbardziej zaawansowane detektory tekstu często mylą się, przypisując autorstwo AI tekstom napisanym przez ludzi (i odwrotnie), co sprawia, że walka z nieoznakowanymi treściami jest niezwykle trudna.

Czy AI Act jest w takim razie bezużyteczny?

Mimo że nieuczciwi gracze znajdą sposoby na obejście przepisów, AI Act pełni bardzo ważną funkcję cywilizacyjną. Przede wszystkim reguluje on legalny rynek. Dzięki niemu większość treści, z którymi będziemy stykać się na co dzień w mediach społecznościowych czy serwisach informacyjnych, będzie musiała posiadać odpowiednie certyfikaty pochodzenia.

Wprowadzenie tych przepisów sprawia również, że:

• Platformy społecznościowe będą zmuszone do filtrowania treści: Facebook, X (dawny Twitter) czy TikTok będą musiały wdrażać algorytmy rozpoznające znaki wodne i automatycznie informować użytkowników o pochodzeniu materiału.
• Wzrośnie świadomość społeczna: Użytkownicy nauczą się, że brak oznaczenia nie zawsze oznacza prawdę, a obecność oznaczenia "AI-generated" stanie się standardem, którego będziemy wypatrywać.
• Odpowiedzialność prawna: Jeśli ktoś zostanie przyłapany na rozpowszechnianiu szkodliwych treści bez oznaczeń, AI Act daje organom ścigania konkretne narzędzia prawne do nakładania kar, co wcześniej było znacznie trudniejsze.

Wyzwania dla organów ścigania i przyszłość weryfikacji

Walka z nieoznakowanymi materiałami AI przypomina walkę z piractwem internetowym lub fałszowaniem dokumentów. Zawsze znajdzie się ktoś, kto spróbuje złamać system. Kluczem do sukcesu nie będzie samo prawo, ale rozwój technologii weryfikacji treści u źródła (np. standard C2PA, który pozwala śledzić historię edycji pliku od momentu jego powstania w aparacie lub programie).

Podsumowując, osoba o złych zamiarach bez wątpienia będzie mogła stworzyć i rozpowszechnić nieoznakowany materiał AI. Jednak dzięki nowym regulacjom, taka działalność stanie się znacznie trudniejsza, bardziej ryzykowna i łatwiejsza do napiętnowania. Prawo nie wyeliminuje oszustw całkowicie, ale stworzy bariery, które zniechęcą wielu potencjalnych sprawców i dadzą nam, odbiorcom, większą szansę na odróżnienie prawdy od cyfrowej fikcji.