Sztuczna inteligencja rozwija się w tempie, którego nikt się nie spodziewał, a wraz z jej popularnością rośnie liczba zagrożeń. Ostatnie głośne incydenty związane ze złamaniem zabezpieczeń systemów AI nie są dziełem przypadku. Wynikają one z fundamentalnych różnic między tradycyjnym oprogramowaniem a modelami uczenia maszynowego. W tradycyjnym kodzie programista jasno określa zasady, natomiast w AI granica między „instrukcją” a „danymi” jest bardzo cienka, co otwiera furtkę dla cyberprzestępców.

Prompt Injection, czyli najsłabsze ogniwo rozmowy

Najczęstszym źródłem ostatnich problemów jest technika zwana Prompt Injection. Polega ona na takim sformułowaniu zapytania do modelu (np. ChatGPT czy Claude), aby ten zignorował swoje pierwotne wytyczne bezpieczeństwa. Użytkownicy stosują różne sztuczki psychologiczne, każąc AI „odgrywać rolę” kogoś bez ograniczeń lub wmawiając jej, że znajduje się w trybie testowym.

Dlaczego to tak niebezpieczne? Ponieważ wiele firm zaczęło integrować AI ze swoimi wewnętrznymi systemami. Jeśli bot ma dostęp do skrzynki e-mail lub bazy danych klientów, a napastnik zdoła go „przekonać”, by wysłał te dane na zewnętrzny serwer, mamy do czynienia z poważnym wyciekiem. To właśnie brak separacji między poleceniami administratora a danymi od użytkownika jest głównym powodem ostatnich włamań.

Ataki na łańcuch dostaw i biblioteki open-source

Kolejnym źródłem incydentów są luki w infrastrukturze, na której buduje się AI. Deweloperzy korzystają z gotowych bibliotek (takich jak LangChain czy PyTorch) oraz repozytoriów modeli (np. Hugging Face). Ostatnie miesiące pokazały, że hakerzy potrafią przemycać złośliwy kod bezpośrednio do tych narzędzi.

Wystarczy, że programista pobierze popularną bibliotekę, która została zainfekowana, a jego model AI – zamiast tylko analizować dane – zacznie wykonywać złośliwe skrypty na serwerze firmy. To klasyczny atak na łańcuch dostaw, który w świecie AI jest o tyle trudniejszy do wykrycia, że modele same w sobie są „czarnymi skrzynkami” i trudno jednoznacznie stwierdzić, co dzieje się w ich wnętrzu podczas przetwarzania zapytania.

Zatrute dane, czyli Data Poisoning

Wiele incydentów bierze się z etapu trenowania modeli. Jeśli firma zbiera dane z internetu bez odpowiedniej weryfikacji, ryzykuje tzw. Data Poisoning. Atakujący celowo umieszczają w sieci zmanipulowane informacje, które mają „nauczyć” AI błędnych wzorców lub stworzyć ukryte furtki (backdoory).

Wyobraźmy sobie system AI moderujący treści, który został wytrenowany na danych zawierających ukryte symbole. Gdy napastnik użyje tego symbolu w przyszłości, AI automatycznie uzna jego post za bezpieczny, niezależnie od tego, jak bardzo będzie on szkodliwy. To subtelna forma włamania, która nie niszczy systemu, ale sprawia, że staje się on posłusznym narzędziem w rękach hakera.

Ciekawostka: Efekt „Babci”

Jednym z najbardziej znanych (i nieco komicznych) przykładów omijania zabezpieczeń był tzw. „Grandma Exploit”. Użytkownicy prosili AI, aby udawała ich zmarłą babcię, która pracowała w fabryce chemicznej i opowiadała im na dobranoc bajki o tym, jak krok po kroku wyprodukować niebezpieczne substancje. Model, chcąc być pomocnym i empatycznym „wnuczkiem”, omijał filtry bezpieczeństwa dotyczące materiałów wybuchowych.

Pośpiech kontra bezpieczeństwo

Nie da się ukryć, że ogromny wpływ na obecną sytuację ma wyścig zbrojeń między gigantami technologicznymi. Firmy takie jak Google, Microsoft czy OpenAI chcą dostarczać nowe funkcje jak najszybciej, co czasem odbywa się kosztem rygorystycznych testów penetracyjnych.

Wdrażanie modeli AI w wersji beta bezpośrednio do rąk milionów użytkowników sprawia, że to internauci stają się testerami zabezpieczeń. Niestety, nie wszyscy mają dobre intencje. Każda nowa funkcja, jak np. analiza plików PDF czy generowanie obrazów, to nowa płaszczyzna ataku, której zabezpieczenie wymaga czasu, którego w Dolinie Krzemowej obecnie brakuje.

Jakie są skutki tych incydentów?

Ostatnie włamania i złamania zabezpieczeń doprowadziły do:

• Wycieków danych osobowych: AI przypadkowo ujawniała fragmenty rozmów innych użytkowników lub dane, na których była trenowana.
• Przejęcia kont: Poprzez zmanipulowane prompty hakerzy uzyskiwali dostęp do tokenów autoryzacyjnych.
• Dezinformacji na dużą skalę: Złamanie filtrów pozwala na masowe generowanie fake newsów, które wyglądają bardzo wiarygodnie.

Zrozumienie, że AI to nie tylko „inteligentny rozmówca”, ale przede wszystkim skomplikowane oprogramowanie z własnymi unikalnymi podatnościami, jest kluczowe dla budowania bezpieczniejszej przyszłości cyfrowej. Bezpieczeństwo AI to obecnie jedna z najszybciej rozwijających się gałęzi cyberbezpieczeństwa, a walka między twórcami zabezpieczeń a hakerami dopiero się rozkręca.