Wykorzystanie sztucznej inteligencji i zaawansowanych algorytmów do przewidywania zachowań przestępczych to temat, który jeszcze dekadę temu kojarzył się wyłącznie z filmami science-fiction pokroju „Raportu mniejszości”. Dzisiaj to rzeczywistość, która budzi ogromne emocje wśród kryminologów, socjologów, prawników oraz etyków. Systemy określane mianem predictive policing (prognozowanie przestępczości) lub narzędzia do oceny ryzyka (risk assessment tools) są wdrażane w różnych częściach świata, budząc tyle samo nadziei, co kontrowersji.

Jak działają algorytmy typujące zagrożenia?

Systemy te opierają się na analizie ogromnych zbiorów danych (Big Data). Algorytmy nie „zgadują” – one szukają korelacji. Do bazy danych trafiają informacje takie jak: historia wcześniejszych wykroczeń, sytuacja rodzinna, status materialny, wyniki w nauce, a nawet dane dotyczące sąsiedztwa, w którym dana osoba przebywa. Na tej podstawie program generuje wynik (score), który określa prawdopodobieństwo wystąpienia tzw. demoralizacji lub wejścia na drogę przestępczą.

Specjaliści zajmujący się technologią podkreślają, że algorytmy są w stanie przetworzyć znacznie więcej informacji niż jakikolwiek kurator czy psycholog. Dzięki temu mogą teoretycznie wyłapać sygnały ostrzegawcze, które dla człowieka byłyby zbyt subtelne lub rozproszone w czasie.

Jakie działania profilaktyczne są podejmowane?

W momencie, gdy system wytypuje osobę jako „wysokiego ryzyka”, uruchamiana jest machina działań profilaktycznych. W zależności od jurysdykcji i konkretnego programu, mogą to być:

• Intensywny nadzór kuratorski lub socjalny: Osoba taka trafia pod „lupę” służb, co wiąże się z częstszymi wizytami domowymi i kontrolami.
• Obowiązkowe programy terapeutyczne: Skierowanie na terapię uzależnień, treningi zastępowania agresji czy warsztaty kompetencji społecznych.
• Wsparcie edukacyjne i zawodowe: Programy mające na celu aktywizację zawodową lub pomoc w nauce, by zminimalizować czynniki ekonomiczne popychające do przestępczości.
• Zwiększona obecność policji: W przypadku algorytmów typujących „gorące punkty” (hot spots), działania skupiają się na prewencyjnym patrolowaniu miejsc, gdzie przebywają osoby z grupy ryzyka.

Warto zauważyć, że działania te mają charakter administracyjny lub profilaktyczny, a nie karny – przynajmniej w teorii. Jednak dla osoby objętej takim programem granica między „pomocą” a „ingerencją w wolność” bywa bardzo cienka.

Co o tym sądzą zwolennicy? Głosy za obiektywizmem

Entuzjaści takich rozwiązań, w tym część decydentów i służb mundurowych, argumentują, że algorytmy eliminują ludzki błąd i subiektywizm. Twierdzą oni, że:

1. Zasoby są ograniczone: Państwo nie może pomóc każdemu w takim samym stopniu. AI pozwala skierować środki tam, gdzie są one najbardziej potrzebne.
2. Wczesna interwencja ratuje życie: Wykrycie zagrożenia na etapie demoralizacji pozwala zapobiec tragediom w przyszłości.
3. Prewencja jest tańsza niż resocjalizacja: Koszt utrzymania więźnia jest znacznie wyższy niż koszt programu profilaktycznego.

Dlaczego eksperci biją na alarm? Ciemna strona algorytmów

Mimo potencjalnych korzyści, środowiska naukowe i obrońcy praw człowieka są pełni obaw. Krytyka skupia się na kilku kluczowych aspektach:

Problem „brudnych danych” i uprzedzeń

Algorytmy uczą się na danych historycznych. Jeśli policja w przeszłości częściej kontrolowała określone grupy etniczne lub mieszkańców konkretnych dzielnic, algorytm uzna to za regułę. W efekcie system może powielać i utrwalać istniejące uprzedzenia społeczne, zamiast je niwelować. Specjaliści nazywają to zjawiskiem „bias in, bias out” (uprzedzenia na wejściu, uprzedzenia na wyjściu).

Samospełniająca się przepowiednia

Socjolodzy zwracają uwagę na efekt etykietowania. Jeśli młody człowiek dowie się (lub odczuje to poprzez działania służb), że został uznany za „przyszłego przestępcę”, może zacząć zachowywać się zgodnie z tą rolą. Zwiększony nadzór policyjny w danej okolicy naturalnie prowadzi do wykrywania większej liczby drobnych wykroczeń, co z kolei „karmi” algorytm danymi potwierdzającymi jego pierwotną tezę.

Brak transparentności (Black Box)

Wiele z tych systemów to oprogramowanie komercyjne, chronione tajemnicą handlową. Eksperci prawni podkreślają, że osoba typowana przez algorytm często nie ma możliwości dowiedzieć się, dlaczego została uznana za zagrożenie. Brak możliwości zaskarżenia decyzji podjętej przez „czarną skrzynkę” stoi w sprzeczności z fundamentami państwa prawa.

Opinie prawne i etyczne – dokąd zmierzamy?

W Unii Europejskiej debata na ten temat zaowocowała powstaniem AI Act (Aktu o Sztucznej Inteligencji). Przepisy te klasyfikują systemy wykorzystywane w organach ścigania i sądownictwie jako systemy „wysokiego ryzyka”. Oznacza to, że muszą one spełniać rygorystyczne wymogi dotyczące jakości danych, nadzoru ludzkiego i przejrzystości.

Większość ekspertów zgadza się co do jednego: algorytm nigdy nie powinien podejmować ostatecznej decyzji o wdrożeniu przymusowych środków. Powinien on być jedynie narzędziem pomocniczym dla wykwalifikowanego człowieka (psychologa, sędziego, pracownika socjalnego), który weźmie pod uwagę kontekst życiowy, jakiego żadna maszyna nie jest w stanie w pełni zrozumieć.

Ciekawostka: Jednym z najsłynniejszych systemów tego typu był amerykański COMPAS, używany do oceny ryzyka recydywy. Niezależne śledztwa dziennikarskie (m.in. ProPublica) wykazały, że system ten był dwukrotnie bardziej skłonny błędnie ocenić osoby o ciemniejszym kolorze skóry jako przyszłych przestępców w porównaniu do osób białych, przy zachowaniu podobnych kartotek. To wydarzenie stało się punktem zwrotnym w globalnej dyskusji o etyce AI.