Wyobraź sobie świat, w którym policja pojawia się na rogu ulicy dokładnie w momencie, gdy złodziej wybija szybę w zaparkowanym samochodzie. Nie dlatego, że ktoś zadzwonił na numer alarmowy, ale dlatego, że system komputerowy „wiedział”, że to się wydarzy. To, co brzmi jak scenariusz filmu science-fiction w stylu „Raportu mniejszości”, w rzeczywistości dzieje się już teraz pod nazwą predictive policing oraz narzędzi do oceny ryzyka (risk assessment tools). Choć technologia ta obiecuje bezpieczniejsze ulice, budzi też ogromne kontrowersje dotyczące wolności obywatelskich i sprawiedliwości.

Czym dokładnie jest predictive policing?

Predictive policing, czyli prognozowanie przestępczości, to wykorzystanie zaawansowanych algorytmów i analizy danych do przewidywania, gdzie i kiedy może dojść do złamania prawa. Systemy te nie działają na podstawie „intuicji” funkcjonariuszy, lecz przetwarzają gigantyczne zbiory danych historycznych.

Możemy wyróżnić dwa główne podejścia w tej technologii:

• Prognozowanie miejsc (Hotspot Policing): Algorytmy analizują mapy przestępczości, czas zdarzeń, a nawet dane pogodowe czy kalendarz imprez masowych, aby wskazać „gorące punkty”. Jeśli w danym parku w każdy piątkowy wieczór dochodzi do pobić, system zasugeruje wysłanie tam patrolu.
• Prognozowanie osób: To znacznie bardziej kontrowersyjna metoda. Polega na typowaniu jednostek, które statystycznie mają największą szansę stać się sprawcami lub ofiarami przestępstw. Analizuje się tu powiązania towarzyskie, przeszłość kryminalną i inne wskaźniki społeczne.

Narzędzia do oceny ryzyka – algorytm w roli sędziego

Podczas gdy predictive policing ma zapobiegać przestępstwom na ulicy, narzędzia do oceny ryzyka (risk assessment tools) wchodzą do gry, gdy sprawca trafi już przed oblicze wymiaru sprawiedliwości. Są to programy komputerowe, które na podstawie dziesiątek zmiennych (wiek, historia zatrudnienia, stabilność rodzinna, wcześniejsze wyroki) obliczają „wynik ryzyka” (risk score).

Ten wynik podpowiada sędziemu lub kuratorowi, czy dana osoba:

1. Może wyjść za kaucją bez ryzyka ucieczki.
2. Zasługuje na zwolnienie warunkowe.
3. Ma wysokie prawdopodobieństwo powrotu na drogę przestępstwa (recydywy).

Najbardziej znanym (i krytykowanym) systemem tego typu jest amerykański COMPAS, który był szeroko stosowany w sądach w USA.

Czy powszechne zastosowanie to tylko kwestia czasu?

Stwierdzenie, że te systemy nieuchronnie wejdą do powszechnego użytku, jest obecnie przedmiotem gorącej debaty. Z jednej strony mamy dynamiczny rozwój sztucznej inteligencji, z drugiej – rosnący opór społeczny i prawny.

Wiele wskazuje na to, że proces ten nie będzie tak gładki, jak mogłoby się wydawać. W Unii Europejskiej podejście do tych technologii jest bardzo restrykcyjne. Przyjęty niedawno AI Act (Akt o sztucznej inteligencji) klasyfikuje systemy predictive policing oraz narzędzia do oceny ryzyka jako systemy „wysokiego ryzyka”, a w niektórych przypadkach (np. profilowanie osób wyłącznie na podstawie cech osobowościowych bez dowodów) – wręcz ich zakazuje.

Zatem, czy wejdą one do powszechnego użytku? To zależy od regionu świata. W Chinach czy niektórych stanach USA są one rozwijane bardzo intensywnie. W Europie prawdopodobnie będziemy świadkami bardzo ostrożnego wdrażania tylko tych narzędzi, które pomagają w logistyce (gdzie wysłać radiowóz), a nie tych, które oceniają konkretnego człowieka.

Problem „brudnych danych” i stronniczości

Największym argumentem przeciwko aprobacie społecznej dla tych narzędzi jest tzw. stronniczość algorytmiczna. Algorytmy uczą się na danych historycznych. Jeśli w przeszłości policja częściej patrolowała dzielnice zamieszkane przez mniejszości etniczne lub osoby uboższe, to w systemie znajdzie się więcej raportów z tych miejsc.

W efekcie algorytm „nauczy się”, że to tam dochodzi do największej liczby przestępstw i będzie tam wysyłał jeszcze więcej patroli. To tworzy błędne koło: więcej policji to więcej wykrytych drobnych wykroczeń, co z kolei generuje więcej danych potwierdzających „niebezpieczeństwo” danej okolicy. Krytycy nazywają to „automatyzacją uprzedzeń”.

Ciekawostka: Efekt obserwatora

Badania wykazały, że sama obecność patrolu w miejscu wskazanym przez algorytm może zmieniać zachowanie mieszkańców. Nie zawsze prowadzi to do spadku przestępczości, czasem po prostu przesuwa ją o dwie ulice dalej, poza zasięg wzroku „przewidującego” systemu.

Czy społeczeństwo kiedykolwiek to zaakceptuje?

Aprobata społeczna dla predictive policing opiera się na obietnicy bezpieczeństwa. Ludzie są skłonni zrezygnować z części prywatności, jeśli wierzą, że dzięki temu ich dzieci będą bezpieczniejsze w drodze do szkoły. Jednak ta aprobata drastycznie spada, gdy wychodzą na jaw błędy systemów – np. niesłuszne zatrzymania wynikające z błędnego dopasowania twarzy przez AI lub niesprawiedliwe wyroki oparte na wadliwym algorytmie.

Współczesne społeczeństwa stają się coraz bardziej świadome zagrożeń płynących z „czarnych skrzynek” (algorytmów, których działania nie rozumieją nawet ich twórcy). Dlatego pełna aprobata jest mało prawdopodobna bez wprowadzenia całkowitej transparentności i możliwości odwołania się od decyzji maszyny do człowieka.

Podsumowanie technologicznego wyścigu z przestępczością

Predictive policing i narzędzia do oceny ryzyka to potężne instrumenty, które mogą zrewolucjonizować pracę służb mundurowych. Pozwalają na lepsze zarządzanie ograniczonymi zasobami i szybszą reakcję tam, gdzie jest ona potrzebna. Jednak ich przyszłość nie jest przesądzona.

Obecnie znajdujemy się w punkcie zwrotnym. To, czy te narzędzia staną się standardem, zależy nie od samej technologii, ale od tego, jak poradzimy sobie z kwestiami etycznymi. Bez wyeliminowania uprzedzeń i zapewnienia pełnej kontroli nad algorytmami, wizja bezpiecznego świata może szybko zamienić się w cyfrową dystopię, na którą społeczeństwo po prostu nie wyrazi zgody.