Film science fiction (na podstawie powieści Philipa K. Dicka) z 2002 roku z Tomem Cruisem i Colinem Farrellem opisuje świat w przyszłości, w którym specjalna agencja zajmuje się internacją osób, co do których przewiduje się, że popełnią przestępstwo. Miało to nastąpić w 2054 roku. Stało się znacznie wcześniej.
Od 2017 roku sądy w kilku stanach Stanów Zjednoczonych używają IV generacji programu COMPAS opartego o AI, który na podstawie szeregu psychologicznych i behawioralnych danych o sprawcy wspomaga sędziów w podejmowaniu decyzji, analizując potencjalne ryzyko recydywy podsądnego:
- ryzyko braku stawiennictwa na rozprawie lub popełnienia przestępstwa w trakcie procesu. Firma Northpointe, Inc. podaje, że ryzyko to jest szacowane między innymi na podstawie analizy takich czynników jak: aktualne zarzuty, inne toczące się sprawy, historia wcześniejszych zatrzymań, wcześniejsze niepowodzenia przedprocesowe, stabilność mieszkaniowa, status zawodowy, więzi społeczne i nadużywanie substancji psychoaktywnych;
- ryzyko recydywy po zwolnieniu z pozbawienia wolności;
- ryzyko recydywy z użyciem przemocy.
Część z okoliczności, które analizuje COMPAS, pomieściłaby się w art. 53 k.k. czy art. 71 § 1 k.k., jednak twórca tego systemu nie ujawnia szczegółów algorytmu, co praktycznie uniemożliwia weryfikację wyniku w kontekście danych wejściowych.
Czy korzystanie z takiego narzędzia odpowiada rygorom praworządności? Wobec niejawności algorytmu przypomina to trochę wróżbę. Polskie sądy dopuszczały już dowody z opinii biegłego iluzjonisty (słynna sprawa, w której Sąd Rejonowy w Kołobrzegu uniewinnił oskarżonego od zarzutu oszustwa w grę w „trzy kubki” uznając, że jest on wyjątkowo uzdolniony i nie oszukuje w grze), jednak dowód z dokumentu stanowiącego przepowiednię autorstwa AI byłby pewnym novum.
Nie sposób ustalić, czy COMPAS dokonuje agregacji danych i stosownych obliczeń czy też interpretuje dane lub wyniki. Nie dostrzegam nic niewłaściwego we wspomaganiu orzecznictwa poprzez przyspieszenie obliczeń np. poprzez maszynową analizę karty karnej i pełnej historii penitencjarnej podsądnego, o ile tylko wynikiem działania takiego oprogramowania będą suche dane. Kiedy sędzia na wydruku uzyskałby „rekomendację” AI co do rozstrzygnięcia, to moim zdaniem doszłoby do wyłączenia niezawisłości sędziowskiej. Kwestię tę rozstrzygał Sąd Najwyższy Stanów Zjednoczonych (w sprawie Loomis v. Wisconsin) i stwierdził, że używanie programów jak COMPAS jest dopuszczalne, o ile tylko narzędzia komputerowe są elementem procesu decyzyjnego sędziego, a nie stanowią jedynego elementu, który składałby się na orzeczenie. Równocześnie jednak wskazano, że podsądny winien mieć możliwość kwestionowania oceny, a raporty stworzone przez AI powinny być obwarowane zastrzeżeniami o ograniczeniach oprogramowania i możliwych błędach.
Nie można jednak pominąć istnienia tzw. hungry judge effect (efekt głodnego sędziego). W 2011 roku izraelscy naukowcy przeanalizowali 1112 postanowień w przedmiocie warunkowego przedterminowego zwolnienia wydanych przez 8 sędziów na przestrzeni 10 miesięcy. Ustalili oni, że prawdopodobieństwo uzyskania warunkowego zwolnienia na początku wokandy wynosiło 65% i spadało niemal do 0 bezpośrednio przed przerwą obiadową, zaś po przerwie znowu szansa oscylowała w granicach 65%. Szczegóły wyników badania są oczywiście dużo bardziej złożone, jednak autorzy opracowania zaryzykowali twierdzenie, że istnieją czynniki zewnętrzne, niedotyczące sprawy, które wpływają na rozstrzygnięcie sądu, a zidentyfikowanym czynnikiem jest posiłek (dopływ glukozy).
Jakkolwiek publikacja ta była krytykowana, to jednak jej przeciwnicy skupiali się nie na zasadzie, którą sformułowali Izraelczycy, ale raczej na rozmiarze tendencji, którą oni stwierdzili.
Analizy Fundacji Court Watch (raport z 2024 roku) wykazały, że prawdopodobieństwo tego, że sąd uwzględni wniosek o zastosowanie tymczasowego aresztowania różni się w zależności od sądu i sędziego. Np. w latach 2017–2021 sądy w okręgu Szczecin stosowały areszt w 89,4%, a np. w Koszalinie w 95,9% przypadków. W okręgu Szczecin zidentyfikowano sędziów, którzy rozpoznali ponad 100 wniosków o zastosowanie tymczasowego aresztowania uwzględniając ponad 99% wniosków, ale również takich, którzy uwzględnili 81,9% wniosków. Interesujący jest również odsetek stosowania tymczasowego aresztowania w zależności od dnia tygodnia (najwięcej wniosków uwzględniono w poniedziałek, najmniej w czwartek i niedzielę), ale również w zależności od tego czy sąd orzekał w tym samym dniu, gdy złożono wniosek czy też dnia następnego – otóż im szybciej wniosek rozpoznawany, tym większa szansa na zastosowanie tymczasowego aresztowania, zaś im dłuższy czas upłynął od złożenia wniosku do jego uwzględnienia, tym większa szansa na nieuwzględnienie wniosku.
Zwolennicy wspomagania orzecznictwa przez AI sugerują, że to właśnie programy komputerowe oparte o sztuczną inteligencję mogą pomóc korygować wypaczenia związane z „ludzkością” sędziego, mówiąc wprost z tym czy sędzia jest głodny, czy jest wypoczęty, czy ma czas na zapoznanie się ze sprawą. Czy nie doprowadzi to jednak do sytuacji, w której stopniowo to AI może przejąć orzekanie? Może zamiast korygować hungry judge effect wystarczy, aby sąd w trakcie narady obowiązkowo zjadł np. kanapkę czy banana? Jak rozwiązać anomalie co do dnia tygodnia niestety nie mam pomysłu, w końcu nikt nie lubi poniedziałków.
O autorze
Kacper Stukan
adwokat
W działach: In Gremio 183