Algoritmi senza pregiudizi

Giustizia predittiva tra fantascienza e realtà

di Paola Furini (Avvocata in Milano – FronteVerso Network)

Uno degli argomenti del XXXV Congresso nazionale forense riguarda la giustizia predittiva e la salvaguardia del giusto processo.
Amando la fantascienza, la giustizia predittiva mi ha sempre affascinato.
Quel genio di Philip K. Dick autore, per chi non lo sapesse, del racconto che ha ispirato Blade runner, nel 1956 ha scritto “The Minority Report” dal quale nel 2002 Steven Spielberg ha liberamente tratto il suo omonimo film.
Senza svelare la trama né del libro né del film, è stimolante riflettere sul fatto che il racconto è ambientato in una società futura in cui gli omicidi vengono prevenuti con l’arresto dei potenziali criminali prima che commettano il crimine.

Come noto la fantascienza sa anticipare la realtà ed infatti la giustizia predittiva fa già parte del nostro presente tanto che anche la Treccani ne dà una definizione:

Per giustizia predittiva deve intendersi la possibilità di prevedere l’esito di un giudizio tramite alcuni calcoli; non si tratta di predire tramite formule magiche, ma di prevedere la probabile sentenza, relativa ad uno specifico caso, attraverso l’ausilio di algoritmi.

Oggi nel nostro Paese e – ancor più – in altri Paesi europei quali Francia e Olanda, grazie alla digitalizzazione della giustizia che consente di gestire e analizzare in tempi brevi un numero enorme di dati e agli algoritmi, sono stati messi a punto programmi sperimentali in grado di anticipare l’esito delle cause. Questa sorta di “calcolabilità delle cause” è allineata con il principio della certezza del diritto e, quando troverà definitiva applicazione, potrà contribuire ad evitare l’ingolfamento dei Tribunali.

Sconcertante invece è quello che accade negli Stati Uniti dove la giustizia predittiva è già una realtà consolidata ed il Giudice, al fine di determinare l’entità della pena o l’applicazione di misure alternative, può affidarsi ad un algoritmo per misurare il rischio di recidiva del condannato (Risk Assessment Tools).

Helga Nowotny nel proprio saggio “Le macchine di Dio”, ci fa riflettere sul fatto che l’algoritmo non può predire il futuro ma solo riproporre il passato, non essendo altro che un sistema di calcolo composto da una serie finita di operazioni per cui, partendo dagli stessi dati, non possono che ottenersi gli stessi risultati.

Dunque, se i dati sono viziati dai pregiudizi, le macchine non possono che trarre conclusioni cariche di pregiudizi e difatti uno studio di Berkeley (Università della California) del 2016 ha accertato che i principali algoritmi in uso per quantificare le pene detentive discriminano a sfavore dei neri e a favore dei bianchi.

Concludendo, l’algoritmo non può cogliere sfumature e particolarità del singolo caso. Non può tener conto dell’intuitus personae e del libero arbitrio.
La macchina, per quanto sofisticata, va usata come supporto del professionista del diritto che non potrà mai essere sostituito se non vogliamo che il nostro futuro diventi distopico.

Credits: Gordon Johnson da Pixabay

Di Paola Furini, su Ora Legale News