L'estat de Michigan es prepara per a implementar un sistema d'IA orientat a predir incidents violents en els seus centres penitenciaris, un moviment tecnològic que ha revifat el debat sobre l'ús de l'analítica predictiva en la gestió penal. A partir del pròxim mes de desembre, el Departament de Correccions de Michigan (MDOC) iniciarà la fase experimental d'un algorisme desenvolupat juntament amb Recidiviz, una organització tecnològica sense ànim de lucre originada en l'entorn de projectes de dades de Google.
Fins avui, la classificació dels interns i l'assignació dels seus nivells de custòdia depenien de forma exclusiva de comitès d'avaluació integrats pels equips directius de les presons. Amb la introducció d'aquest software, la determinació del mòdul i el nivell de contenció de cada reclús passarà a estar mediada per anàlisis automatitzades. Segons sosté l'MDOC, el programa optimitzarà en un 30% la precisió per a anticipar comportaments violents mitjançant el processament d'historials penitenciaris i dades actualitzades en temps real. L'administració estatal no ha detallat la metodologia ni les variables concretes que alimenten l'algorisme. Aquest succés fa que una pel·lícula com Minority Report deixi de ser ciència-ficció.
Manca de transparència, precedents a Louisiana i riscos de biaix amb la IA en aquest cas
L'opacitat del sistema ha generat profunda inquietud entre experts i defensors dels drets civils, els qui adverteixen sobre les fallades registrades en eines similars en altres estats. A Louisiana, el programa TIGER, dissenyat per a calcular el risc de reincidència, va derivar en notables distorsions operatives. Diverses investigacions van documentar com interns amb un expedient disciplinari impecable van ser catalogats amb un nivell de risc elevat a causa de factors estàtics del seu passat, bloquejant el seu accés a la llibertat condicional i ignorant la seva evolució en els programes de rehabilitació.
Encara que les autoritats de Michigan sostenen que el seu algorisme es limitarà a l'assignació d'allotjaments i nivells de contenció interna, sense intervenir en les decisions de llibertat condicional, els analistes recorden que un error de catalogació altera de forma substancial les condicions del règim penitenciari d'un intern. Així mateix, persisteixen severs dubtes sobre la reproducció de biaixos racials i socioeconòmics derivats de l'ús de bases de dades històriques estructuralment descompensades.
El projecte pilot arrencarà en centres penitenciaris masculins per avaluar la reducció d'aldarulls. No obstant això, les organitzacions de drets humans denuncien la manca de mecanismes de recurs perquè els reclusos puguin impugnar decisions automatitzades que condicionen de forma directa la seva estada a la presó. La IA realment té cabuda en aquesta idea de l'estat de Michigan? L'automatització de la gestió penitenciària a Michigan reflecteix les contradiccions d'aplicar algorismes predictius a l'àmbit penal, on la recerca d'eficiència xoca amb la manca de transparència i l'absència de garanties per als reclusos.