El estado de Michigan se prepara para implementar un sistema de IA orientado a predecir incidentes violentos en sus centros penitenciarios, un movimiento tecnológico que ha reavivado el debate sobre el uso de la analítica predictiva en la gestión penal. A partir del próximo mes de diciembre, el Departamento de Correcciones de Michigan (MDOC) iniciará la fase experimental de un algoritmo desarrollado junto a Recidiviz, una organización tecnológica sin ánimo de lucro originada en el entorno de proyectos de datos de Google.
Hasta la fecha, la clasificación de los internos y la asignación de sus niveles de custodia dependían de forma exclusiva de comités de evaluación integrados por los equipos directivos de las prisiones. Con la introducción de este software, la determinación del módulo y el nivel de contención de cada recluso pasará a estar mediada por análisis automatizados. Según sostiene el MDOC, el programa optimizará en un 30% la precisión para anticipar comportamientos violentos mediante el procesamiento de historiales penitenciarios y datos actualizados en tiempo real. La administración estatal no ha detallado la metodología ni las variables concretas que alimentan el algoritmo. Este suceso hace que una película como Minority Report deje de ser ciencia ficción.
Falta de transparencia, precedentes en Luisiana y riesgos de sesgo con la IA en este caso
La opacidad del sistema ha generado profunda inquietud entre expertos y defensores de los derechos civiles, quienes advierten sobre los fallos registrados en herramientas similares en otros estados. En Luisiana, el programa TIGER, diseñado para calcular el riesgo de reincidencia, derivó en notables distorsiones operativas. Diversas investigaciones documentaron cómo internos con un expediente disciplinario impecable fueron catalogados con un nivel de riesgo elevado debido a factores estáticos de su pasado, bloqueando su acceso a la libertad condicional e ignorando su evolución en los programas de rehabilitación.
Aunque las autoridades de Michigan sostienen que su algoritmo se limitará a la asignación de alojamientos y niveles de contención interna, sin intervenir en las decisiones de libertad condicional, los analistas recuerdan que un error de catalogación altera de forma sustancial las condiciones del régimen penitenciario de un interno. Asimismo, persisten severas dudas sobre la reproducción de sesgos raciales y socioeconómicos derivados del uso de bases de datos históricas estructuralmente descompensadas.
El proyecto piloto arrancará en centros penitenciarios masculinos para evaluar la reducción de altercados. Sin embargo, las organizaciones de derechos humanos denuncian la falta de mecanismos de recurso para que los reclusos puedan impugnar decisiones automatizadas que condicionan de forma directa su estancia en prisión. ¿La IA realmente tiene cabida en esta idea del estado de Michigan? La automatización de la gestión penitenciaria en Michigan refleja las contradicciones de aplicar algoritmos predictivos al ámbito penal, donde la búsqueda de eficiencia choca con la falta de transparencia y la ausencia de garantías para los reclusos.