Inteligencia Artificial-
RisCanvi, el sistema predictivo diseñado hace década y media para la gestión del riesgo en las cárceles catalanas, se ha convertido con los años en una pieza clave de la justicia penitenciaria. Una investigación de 'Público revela la falta de garantías con la que los actores judiciales usan este 'software'. También sus consecuencias sobre los internos con menos recursos.
PÚBLICO.ES. (PABLO JIMENEZ ARANDÍA) . FOTOGRAFÍA:IA.*Omar es un nombre ficticio. Su nombre se ha cambiado en este reportaje para proteger su identidad real.
En junio de 2025 la junta de tratamiento de la cárcel en la que Omar cumple su condena pidió al juez de vigilancia penitenciaria que le concediera el tercer grado. Lo hizo a través de un informe con información desactualizada. Pero con el convencimiento de que Omar, en prisión desde 2011 y una evolución positiva entre rejas, estaba listo para pasar buena parte de su tiempo en libertad. En el escrito los funcionarios incluyeron una palabra, RisCanvi, junto a un adverbio: alto. Una señal, según los códigos establecidos en el mundo penitenciario catalán, de que existía un riesgo plausible en torno a Omar. Un riesgo de que al pisar la calle cometiera un nuevo delito o huyese sin haber completado su condena. Este pronóstico no provenía de una persona, sino de una máquina. RisCanvi es un programa informático que la Generalitat introdujo en sus prisiones en 2010 y que desde entonces evalúa de forma periódica a todas las personas privadas de libertad en Catalunya. La versión actual de este software mide cinco tipos de riesgos, a través del mismo número de algoritmos: reincidencia general, reincidencia violenta, quebrantamiento de condena, violencia autodirigida y violencia contra otros dentro de prisión.
Diseñado originalmente como parte de un protocolo para la gestión interna en los centros, hoy los resultados de RisCanvi son utilizados de forma intensiva también en el ámbito judicial. Por parte de los jueces y los fiscales que deciden si presos como Omar pueden acceder a beneficios penitenciarios en la fase final de la condena, una parte fundamental en su proceso de rehabilitación social. Este tipo de uso, documentado por Público en esta investigación a través de información y testimonios inéditos, carecería de las garantías que la nueva ley europea exige para algoritmos e inteligencia artificial (IA) en áreas sensibles, como las prisiones y la justicia. También iría en contra del consenso científico sobre cómo usar este tipo de sistemas de apoyo a una decisión humana.
El protocolo RisCanvi, actualmente en proceso de actualización por el Departament de Justícia del Ejecutivo catalán, lleva años en el punto de mira de organizaciones de defensa de los derechos de los presos y de actores de la sociedad civil que promueven un uso responsable de la tecnología. Hasta ahora, el debate se había centrado en la idoneidad o no de usar un algoritmo predictivo con una alta tasa de errores en un área tan delicada. También en la opacidad que este sistema ha arrastrado durante años. Los hallazgos de esta investigación muestran sin embargo otra línea preocupante. La forma en la que jueces y fiscales usan los resultados de RisCanvi estaría impactando negativamente en los derechos de los presos más vulnerables que hoy cumplen condena en Catalunya.
«En la cárcel si quieres avanzar no te dejan»
El juez de Barcelona que en agosto recibió la petición de tercer grado para Omar dio su visto bueno en noviembre. Sin embargo, cinco días después el fiscal se opuso al ver que el RisCanvi del interno reflejaba un riesgo alto. Una postura a la que finalmente se acogió el magistrado encargado de su expediente, que rechazó la solicitud. «¡Ya empezamos con lo mismo!». Omar recuerda hoy cómo reaccionó al enterarse de que el riesgo asignado por este sistema de nuevo le complicaba las cosas. Ese mismo argumento en contra, un RisCanvi alto, lo había usado dos años atrás también para oponerse el juez que recibió su primera solicitud de permiso de más de 72 horas.
«En la cárcel si quieres avanzar no te dejan, la verdad», se lamenta este hombre de sonrisa fácil en una sala de la Fundació Marianao, una entidad de Sant Boi de Llobregat (Barcelona) que apoya a internos con pocos recursos. Una jurista y una educadora de esta fundación, también presentes en la sala, acompañan a Omar desde hace años. Con la ayuda de ambas, Omar ha presentado un recurso de apelación ante la Audiencia Provincial de Barcelona todavía pendiente de resolución. El caso de este recluso en prisión desde 2011 y con una evolución ejemplar entre rejas ejemplifica la forma en que algunos actores judiciales en Catalunya usan hoy los niveles de riesgo asignados por RisCanvi. Y cómo esta utilización condiciona que los internos accedan a una libertad condicional, una progresión de grado o a permisos de varios días una vez han cumplido una cuarta parte de su condena, tal y como establece la ley penitenciaria.
RisCanvi, igual que otros sistemas predictivos parecidos –el algoritmo de VioGén para combatir la violencia machista es el caso más conocido en España-, se creó hace una década y media con un protocolo asociado. En las cárceles catalanes este software está integrado en el día a día de los funcionarios y sus resultados les ayudan, por ejemplo, a decidir qué programas de rehabilitación han de seguir los internos o cuándo es adecuado que salgan de permiso. …………
Sigue la noticia en PÚBLICO.ES
Enlace