Algoritmos y decisión judicial

Abstract

Introducción. El uso de algoritmos se extiende a ritmo vertiginoso y, como no podía ser de otra manera, su uso ha llegado a los procedimientos judiciales. En este trabajo abordaremos algunos de los problemas originados por la utilización de la inteligencia artificial (IA) en el proceso de toma de decisiones por parte de jueces y tribunales. La posibilidad de procesar grandes cantidades de información y de realizar complejos cálculos estadísticos en poco tiempo ha llevado a fantasear en la posibilidad de que ese tipo de programas pudieran decidir directamente las controversias jurídicas. Pero los resultados obtenidos con los primeros algoritmos patentados como auxilio de la labor judicial están dando resultados polémicos. El objetivo de este capítulo es explorar las controversias que genera el uso del programa COMPAS –que ofrece predicciones sobre el riesgo de reincidencia de los imputados en un proceso penal– en los tribunales norteamericanos. La tesis a defender estará alejada tanto del optimismo tecnológico como del pesimismo humanista: los algoritmos pueden servir de apoyo en la toma de decisiones judiciales si se pueden controlar la selección de los datos que emplean, sus reglas de procesamiento y los presupuestos filosóficos desde los que son diseñados. En caso contrario se corre el riesgo de tomar decisiones sobre la base de informes con tasas de errores altísimas y sesgados (por razones de raza o género) que escapan a los criterios de valoración aplicables a otros elementos de prueba, violando de esa manera el derecho al debido proceso y, especialmente, el derecho de defensa de los procesados. El peligro más grande, no obstante, es sustraer del debate la elección de los presupuestos axiológicos de esos algoritmos y la valoración de su consistencia sistémica con los otros principios que legitiman las instituciones jurídicas en las que se utilizan.