Ya hablamos de internet, internet de las cosas e internet de las personas, en artículos anteriores. Hoy, daremos una vuelta de tuerca más al asunto tecnológico, y hablaremos un poco sobre la justicia impartida por robots e inteligencia artificial (IA), algo que no es ciencia ficción ya que en algunos países como China es una realidad. Para comenzar, si usted se está imaginando un robot al estilo Guerra de las Galaxias o el Juez Dredd, se equivoca. Este robot es una IA que se utiliza como ordenador de sobremesa, procesa miles de peticiones de justicia en los fraudes antes señalados, dicta sentencia de forma casi inmediata, aprende y alimenta su memoria, a medida que va adquiriendo información de las bases de datos jurídicas y de los asuntos que se someten a su consideración.
Las máquinas de IA pueden generar documentos legales 24/7, prever la posibilidad de éxito o fracaso de un caso, y dictar una sentencia en segundos, lo cual marca la diferencia ante cualquier juez humano, a quien le puede tomar días, meses o incluso años, hacerlo.
Hace unos meses se cumplieron cinco años de la implementación de los jueces robots. China ha creado el primer juez robot con IA, el primero de su clase en el mundo. Tiene competencias en asuntos relacionados con el tráfico, tarjetas de crédito, y delitos contra la propiedad como hurtos y robos. Es utilizado por la Fiscalía Popular de Shanghai Pudong, la más activa de China, en donde se inician los procedimientos sancionadores ante este juez, quien, tras escuchar los argumentos verbales de las partes, dicta sentencia en el acto (97% de las decisiones son correctas). Si bien existe una precisión muy grande del juez robot a la hora de decidir, siempre hay margen para el error. Sus detractores hacen cuestionamientos como ¿quién asumirá la responsabilidad civil, penal, administrativa en caso de error?, ¿el juez, el diseñador de la máquina, el programador del algoritmo o el Estado?
Cuando hablamos de Decisión Judicial (sentenciar un hecho) es pertinente recordar que no es lo mismo decidir legalmente algo, que hacer justicia; hay que matizar. Un juez robot únicamente aplica la norma al caso concreto (una multa por un radar de tráfico, por ejemplo), analiza un comportamiento y verifica si encaja o no en esa norma, y la consecuencia lógica es la aplicación o no de una pena al infractor; eso es aplicar derecho. El robot ejecuta. Si se busca justicia material, es necesario que el juez esté identificado con valores humanos como la tolerancia, entendimiento, libre albedrío, sano razonamiento, empatía, comprensión y una serie de valores humanos que los robots no tienen. El robot es un juez desprovisto de toda humanidad, esta gobernado por procesos, programas, algoritmos y resultados; le falta humanidad y la justicia es un tema humano.
En China, la justicia está al alcance del ciudadano desde su teléfono celular. Acciones como presentar una denuncia, seguir un caso o comunicarse con el juez, son ejemplo de ello. El sistema inteligente de predicción de sentencias Xiao Baogong es otra IA, también usado por jueces y fiscales en materia penal de ese país. Esta aplicación puede “sugerir penas” basándose en el análisis de la ‘big data’ de la información del caso, y en sentencias anteriores; una especie de catálogo jurisprudencial en donde la ‘big data’ sirve de apoyo para tomar una decisión en relación con el hecho que se somete a enjuiciamiento. Una forma de predecir una decisión apoyada en datos.
En el año 2019, el Gobierno francés prohibió los modelos de litigios predictivos basados en IA, argumentando, entre otras cosas, el riesgo de comercialización de “datos de los ciudadanos”; mientras tanto, en otros lugares ni siquiera hay consciencia de la importancia de ello. Hoy en día, los datos son un activo para las empresas tecnológicas; entre más datos se manejan, más poderosa es una empresa. Ahora bien, imagine una empresa que presta servicios de IA al sistema de justicia: ¿cómo gestiona los datos de los ciudadanos? Respuesta, como el Estado lo permita.
Esta preocupación de los franceses es común en el resto de Europa, ya que los juzgados no son capaces de desarrollar por sí mismos IA propia. El proceso se terceriza a empresas tecnológicas externas de capital privado. Hay que recordar que la visión pública es diferente a la privada, y allí reside el problema. Por tanto, es importante que los datos sean completos y no sesgados, los procesos transparentes y los algoritmos justos; un reto para la humanidad, no solo para China. La IA ha llegado a todos los rincones del planeta. La justicia predictiva es una realidad, y a la vez representa un problema del que difícilmente escaparemos.
Por otra parte, la justicia de robots en IA no es ajena a la corrupción: los sistemas en general, al ser más complejos, son también más vulnerables. Los datos incompletos, las bases de datos trucadas, las penas inadecuadas, la interrupción del servicio para modificar resultados, son parte de la corrupción. Siempre va existir la posibilidad de que se realice un fraude a la hora de implementar una justicia apoyada por robots e IA. La justicia impartida por este tipo de inteligencia no debe soslayar los valores y principios humanos. Hoy tenemos una idea, pero quien tenga el control de programar o borrar, será ¡el puto amo!
José R. Reyes Ávila, Abogado.
