2024- JUSTICIA ARTIFICIAL – Simón Casal

 

La Justicia es un principio moral y un concepto jurídico que busca garantizar la igualdad y el respeto de los derechos de todos los individuos. Su propósito es dar a cada uno lo que le corresponde, sea castigo o resarcimiento, buscando un equilibrio entre lo justo y lo equitativo. La justicia se manifiesta en la aplicación de leyes y en la resolución de conflictos, buscando la reparación del daño y la prevención de futuras infracciones.

 

Basta con leer esta definición para entender que el ejercicio de la justicia es una de las funciones en las que el componente humano siempre ha sido lo más importante. A menudo se representa a la Justicia con la efigie de una mujer con un balanza equilibrada en una mano, una espada en la otra y los ojos vendados, simbolizando así su neutralidad. Nos gustaría que la justicia fuera veloz, eficaz e imparcial y por eso resulta atractiva la idea de adjudicar tal tarea a una Inteligencia Artificial. Un programa informático no siente, trabaja rápidamente, carece de prejuicios, ideología o problemas personales que puedan afectar a su análisis y veredicto.

 

Pero es que neutralidad no significa necesariamente frialdad emocional o absoluta equidistancia. Una justicia humana requiere de una valoración realizada con la sensibilidad, empatía y punto de vista humanos. Históricamente, ha solido ser un humano -o conjunto de ellos- quien ha valorado los matices de un caso, el grado de responsabilidad o culpabilidad del reo, los agravantes o eximientes... ¿Qué algoritmo sería capaz de elegir la interpretación adecuada de una ley acorde al caso a juzgar, creando jurisprudencia al respecto, por ejemplo?

 

Una búsqueda por internet nos mostrará noticias sobre la implementación de IAs en ciertos procedimientos judiciales, como el resumen automatizado de documentos en un lenguaje sencillo, la clasificación documental, búsqueda de información… Todo eso, sin embargo, es básicamente burocracia. Pero, ¿qué pasa con el meollo de la cuestión, el análisis y fallo de los casos? ¿Podría afinarse tanto un algoritmo como para imitar la sensibilidad humana?

 

En octubre de 2016, el “University College of London”, publicó una investigación que generó tantos titulares como polémica. Se había realizado un estudio analizando 584 decisiones del Tribunal Europeo de Derechos Humanos sobre artículos concretos de la Convención, y se les había aplicado un algoritmo para encontrar patrones en el texto. El propósito era ver si el software podía predecir el fallo. Coincidió con lo decidido por los jueces humanos en un 79% por ciento.

 

Todo esto, por supuesto, ha suscitado un debate ético en torno de hasta qué punto debe un programa informático intervenir en la aplicación de la justicia propiamente dicha. No es lo mismo fallar un caso de Derecho Administrativo que uno Laboral, Civil o Penal. No se juega lo mismo un acusado de fraude que uno de asesinato, por ejemplo. ¿Cómo valorar y qué peso dar a una enfermedad que, según su grado, podría condicionar ciertos comportamientos? Un juez puede o no aceptar un testimonio de acuerdo a la coherencia con la que se exprese el mismo o incluso la actitud de quien lo emite. Una IA podría aplicar quizá una tecnología capaz de discernir si alguien miente, pero esto, a su vez, abre otro melón ético, por no hablar de que quedarían por dilucidar las razones por las que lo hace (¿presiones? ¿miedo? ¿encubrimiento?). ¿Estaríamos dispuestos, no sólo como sociedad sino como individuos, a que nos juzgara una IA en lugar de un humano? ¿Se le daría al imputado la posibilidad de elegir?

 

Sea como fuere, esta es una preocupación que ha cobrado mayor peso a tenor de los últimos avances en Inteligencia Artificial y el ansia de todo tipo de empresas, instituciones y gobiernos por aplicarlo a sus procesos de toma de decisiones aduciendo mayor eficacia, rapidez e imparcialidad. Y dado que el corazón de la CF está en la especulación sobre el tipo de futuro al que podrían dar lugar ciertas tendencias o tecnologías actuales, no es sorprendente que la “Justicia Digital” haya sido objeto de su interés. Y ese es el tema central de una película española casi con ese título: “Justicia Artificial”.

 

En un futuro cercano, el gobierno español anuncia su intención de convocar un referéndum para cambiar la Constitución con el fin de permitir la introducción de una Inteligencia Artificial en el ámbito judicial. Seguirán existiendo jueces humanos, pero en segunda instancia. Será un software diseñado por una corporación, Thente, quien analice rápidamente cada caso en base a las circunstancias del mismo, similitudes con otros parecidos, historial del sujeto, análisis biométrico de los diferentes declarantes para determinar si dicen la verdad y el cruce de millones de datos estadísticos. A continuación, dictará sentencia. Por el momento, el sistema se ha implementado en una fase preliminar con el fin de que sirva de guía para el juez. Éste puede hacer caso omiso de la recomendación de la IA, pero claramente existe presión desde las instancias superiores para alinearse con la misma.

 

Próximo ya el referéndum, la fundadora de la empresa e inventora del software, Alicia Kovack (Alba Galocha) empieza a tener dudas sobre su lanzamiento y una noche fallece en un accidente mortal con su coche autónomo. Ese mismo día había intentado contactar con Carmen Costa (Verónica Echegui), una reputada juez. De hecho, es a ella a la que Thente recurre para realizar una auditoría final del sistema antes de su lanzamiento definitivo. Lo que no le dicen inicialmente es que Alicia dejó por escrito en su testamento que el proyecto sólo se implementaría si contaba con la aprobación de Carmen. Esto la coloca en el centro de un torbellino de intereses e intrigas, recibiendo presiones por parte de Theta, el gobierno y sus colegas magistrados, algunos a favor de la IA y otros en contra.

 

“Justicia Artificial” nació del interés de su director, Simon Casal de Miguel, por los avances en Big Data e Inteligencia Artificial. El hecho de que su esposa sea jueza sin duda influyó para que se preguntara cómo esas tecnologías podrían afectar a la justicia. En 2021, elaboró un guión para una película de ficción, pero el primer escalón fue un documental, realizado en colaboración con el filósofo Miguel Penas, especializado sobre los límites éticos de la justicia digital, emitido por diferentes televisiones del mundo y premiado en el Festival Internacional de Cine sobre IA de Salt Lake City. Finalmente, en 2024, pudo estrenar la película que había concebido originalmente y que se grabó íntegramente en Galicia, su tierra natal.

 

Lo que tenemos aquí es, como el resumen de la trama indica, un thriller de conspiraciones corporativas en torno a un desarrollo tecnológico que conllevará una transformación radical en la sociedad. La premisa de partida es muy interesante y, desde el principio, la película construye una atmósfera opresiva (a ello ayudan mucho los paisajes y luz propios de Galicia y un diseño de producción sobrio pero eficaz que describe un futuro cercano verosímil). El problema es que la historia no llega a generar auténtico suspense. Conforme avanza la trama, va perdiendo pulso y queda claro desde muy al principio que el villano de la historia es la corporación (independientemente del ejecutivo que la encarne). Cuando la protagonista pierde los papeles de una forma no del todo convincente, la película empieza a deshilacharse. Ya en el segmento final y encarando el clímax, se intenta recuperar la tensión, pero sin el suficiente empuje como para que el giro final sorprenda y el desenlace deje poso, pareciendo más bien un cierre en falso. No tengo nada en contra de los finales abiertos o ambiguos, pero este se antoja algo desganado y carente de auténtica emoción.

 

Tampoco ayuda la impavidez de la actriz protagonista ni la falta de profundidad y desarrollo de todo el plantel de personajes. Ignoro si la intención era transmitir la sensación de que la jueza Costa era alguien sereno, equilibrado, introvertido y profesional, pero el resultado es un acartonamiento interpretativo con el que resulta difícil conectar emocionalmente. Lo único que se nos cuenta de ella es que desea tener un hijo y que ha intentado varias veces la inseminación artificial, sin éxito. Pero, a la postre, esa experiencia sólo sirve para añadir un argumento más al mensaje principal de la historia (esto es, que las IAs no deben sustituir a los humanos a la hora de decidir sobre cuestiones esenciales), no para explorar su mundo interior. En este sentido, tanto ella como los personajes que la rodean no pasan de ser meros engranajes para que la trama avance y transmisores de diferentes argumentos a favor o en contra de la Justicia Algorítmica.

 

Si bien “Justicia Artificial” no inventa la rueda en lo que a tecnothrillers se refiere, sí plantea temas de gran interés y actualidad. Y lo hace sin un enfoque tecnófobo o fantasioso. No se trata aquí de una IA que cobre autoconsciencia y acabe con la civilización humana. El enemigo no es la Inteligencia Artificial, sino el uso que de ella quiere hacerse y el abuso de poder que propicia. Hay quienes ven honestamente en la Justicia Algorítmica un avance, una herramienta que ayudará a combatir los problemas crónicos de los juzgados; otros la ven como un mero producto con el que enriquecerse. Pero los intereses económicos y políticos en juego son tan grandes, las presiones tan intensas, que los ideales se retuercen y corrompen, provocando además ceguera respecto a los peligros del nuevo sistema.

 

En este sentido, aunque la película se decante inequívocamente hacia el “bando” humano, aporta argumentos de peso a favor de la Justicia Algorítmica. Si la justicia llega tarde, pierde buena parte de su sentido, por lo que aumentar la rapidez en los procedimientos -de hecho, la IA los resuelve casi de forma instantánea- redundaría en una mayor satisfacción de los “usuarios” de este “servicio”. La neutralidad de la IA facilitaría la desvinculación del estamento judicial del ejecutivo, que tiene el poder para efectuar nombramientos de jueces para cargos importantes; blindaría contra la corrupción y prescindiría de cualquier sesgo de género, raza, ideología, edad…

 

En el curso de la historia y conforme la protagonista profundiza en el conocimiento del software, van introduciéndose los peligros a los que puede dar lugar éste. Sus sentencias se formulan de acuerdo al cruce de millones de datos y estadísticas… pasados. Un algoritmo sería incapaz de dar una nueva interpretación a la ley con el fin de adecuarla a las nuevas sensibilidades, preocupaciones y necesidades sociales. Esto es, la IA daría lugar a una justicia fosilizada que solo mira al pasado sin ser incapaz de sintonizar con el presente ni predecir el futuro. Y en cuanto a la corrupción, bien podría sustituirse el comadreo entre ciertos círculos judiciales y del poder por otro entre los gobernantes y los ejecutivos de la empresa propietaria del software, cuya única prioridad, no debe olvidarse, es obtener beneficios.

 

Y, precisamente, el carácter privado de ese software es otro problema nada menor. Tal y como se presenta en la película, a dos casos prácticamente iguales, la IA les asigna sentencias diferentes, en principio en base al “potencial social” del individuo una vez cumplida la condena. El problema es que la generación de ese criterio es completamente opaca, basada en un algoritmo que queda protegido del escrutinio público en su calidad de secreto industrial. ¿Quién le impide entonces a la empresa modificar con total impunidad y sin supervisión pública ese algoritmo a su propio interés o respondiendo a presiones de ciertos grupos, por ejemplo?

 

El Poder Judicial es el contrapeso al Ejecutivo y Legislativo. ¿Qué ocurre si se privatiza su funcionamiento? Se les pide a los jueces no que se ajusten a la ley al tiempo que siguen su propio criterio (derivado de las atribuciones de su cargo, la experiencia profesional y la interpretación de la norma) sino que se sometan a las recomendaciones de una IA. La justicia humana, por tanto, ha desaparecido. Si transformamos de esa manera el Poder Judicial, ¿por qué no seguir a continuación con el Ejecutivo, donde también hay muchas ineficiencias, corrupción y burocracia que eliminar? ¿Por qué no dejar la gestión territorial y económica del país a una IA carente de ideología, prejuicios y enconos?

 

“Justicia Artificial” tiene en su núcleo un concepto con potencial y un metraje ajustado (98 minutos), aunque el componente de thriller quizá hubiera funcionado mejor como capítulo de una serie. Con todo, merece un visionado por el número e importancia de las cuestiones que aborda relacionadas con la introducción de IAs en nuestra sociedad. Y no solo en el ámbito de la justicia, sino, por ejemplo, en las directrices de seguridad de los coches autónomos, un asunto éste clave en la investigación de la protagonista. El diseño de producción nos muestra también que todo el mundo está siendo observado todo el tiempo, una información que, en las manos inadecuadas, puede convertirse en un instrumento de presión. Una película por tanto, ideal para abrir un debate sobre una cuestión en la que se mezcla una de las actividades más antiguas de nuestra sociedad con las tecnologías más futuristas.