La Justicia es un principio moral y un concepto jurídico que busca garantizar la igualdad y el respeto de los derechos de todos los individuos. Su propósito es dar a cada uno lo que le corresponde, sea castigo o resarcimiento, buscando un equilibrio entre lo justo y lo equitativo. La justicia se manifiesta en la aplicación de leyes y en la resolución de conflictos, buscando la reparación del daño y la prevención de futuras infracciones.
Basta con leer esta definición para entender
que el ejercicio d
Pero es que neutralidad no significa
necesariamente frialdad emocional o absoluta equidistancia. Una justicia humana
requiere de una valoración realizada con la sensibilidad, empatía y punto de
vista humanos. Históricamente, ha solido ser un humano -o conjunto de ellos-
quien ha valorado los matices de un caso, el grado de responsabilidad o
culpabilidad del reo, los agravantes o eximientes... ¿Qué algoritmo sería capaz
de elegir la interpretación adecuada de una ley acorde al caso a juzgar,
creando jurisprudencia al respecto, por ejemplo?
Una búsqueda por internet nos mostrará noticias sobre la implementación de IAs en ciertos procedimientos judiciales, como el resumen automatizado de documentos en un lenguaje sencillo, la clasificación documental, búsqueda de información… Todo eso, sin embargo, es básicamente burocracia. Pero, ¿qué pasa con el meollo de la cuestión, el análisis y fallo de los casos? ¿Podría afinarse tanto un algoritmo como para imitar la sensibilidad humana?
En octubre d
e 2016, el “University College of
London”, publicó una investigación que generó tantos titulares como polémica.
Se había realizado un estudio analizando 584 decisiones del Tribunal Europeo de
Derechos Humanos sobre artículos concretos de la Convención, y se les había
aplicado un algoritmo para encontrar patrones en el texto. El propósito era ver
si el software podía predecir el fallo. Coincidió con lo decidido por los
jueces humanos en un 79% por ciento.
Todo esto, por supuesto, ha suscitado un
debate ético en torno d
e hasta qué punto debe un programa informático
intervenir en la aplicación de la justicia propiamente dicha. No es lo mismo
fallar un caso de Derecho Administrativo que uno Laboral, Civil o Penal. No se
juega lo mismo un acusado de fraude que uno de asesinato, por ejemplo. ¿Cómo
valorar y qué peso dar a una enfermedad que, según su grado, podría condicionar
ciertos comportamientos? Un juez puede o no aceptar un testimonio de acuerdo a
la coherencia con la que se exprese el mismo o incluso la actitud de quien lo
emite. Una IA podría aplicar quizá una tecnología capaz de discernir si alguien
miente, pero esto, a su vez, abre otro melón ético, por no hablar de que
quedarían por dilucidar las razones por las que lo hace (¿presiones? ¿miedo?
¿encubrimiento?). ¿Estaríamos dispuestos, no sólo como sociedad sino como
individuos, a que nos juzgara una IA en lugar de un humano? ¿Se le daría al imputado
la posibilidad de elegir?
Sea como fuere, esta es una preocupación que
ha cobrado mayor peso a tenor de los últimos avances en Inteligencia Artificial
y el ansia de todo tipo de empresas, instituciones y
gobiernos por aplicarlo a
sus procesos de toma de decisiones aduciendo mayor eficacia, rapidez e
imparcialidad. Y dado que el corazón de la CF está en la especulación sobre el
tipo de futuro al que podrían dar lugar ciertas tendencias o tecnologías
actuales, no es sorprendente que la “Justicia Digital” haya sido objeto de su
interés. Y ese es el tema central de una película española casi con ese título:
“Justicia Artificial”.
En un futuro cercano, el gobierno español
anuncia su intención de convocar un referéndum para cambiar la Constitución con
el fin de permitir la introduc
ción de una Inteligencia Artificial en el ámbito
judicial. Seguirán existiendo jueces humanos, pero en segunda instancia. Será
un software diseñado por una corporación, Thente, quien analice rápidamente
cada caso en base a las circunstancias del mismo, similitudes con otros
parecidos, historial del sujeto, análisis biométrico de los diferentes
declarantes para determinar si dicen la verdad y el cruce de millones de datos
estadísticos. A continuación, dictará sentencia. Por el momento, el sistema se
ha implementado en una fase preliminar con el fin de que sirva de guía para el
juez. Éste puede hacer caso omiso de la recomendación de la IA, pero claramente
existe presión desde las instancias superiores para alinearse con la misma.
Próximo ya el referéndum, la fundadora de la
empresa e inventora del software, Alicia Kovack (Alba Galocha) empieza a tener
dudas sobre su lanzamiento y una noche fallece en un accidente mortal con su
coche autónomo. Ese mismo día había intentado contactar con Carmen Costa
(Verónic
a Echegui), una reputada juez. De hecho, es a ella a la que Thente
recurre para realizar una auditoría final del sistema antes de su lanzamiento
definitivo. Lo que no le dicen inicialmente es que Alicia dejó por escrito en
su testamento que el proyecto sólo se implementaría si contaba con la
aprobación de Carmen. Esto la coloca en el centro de un torbellino de intereses
e intrigas, recibiendo presiones por parte de Theta, el gobierno y sus colegas
magistrados, algunos a favor de la IA y otros en contra.
“Justicia Artificial” nació del interés de su
director, Simon Casal de Miguel, por los avances en Big Data e Inteligencia
Artificial. El hecho de que su espos
a sea jueza sin duda influyó para que se
preguntara cómo esas tecnologías podrían afectar a la justicia. En 2021,
elaboró un guión para una película de ficción, pero el primer escalón fue un
documental, realizado en colaboración con el filósofo Miguel Penas,
especializado sobre los límites éticos de la justicia digital, emitido por
diferentes televisiones del mundo y premiado en el Festival Internacional de
Cine sobre IA de Salt Lake City. Finalmente, en 2024, pudo estrenar la película
que había concebido originalmente y que se grabó íntegramente en Galicia, su tierra
natal.
Lo que tenemos aquí es, como el resumen de la
trama indica, un thriller de conspiraciones corporativas en torno a un
desarrollo tecnológico 
que conllevará una transformación radical en la
sociedad. La premisa de partida es muy interesante y, desde el principio, la
película construye una atmósfera opresiva (a ello ayudan mucho los paisajes y
luz propios de Galicia y un diseño de producción sobrio pero eficaz que
describe un futuro cercano verosímil). El problema es que la historia no llega
a generar auténtico suspense. Conforme avanza la trama, va perdiendo pulso y
queda claro desde muy al principio que el villano de la historia es la
corporación (independientemente del ejecutivo que la encarne). Cuando la
protagonista pierde los papeles de una forma no del todo convincente, la
película empieza a deshilacharse. Ya en el segmento final y encarando el clímax,
se intenta recuperar la tensión, pero sin el suficiente empuje como para que el
giro final sorprenda y el desenlace deje poso, pareciendo más bien un cierre en
falso. No tengo nada en contra de los finales abiertos o ambiguos, pero este se
antoja algo desganado y carente de auténtica emoción.
Tampoco ayuda la impavidez de la actriz
protagonista ni la falta de profundidad y desarrollo de todo el plantel de
personajes. Ignoro si la intención era transmitir la sensació
n de que la jueza
Costa era alguien sereno, equilibrado, introvertido y profesional, pero el
resultado es un acartonamiento interpretativo con el que resulta difícil
conectar emocionalmente. Lo único que se nos cuenta de ella es que desea tener
un hijo y que ha intentado varias veces la inseminación artificial, sin éxito.
Pero, a la postre, esa experiencia sólo sirve para añadir un argumento más al
mensaje principal de la historia (esto es, que las IAs no deben sustituir a los
humanos a la hora de decidir sobre cuestiones esenciales), no para explorar su
mundo interior. En este sentido, tanto ella como los personajes que la rodean
no pasan de ser meros engranajes para que la trama avance y transmisores de diferentes
argumentos a favor o en contra de la Justicia Algorítmica.
Si bien “Justicia Artificial” no inventa la
rueda en lo que a tecnothrillers se refiere, sí plantea temas de gran interés y
actualidad. Y lo hace sin un enfoque tecnófobo o fantasioso. No se trata aquí
de una IA que cobre autoconscienci
a y acabe con la civilización humana. El
enemigo no es la Inteligencia Artificial, sino el uso que de ella quiere
hacerse y el abuso de poder que propicia. Hay quienes ven honestamente en la
Justicia Algorítmica un avance, una herramienta que ayudará a combatir los
problemas crónicos de los juzgados; otros la ven como un mero producto con el
que enriquecerse. Pero los intereses económicos y políticos en juego son tan
grandes, las presiones tan intensas, que los ideales se retuercen y corrompen,
provocando además ceguera respecto a los peligros del nuevo sistema.
En este sentido, aunque la película se decante
inequívocamente hacia el “bando” humano, aporta argumentos de peso a favor d
En el curso de la historia y conforme la protagonista profundiza en el conocimiento del software, van introduciéndose los peligros a los que puede dar lugar éste. Sus sentencias se formulan de acuerdo al cruce de millones de datos y estadísticas… pasados. Un algoritmo sería incapaz de dar una nueva interpretación a la ley con el fin de adecuarla a las nuevas sensibilidades, preocupaciones y necesidades sociales. Esto es, la IA daría lugar a una justicia fosilizada que solo mira al pasado sin ser incapaz de sintonizar con el presente ni predecir el futuro. Y en cuanto a la corrupción, bien podría sustituirse el comadreo entre ciertos círculos judiciales y del poder por otro entre los gobernantes y los ejecutivos de la empresa propietaria del software, cuya única prioridad, no debe olvidarse, es obtener beneficios.
Y, precisamente, el carácter privado de ese software es otro problema nada menor. Tal y como se presenta en la película, a dos casos prácticamente iguales, la IA les asigna sentencias diferentes, en principio en base al “potencial social” del individuo una vez cumplida la condena. El problema es que la generación de ese criterio es completamente opaca, basada en un algoritmo que queda protegido del escrutinio público en su calidad de secreto industrial. ¿Quién le impide entonces a la empresa modificar con total impunidad y sin supervisión pública ese algoritmo a su propio interés o respondiendo a presiones de ciertos grupos, por ejemplo?
El Poder Judicial es el contrapeso al Ejecutivo y Legislativo. ¿Qué ocurre si se privatiza su funcionamiento? Se les pide a los jueces no que se ajusten a la ley al tiempo que siguen su propio criterio (derivado de las atribuciones de su cargo, la experiencia profesional y la interpretación de la norma) sino que se sometan a las recomendaciones de una IA. La justicia humana, por tanto, ha desaparecido. Si transformamos de esa manera el Poder Judicial, ¿por qué no seguir a continuación con el Ejecutivo, donde también hay muchas ineficiencias, corrupción y burocracia que eliminar? ¿Por qué no dejar la gestión territorial y económica del país a una IA carente de ideología, prejuicios y enconos?
“Justicia Artificial” tiene en su núcleo un concepto con potencial y un metraje ajustado (98 minutos), aunque el componente de thriller quizá hubiera funcionado mejor como capítulo de una serie. Con todo, merece un visionado por el número e importancia de las cuestiones que aborda relacionadas con la introducción de IAs en nuestra sociedad. Y no solo en el ámbito de la justicia, sino, por ejemplo, en las directrices de seguridad de los coches autónomos, un asunto éste clave en la investigación de la protagonista. El diseño de producción nos muestra también que todo el mundo está siendo observado todo el tiempo, una información que, en las manos inadecuadas, puede convertirse en un instrumento de presión. Una película por tanto, ideal para abrir un debate sobre una cuestión en la que se mezcla una de las actividades más antiguas de nuestra sociedad con las tecnologías más futuristas.
No hay comentarios:
Publicar un comentario