Justicia Artificial

La tecnología está en todas partes, ha sido base del desarrollo económico a lo largo de la historia de la humanidad y hoy, junto con el saber científico, es parte fundamental de los mecanismos de toma de decisiones tanto a nivel empresarial como gubernamental; lo importante es qué tanto se le ha utilizado para insertarse en la vida cotidiana de las personas, invadiendo incluso su intimidad hasta tomar control de las normas de convivencia social y dictar funciones, reglas y dinámicas para la gente, impactando directamente en su existencia y evolución. Si las máquinas y los programas de software son herramientas, por qué se les deja elegir cómo deben actuar, pensar, decidir y relacionarse los humanos.

Es claro que la sociedad busca transformarse y progresar, adaptándose a las circunstancias, necesidades y realidad actual de su población. Si algo no funciona, en su organización o sus reglas, tiene que cambiar; el problema recae en si al hacerlo se pierde de vista su objetivo y existencia, por ejemplo, si las leyes dejan de proteger y comienzan a afectar a los ciudadanos, si la tecnología deja de ser instrumento de ayuda para, en su lugar, servir para controlar, vigilar, inducir, someter y dictar normas de comportamiento; o si la política y la economía dejan de velar por el bienestar de la comunidad para en cambio responder sólo a los intereses de unos cuantos con el poder, operando siempre el sistema jurídico para proteger los intereses de ese grupo social dominante.

De aquí parte la película Justicia Artificial (España-Portugal, 2024), dirigida por Simón Casal, quien coescribe junto a Víctor Sierra, y protagonizada por Verónica Echegui, Tamar Novas, Alba Galocha y Alberto Ammann. Se ambienta en un futuro alternativo en España, en el que un programa de inteligencia artificial (IA) llamado Thente se usa para asistir a los jueces en sus casos, analizando la evidencia, la biografía y el perfil de los acusados y sugiriendo sentencias y condenas. Hasta ese momento el software está habilitado como una simple herramienta de apoyo, una máquina que proporciona a los jueces una información que les sea útil en sus decisiones, sin embargo, se espera que eventualmente la inteligencia artificial sustituya por completo al humano y las personas sean juzgadas por el algoritmo en los procesos legales.

El gobierno y la empresa privada dueña de Thente trabajan en conjunto para hacerlo posible y lanzan un referéndum para votar si se está o no de acuerdo en que se haga efectivo; el punto, argumentan, es que al recurrir a la inteligencia artificial para analizar, dictaminar y sancionar, los acuerdos serán más objetivos, se hará más rápido, eficiente y eficaz el sistema jurídico, además de disminuir gastos en el aparato de gobierno. Las perspectivas parecen favorables, no obstante las reservas de algunos sectores sociales, especialmente de especialistas en materia judicial. Si bien, cuando la desarrolladora de la IA, cofundadora de Thente, fallece en misteriosas circunstancias, el resultado de la votación, hasta ahora inclinado por el ‘sí’, comienza a tambalearse, al hacer evidente que aquellos directamente implicados están más interesados en la ganancia monetaria y las alianzas de poder, que en modernizar un sistema legal ya insuficiente para las necesidades de la población, o en hacer valer una justicia objetiva e imparcial para la ciudadanía.

A fin de mejorar su imagen pública y para validar la efectividad de la IA, Thente invita a la juez Carmen Costa a auditar el programa, una interacción que a su vez que permita mejorar el algoritmo del proyecto. La realidad detrás de la decisión es, sin embargo, una estrategia de persuasión y convencimiento, considerando que Carmen es de las pocas personas que aún cuestionan la viabilidad de la IA en los procesos legales y el sistema de justicia (humano). 

Por un lado, que el software pueda evaluar su funcionamiento al comparar sus procesos con el trabajo de una persona real facilita el pulido de datos y algoritmo; la IA ‘aprende’ de Carmen, dicen informalmente, pero en realidad lo que el programa hace es emular al humano y construir un modelo, un diagrama de flujo a partir de patrones de comportamiento o decisiones, mediante valoración de la información que, es obvio, puede agrupar y procesar más rápido que el humano. En el fondo lo que Thente pretende es aprovechar o aprovecharse de la experiencia legal y profesional de Carmen, no sólo para la mejora del algoritmo sino también para la certificación, al menos indirecta, del mismo, intentando asociar a la empresa con el prestigio de la abogada a raíz de la relación directa creada, más bien plantada o forzada por la auditoría.

Alguien incluso le asegura a Carmen que la idea es ‘comprarla’, es decir, ponerla de su parte para favorecer a Thente, ya sea convenciéndola de la efectividad del programa u ofreciéndole cualquier incentivo a cambio, ya que su respaldo es la legitimización del uso de la IA. En corto, lo que importa es poner el algoritmo en marcha a toda costa, distrayendo de la conversación verdaderamente relevante: ¿el uso de inteligencia artificial dentro del sistema de justicia de un país es favorable para los involucrados o será factor de injusticias y corrupción? El problema aquí es que el uso de un algoritmo para analizar y dictaminar procesos humanos que pueden afectar la vida de personas, es difuminado en una parafernalia mediática que oculta el interés financiero y político de sus promotores, explotando las evidentes carencias del sistema judicial.

Todas aquellas campañas de mercadotecnia en las que un producto está avalado o supuestamente respaldado por una profesional u organización oficial, lo que hacen no es comprobar certeramente la efectividad del producto o servicio, sino convencer al cliente o usuario de su aparente efectividad por medio de una instancia o entidad que presuntamente le da su aprobación. La cuestión es si esa aprobación es honesta y verídica, o comprada, quizá amañada o tergiversada. Esto es lo que sucede con Carmen, no es que ella haya aprobado el uso de Thente como auxiliar o sustituto del papel de un juez, es que al colaborar con la empresa detrás de la IA, se da la apariencia de que es así, consiguiéndose la percepción social de que los profesionales en el campo laboral están de acuerdo con su uso, cuando en realidad es todo lo contrario, la asociación de jueces no respalda al algoritmo, no sólo porque los desplaza laboralmente, sino porque éticamente resulta inquietante que una máquina determine la vida humana.

Para Carmen lo importante recae en preguntar si Thente realmente es objetivo, imparcial y justo, o si puede realmente serlo tomando en cuenta que es un programa de software sistematizado. ¿Se puede estar seguro de que no hay margen de error en sus datos?, de que ¿hay funcionalidad real y óptima en su implementación?, y sobre todo, ¿hay ética en su participación o decisión? ¿Puede la conducta ética ser programada? ¿Cómo es que un programa de software o una inteligencia artificial ‘juzga’ un acto humano? Thente se guía a partir de patrones de datos, diagramas de flujo, información acumulada y respuestas predeterminadas, sin embargo, lo que tiene enfrente son personas cambiantes, emocionales, inseguras, impredecibles e impulsivas, incluso cuando sus respuestas sean racionales y sus actos sigan modelos de conducta estudiados.

Cuando Carmen es invitada a un foro para discutir el uso de la IA, ella señala que un problema que encuentra en el uso del algoritmo es que sus observaciones y conclusiones de un caso cualquiera siempre están basadas en información pasada. La inteligencia artificial podrá repasar la evidencia y analizar el comportamiento del acusado previo a su crimen o durante su juicio, pero no puede predecir el pensamiento en ese instante de esa persona. La IA se adelanta a predecir las acciones futuras de los acusados, calculando las probabilidades de reincidencia por ejemplo, pero una estadística no es más que un porcentaje de posibilidad, nunca una certeza. Por qué basar decisiones humanas sólo en estadísticas, por qué creer que la informática tiene todas las repuestas si la tecnología no es más que una programación creada por el propio hombre.

El lado humano es el elemento más importante, el contexto, las sensaciones, la redención, la compasión, la generosidad y muchos otros valores intangibles que la inteligencia artificial puede definir, plantear e intentar medir, pero nunca entender, porque no es una persona. Los resultados y respuestas de la IA están programadas, preestablecidas por el software que le hace funcionar, pero en esencia preestablecidas por los humanos que lo codifican.

Los que están a favor del uso de Thente insisten que su utilización no sólo optimiza los procesos legales, cada vez más saturados e ineficientes, aquellos que el humano ya es incapaz de resolver en tiempo y forma porque les supera en número y complejidad, sino que, dicen, al automatizar los procesos no sólo hay mayor eficiencia, también se despolitiza el sistema judicial. La idea detrás del argumento es que el factor humano en la estructura legal es un elemento más perjudicial que favorable, a raíz de la corrupción tanto personal como del sistema. El humano, aquí el juez, es lento, susceptible al error, inclinado al prejuicio y potencialmente corruptible a través de sobornos, presión, persuasión y mecanismos similares para obtener su favor. 

Lo que no se señala es que detrás de esta supuesta preocupación por la despolitización, lo que le sustituye es la privatización, en donde el que gana no es el ciudadano promedio ni el sistema legal, sino el capital, en este caso, una empresa privada dueña de la inteligencia artificial a la que ahora se le planea delegar un proceso gubernamental moderado y administrado por el Estado. Transportándolo a la realidad los sistemas de salud y de seguridad ya lo viven, incluso, por cierto, algunos judiciales, dirigidos por organizaciones privadas que ofrecen resultados al mejor postor y por ende responden a los intereses de quien paga, no de quien se supone tienen que ayudar. Esto no sólo dificulta la imparcialidad de los procesos sino que propicia discriminación, exclusividad y clasismo. El algoritmo, la inteligencia artificial o el sistema implementado responde a su dueño y su dueño es quien tiene el poder, o el dinero, para desarrollarlo e implementarlo.

Carmen finalmente lo dimensiona cuando comienza a cuestionar la muerte de Alicia, al enterarse de que, pese a asegurarse que la programadora estaba a favor del lanzamiento de Thente, la realidad era que quería frenarlo, retrasar o anular su puesta en marcha sabiendo las consecuencias reales de la intromisión de la IA en la vida humana, al permitirle desplazar al humano, substituyendo al juez en lugar de sólo asistirlo o apoyarlo. Alicia quería que la IA hiciera posible la democratización de la justicia, procesos más transparentes, ágiles, suficientemente analizados y por ende justos; en cambio, lo que se había conseguido con Thente hasta ahora era promover un algoritmo que se implementaba para favorecer a unos cuantos gracias a bases de datos manipuladas, programadas para analizar de manera diferente a las personas, ya que se podía comprar un trato ‘especial’, o VIP, si se pagaba lo suficiente por ello.

El algoritmo no recibe nada a cambio, no ‘decide’ quién recibe un trato especial, son los programadores de la IA quienes reciben un beneficio a cambio de modificar el funcionamiento del programa. Si los dueños de Thente y el gobierno eligen cómo la IA procesa sus bases de datos, si la IA es un programa creado por una persona, cómo es que puede existir objetividad en su ejecución. Trasladando al mundo actual, cómo es que no se analiza más a fondo la forma en que la tecnología está inmersa en todo aspecto de la vida, almacena, rastrea, procesa y cataloga toda la información en la red, no para dar respuestas funcionales a los humanos, sino para favorecer a las personas con el poder y el dinero para hacer que las máquinas sean programadas para rastrear y procesar información que luego utilizan según sus intereses, para vender, convencer o manipular a la sociedad, ya sea que se hable de la venta de un producto o una elección gubernamental, por ejemplo.

Asimismo, además de hablar del desplazamiento del humano a partir de la automatización y digitalización de los procesos, o del uso ciego, incontrolado, invasivo y poco ético de la inteligencia artificial, la película también ahonda en la ineficacia del sistema judicial. Aunque ambientada en España, revela una verdad universal: es imposible que haya justicia honesta, imparcial e íntegra en un mundo donde todo es susceptible a la corrupción, donde la democracia es una muletilla, porque aparentarla es la pantalla perfecta para no ponerla en práctica, o donde la burocracia y los intereses políticos y económicos de la clase o grupo social dominante son los verdaderos operadores del sistema.

Si bien la cinta plantea cómo la tecnología y la informática se modernizan, también cuestiona y critica cómo es que la organización institucional para la que trabaja no lo hace a la par, sea en la cultura, la ciencia, la política, la economía o cualquier sistema social, en este caso, el judicial. Ejemplificándolo con la película, por qué importa más la actualización de las computadoras, el uso de la informática y el empleo de inteligencia artificial en juicios y sentencias, si las leyes y los procesos democráticos a los que sirven continúan siendo los mismos que hace años. 

Quizá Thente, o la inteligencia artificial en general, no tenga sesgos, ideologías, prejuicios o intención específica, sólo analiza datos y produce resultados, pero no puede ni podrá sustituir nunca al humano, es éste quien la produce y la puede utilizar; así que, por qué actuar como si lo fuera. Al final ya no sólo se trata de cuestionar quién controla al sistema sino quien controla a la IA, que es ya en la actualidad la fuerza detrás de todo sistema. En ese sentido la prioridad no es mejorar el orden y la estructura social, sus normas y sus funciones, sino utilizar la inteligencia artificial para controlar la dinámica social e incrementar las ganancias de las grandes corporaciones que monopolizan la producción de esa tecnología. En la narrativa de la película, ¿por qué dictar sentencias con algoritmos, tomar decisiones a partir de estadísticas, construir ideologías desde datos procesados y resolver acciones según lo que dice un algoritmo o una máquina? La respuesta, incluso en nuestra realidad social: para mantener y reproducir al sistema socioeconómico, su estructura de clase y los beneficios económicos y políticos de los propietarios de los medios e instrumentos de producción.

Ficha técnica: Justicia Artificial