Plumas NCC | Justicia artificial y humana

Por: Mtro. Rodolfo Guerrero Martínez (México).

El 12 de septiembre del año 2024 se presentó la nueva serie de modelos de razonamiento para resolver problemas difíciles por medio de Open AI o1-preview, con esto se plantea que la inteligencia artificial a través de dichos modelos, respondan de forma similar a una persona, contemplando diferentes estrategias y reconocimiento de errores. 

Precisamente, el documento técnico destaca sus resultados al tener equiparse con el nivel de estudiantes de doctorado en tareas complejas en las materias de física, matemáticas y codificación, por ejemplo, GPT-4 logró resolver satisfactoriamente el 13% de los problemas para el examen de clasificación a las Olimpiadas de Matemáticas (IMO), sin embargo, el actual modelo de razonamiento logró obtener un 83% de las respuestas correctas. En cuanto a codificación, las habilidades se equipararon a un 89% en las competencias de Codeforces, sitio web (a su vez red social) que contiene una serie de concursos de programación competitivos.

Justamente, OpenAI Platform comparte más ejemplos del uso de o1 en el mundo real, para lo que otorga un libro de recetas, desprendiendo de ello: (I) Utilización del razonamiento para validar datos; y (II) Creación de rutinas. Conforme a esto en (https://cookbook.openai.com/examples/o1/using_reasoning_for_data_validation) el tutorial no dirige a generar un conjunto de datos sintéticos de datos médicos que contenga inconsistencias; definir una función que tome fila de datos y valde la precisión; ejecutar el proceso y calcular las métricas; y analizar e interpretar los resultados. 

En el orden de ideas desarrollado, se puede advertir que, con el progreso actual de los modelos de aprendizaje, ¿la inteligencia artificial tendrá control del mundo? En definitiva, no, pugnamos que no sea así, la conciencia humana debe ser un factor imperante y primordial de la conversación global. Conforme a ello, el escritor e historiador israelí, Yuval Noah Harari bien señala que contamos con las tecnologías de la información más sofisticadas, no obstante, las sociedades están perdiendo la capacidad de tener discusiones lógicas entre sus integrantes, por tanto, representando severos problemas democráticos, al estado de derecho y a la impartición de justicia.

Por tanto, en el presente artículo se abordará de forma general más limitativa la premisa principal de si podrá la inteligencia artificial sustituir a la inteligencia humana en el momento de administrar justicia o si podrán converger bajo el entendimiento que la IA sea una herramienta al servicio del operador del derecho. 

Justicia artificial 

En el marco de las propuestas, la discusiones y proyectos presentes en la era de la hipertecnologización, de las tendencias tecnológicas como la inteligencia artificial, existen una preocupación enorme sobre si la administración de justicia humana se transformará una justicia artificial, la cual sea aplicada por sistemas y modelos de aprendizaje automático y profundo.

En cuanto, a la interrogante de qué es la justicia artificial y sus alcances, es menester tener presente el siguiente marco de antecedentes que permitan entender mejor la relación en la ciencia jurídica y las tecnologías de la información y de la comunicación (TIC), más específicamente, la inteligencia artificial. 

Comenzamos con la relación derecho y cibernética que desarrolló Norbert Wiener, quien explicó dos ideas centrales donde se realiza un capítulo en su obra intitulada Cibernética y Sociedad: (1) los problemas jurídicos son por naturaleza propia problemas de comunicación y de cibernética, en otra palabra, son relativos al control regular y repetible de ciertas situaciones críticas; y (2) la teoría y la práctica del derecho se componen de dos conjuntos de problemas, los de propósito general -centrados en el concepto de justicia-, y los de la técnica -mediante lo cual se realizan esas ideas-.

Por otra parte, como segundo hecho relevante, la aparición del concepto jurimetría a sido referido por Lee Loevinger en el año 1949 con la publicación del artículo intitulado “The next step forward”, que pone en relieve el uso de los ordenadores en el derecho.

Además, planteando conforme a lo precedente, diferentes argumentos principales tales como:

(1) La complejidad del derecho. El derecho debe servir como guía práctica para la conducta, que prevé el fortalecimiento de la ley como la sociedad.

(2) Desconfianza y falta de respeto. Ante la oscuridad de la ley, de la creación de un culto secreto, es importante que se democratice y no que sea exclusivo de un grupo selecto de profesionales. 

(3) Importancia y necesidad de reformas. Entender idóneamente las tendencias tecnológicas (situando nuestro hoy en día), puesto que, Loevinger critica las soluciones propuestas que no abordan la raíz del problema, que es la propia ley. De manera que, el hecho de sólo aumentar la aplicación de la ley o mejorar la educación legal es insuficiente, es decir, aboga por un cambio en la forma en que se presenta y se entiende la ley.

(4) La jurimetría como solución. Este cuarto punto dado a que implica el utilizar métodos científicos y estadísticos en el estudio de derecho, considerando que el derecho sea más accesible y comprensible para todos. 

Por tanto, es importante definir en nuestro objeto de estudio a la justicia artificial como aquella que denota el uso de inteligencia artificial (IA) en el ámbito judicial para tomar decisiones legales. Dicho concepto es centro de debates como consecuencia de las capacidades y limitaciones que contienen los algoritmos en comparación con los jueces humanos.

Empero para profundizar más en el escenario propuesto, es crucial y obligado preguntarse, ¿qué es la justicia? Consideramos que la justicia se relaciona estrechamente con la legalidad, pero no son conceptos idénticos. La justicia se atribuye a las leyes que se ajustan a los principios universales de justicia, mientras que la justicia de un individuo se evalúa por su conformidad con la legalidad vigente. Sin embargo, no todas las leyes son justas, por lo que se requiere aplicar el principio de justicia universal para evaluar y juzgar la justicia de las leyes empíricas, lo que implica distinguir entre leyes escritas y no escritas para analizar la relación entre justicia y legalidad de manera más detallada.

Adicionalmente, la justicia, en sentido ontológico, como potencialidad o hábito, es realizar la virtud para con el otro. La virtud de la justicia es, entonces, aquello que enlaza las relaciones humanas. La justicia es para con el otro: es usar la virtud no sólo para consigo mismo, sino para con el otro.

Por otra parte, la deontología en el ámbito judicial ocupa de los principios y normas éticas que regulan el comportamiento de los funcionarios judiciales, independientemente de su rango. Entre los valores que se identifican son la independencia, la imparcialidad, la diligencia, el respeto, la igualdad de trato, la competencia y la transparencia.

Ahora bien, el estado de las cosas proyectado a través diversas acepciones de la justicia expresa, probablemente mayor claridad para responder una segunda pregunta: ¿la inteligencia artificial puede sustituir a la inteligencia humana a la hora de administrar justicia? 

Podemos realizar una suerte de aproximaciones que permitan responder a la incógnita, entendiendo que la inteligencia artificial no podrá sustituir la inteligencia humana en la administración de justicia, debido a la complejidad de áreas como la racionalidad, toma de decisión, derecho al debido proceso, sesgos y errores de los modelos de IA y problemas referente a la responsabilidad y a la transparencia. 

Algunos de estos puntos clave los consideramos en próximos rubros:

(I) Sentencia T-323 de 2024. Comprende el uso de herramientas de inteligencia artificial (IA) en procesos judiciales, específicamente el uso de ChatGPT 3.5 por un juez de segunda instancia. La Corte concluyó que no existió una violación del derecho al debido proceso, ya que la decisión judicial fue tomada por el juez antes de utilizar la IA como complemento. Sin embargo, la Corte subrayó la necesidad de establecer criterios claros y guías para el uso de IA en la administración de justicia, enfatizando principios como transparencia, responsabilidad y privacidad, para evitar sesgos y garantizar la autonomía e independencia judiciales.

(II) Uso de la herramienta de inteligencia artificial de Meta, contenida en WhatsApp, para constatar el incumplimiento de la empresa. El Juzgado Civil y Comercial de 14ª Nominación de Rosario en Argentina atendió una solicitud de medida autosatisfactiva presentada por una ciudadana que demandó a una empresa sanitaria por la interrupción del servicio de agua potable, ordenando la reanudación del suministro de agua durante el transcurso del proceso judicial, en un fallo que reconoció el derecho de la usuaria a acceder a un servicio básico y esencial como es el agua potable, y que la empresa sanitaria debía garantizar su suministro de manera continua y sin interrupciones injustificadas.

En ese sentido, el Juzgado destaca que, mediante la utilización de Meta IA, el botón de inteligencia artificial de WhatsApp, se formuló la pregunta sobre si se satisface el derecho al acceso al agua con una presión inferior a 1 mca, y la respuesta obtenida fue negativa, fundamentada en la comprensión de que el derecho al acceso al agua no solo implica disponer de una cantidad suficiente, sino también garantizar que el agua sea segura, aceptable, asequible y accesible, siendo la presión un factor crucial para asegurar el acceso equitativo y seguro al agua, en consonancia con los principios de justicia y equidad en la distribución de este recurso esencial.

(III) Largometraje “Justicia Artificial”. El filme dirigido por Simón Casal el 13 de septiembre del año 2024, aporta reflexiones sobre el uso de la IA en la administración de justicia, contemplando, por ejemplo, la exploración de los dilemas éticos y filosóficos: ¿Cómo se concilia la imparcialidad y la objetividad de la inteligencia artificial con la empatía y la comprensión humana? ¿Cómo se garantiza que la inteligencia artificial no perpetúe los sesgos y las desigualdades existentes en el sistema judicial?

Asimismo, presenta diferentes perspectivas sobre la inteligencia artificial en la justicia. La película muestra cómo la inteligencia artificial puede ser vista como una herramienta útil para agilizar los procesos judiciales y reducir los errores humanos, pero también cómo puede ser vista como una amenaza para la autonomía y la dignidad humana.

Por otra parte, regresando y atendiendo a nuestra pregunta principal, añadimos una segunda situación cómo los avances en los modelos de OPEN IA, se encaminará en la misma ruta mencionada, una herramienta que sirva, en este caso, para la mejora en la eficiencia, facilitando tanto a jueces como demás profesionales del derecho en acceder a información útil, precedentes reales, optimizando el tiempo de investigación y facilitando la preparación de los casos correspondientes; asistencia en tareas administrativas, tanto en la redacción de documentos como la gestión de expedientes; análisis de riesgos y tendencias; y por supuesto, la transparencia y la ética, permitiendo forjar y aplicar mecanismos que aseguran las decisiones asistidas por la IA, así como que sean entendibles y auditables. 

De tal suerte que, actualmente, las discusiones y grandes interrogantes surgen, sin embargo, la ciencia jurídica como ciencia viva, proseguirá, los profesionales del derecho deberán tener una obligada visión transversal, que también aclaren los conceptos, ventajas y desafíos, por ejemplo, entre justicia artificial, digital y humana. 

Tabla comparativa
Aspecto	Justicia Artificial	Justicia Digital	Justicia Humana
Definición	Uso de inteligencia artificial para tomar decisiones judiciales, por ejemplo, el análisis de sentimientos.	Implementación de tecnologías digitales como la firma electrónica avanzada en los procesos judiciales.	Sistema tradicional donde jueces humanos toman decisiones basadas en leyes y principios.
Alcances	Automatización de decisiones simples. Análisis predictivo de casos.	Expedientes electrónicos. Audiencias virtuales. Acceso remoto a la justicia.	Interpretación de leyes. Evaluación de pruebas y testimonios.  Toma de decisiones finales.
Significados	Representa un avance tecnológico que busca mejorar la eficiencia y reducir errores humanos.	Significa la modernización del sistema judicial para hacerlo más accesible y eficiente.	Mantiene la esencia de la justicia basada en la interpretación humana y la empatía.
Usos	– Resolución de disputas menores. Asistencia en la redacción de sentencias.	Gestión de casos. Presentación de pruebas digitales. Comunicación entre partes.	Juicios complejos. Casos que requieren interpretación subjetiva. Mediación y negociación.
Ventajas	Rapidez en la toma de decisiones. Reducción de costos.	Mayor accesibilidad. Reducción de tiempos procesales. Transparencia.	Capacidad de empatía. Flexibilidad en la interpretación de la ley.  Adaptabilidad.
Desventajas	Falta de empatía y comprensión contextual. Riesgo de sesgos algorítmicos.	Dependencia tecnológica. Posibles problemas de seguridad de la información y ciberseguridad.	Lento y costoso. Posibilidad de errores humanos. Subjetividad.

Elaboración propia.

El juez humano como equilibrio en la era algorítmica 

En la era algorítmica, la figura del juez humano emerge como un elemento equilibrador esencial en la toma de decisiones judiciales, aportando una perspectiva empática y contextual que los algoritmos aún no pueden replicar con precisión, pese a su capacidad de procesamiento de grandes volúmenes de datos y otorgamiento de decisiones basadas en patrones identificados, dado a que, carecen de poder interpretar y considerar los matices culturales, históricos y emocionales que son fundamentales en la administración de justicia.

Conforme a lo establecido líneas arriba, se subraya la necesidad de una intervención humana que pueda contextualizar y ponderar las complejidades del caso en cuestión, garantizando así una toma de decisiones más justa y equitativa.

En el orden pronunciado, el juez humano será el factor determinante para complementar la eficiencia de los algoritmos, como resultado de su capacidad para la deliberación ética y empática, asegurando que las decisiones judiciales no solo sean precisas, sino también justas y humanas -reconociendo la tabla comparativa del primer rubro, teniendo un modelo mixto de ejecución-. Justamente, este equilibrio entre la precisión algorítmica y la comprensión humana generarán las condiciones para conservar la legitimidad y la equidad en el sistema judicial.

Finalmente, resulta primordial ante nuestro tema de Justicia Artificial y Humana atender dos preguntas que, conforme a lo dicho, establezcan el óptimo, (1) ¿En qué aspectos la inteligencia artificial podría superar las limitaciones de los jueces humanos en el sistema judicial? (2) ¿Qué cualidades estructurales y funcionales se consideran esenciales en un juez humano que los algoritmos de inteligencia artificial no pueden replicar?

Como primer punto, las limitaciones de la justicia humana localizan la influencia debido a sesgos inconscientes, emociones y fatiga que repercuten en la imparcialidad y racionalidad, presentando en ese marco como los algoritmos podrán optimizar las decisiones judiciales de gozar con buen entrenamiento de datos.

Y en cuanto a la segunda pregunta, se pone en relieve que el juez humano tiene cualidades esenciales que la inteligencia artificial no podrán replicar como la empatía, capacidad de juicio moral y comprensión contextual al 100% (advertimos que por ello, se hace reiterativo indicar que la IA será un herramienta de apoyo y no algo que sustituya al humano), especialmente resaltando que los algoritmos como fórmulas matemáticas carecerán del nivel de flexibilidad y adaptación de circunstancias especificas de cada caso a falta de comprensión sociológica y rigidez técnica-matemática. 

 

Fuentes de consulta 

OpenAI (2024), “Introducing OpenAI o1-preview”. Disponible en: https://openai.com/index/introducing-openai-o1-preview/

OpenAI Platform (2024), “Reasoningn models”. Disponible en: https://platform.openai.com/docs/guides/reasoning

GUERRERO MAERTÍNEZ, Rodolfo (2023), Avances de la transformación jurídico tecnológica en México. Disponible en: https://noticiasncc.com/plumas-ncc/08/14/plumas-ncc-avances-de-la-transformacion-juridico-tecnologico-en-mexico/

SENTENCIA T-323 de 2024, Corte Constitucional -Sala Segunda de Revisión- de la República de Colombia. Disponible en: https://www.corteconstitucional.gov.co/relatoria/2024/T-323-24.htm

SENTENCIA DEL JUZGADO CIVIL Y COMERCIAL DE 14ª Nominación de Rosario, Argentina (2024). Disponible en: https://www.diarioconstitucional.cl/wp-content/uploads/2024/09/Vea-sentencia-Juzgado-Civil-y-Comercial-de-14a-Nominacion-de-Rosario.pdf

 

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.