Plumas NCC | Aplicación de la Inteligencia Artificial para la consulta de sentencias en México

Por: Rodolfo Guerrero Martínez (México).

“Aquella capacidad de identificación de principios subyacentes, conexiones lógicas e interpretación que defienda los intereses como parte de la metodología del Juez Hércules, representa una realidad desafiante y paradójica en el contexto de las tecnologías disruptivas, específicamente de la inteligencia artificial”.

Rodolfo Guerrero Mtz.

Se estableció en los derechos en serio (1) por el ilustre jurista Ronald Dworkin el planteamiento del Juez Hércules, el cual tiene la capacidad de resolver los casos difíciles que los juristas normalmente no, dado a que podrá analizar todas las posibles soluciones, así como seleccionar la más idónea conforme al derecho y a los intereses de las personas y de las partes involucradas.

La visión de Dworkin sobre Hércules esta integrada por aspectos clave como la integridad y la coherencia que prevalezcan los principios sustantivos de justicia, debido proceso y equidad; además de la omnisciencia y búsqueda de la respuesta correcta, la cual se aparte de normas injustas con la finalidad de establecer justicia y los derechos.

En el escenario de las tecnologías disruptivas, de la aplicación de la inteligencia artificial, el concepto del juez Hércules viene a reflexionar sobre el desempeño de los principios de responsabilidad y justicia distributiva, que garanticen que la IA no profundice las desigualdades actuales, significando el ejercicio equitativo y justo de las leyes y de las políticas hacia los grupos vulnerables, personas con discapacidad, bajos ingresos, entre otros.

Ahora bien, en el contexto descrito inicialmente, se ha establecido recientemente una suerte de propuestas tecnológicas con el uso de aplicaciones de inteligencia artificial (IA) para generar consultas, en este caso, de proyectos de sentencias y sugerencias de preguntas para el mejor entendimiento de los asuntos legales.

De esta forma, la Suprema Corte de Justicia de la Nación a través de la ponencia a cargo de la Ministra Ana Margarita Ríos Farjat ha creado y hecho de conocimiento de la aplicación y/o herramienta de IA denominada Sor Juana (https://ponenciamamrfgpt.streamlit.app/) que brinda a los usuarios la consulta accesible de casos y proporciona el análisis sobre la constitucionalidad de leyes tales como el artículo 1255 del Código de Comercio, que comprende si los dictámenes periciales presentados durante un juicio mercantil son contradictorios, el juez puede designar a un tercer experto imparcial con la finalidad de emitir un informe para contribuir a la resolución del conflicto; y por otra parte del artículo 175, fracción II del Código Penal del Estado de México que tipifica el delito de la usurpación de profesiones.

En el presente trabajo se desarrollará de forma general más no limitativa los elementos, características y aspectos relevantes de la nueva herramienta de IA de la Suprema Corte de Justicia de la Nación, así como la importancia de la seguridad de la información para las versiones públicas en el Poder Judicial de la Federación.

Sor Juana IA para la consulta de versiones públicas de sentencias

Hombres necios que acusáis

a la mujer sin razón

sin ver que sois la ocasión

de lo mismo que culpáis (…)

El poema intitulado “Hombres necios que acusáis” de Sor Juana Inés de la Cruz (referente de las letras novohispanas del siglo XVII), representa la inequidad en las relaciones amorosas, y a su vez visibiliza la forma en como la mujer era víctima de sometimiento, desigualdad y discriminación. Siendo de esta forma, defensora del derecho a la mujer para acceder al conocimiento y de la importancia de la solidaridad y la empatía en la construcción de una sociedad más justa.

Precisamente, la Ministra Ríos Farjat, jurista, escritora y poetisa -teniendo entre uno de sus poemarios él intitulado “Si las horas llegaran para quedarse” publicado en el año 1995- ha puesto en relieve en la era de las tecnologías disruptivas, de la inteligencia artificial concretamente, a tan destacada pensadora mexicana que empodere y abanderé los trabajos para mejorar la impartición de justicia destacando el acceso a la información, la educación, el desempeño ético al respetar la privacidad y protección de datos personales, finalmente en guardando la promoción de la transparencia y rendición de cuentas del sistema judicial, propios del modelo de la justicia abierta.

Por otra parte, resulta importante señalar que Sor Juana IA (aplicación y/o plataforma) fue creada a partir de Streamlit (framework de Python de código abierto), Google, Pinecone (base de datos vectorial), adicional a un código propio que se diseñó a partir de la revisión, análisis, entendimiento y deliberación del contenido de las versiones públicas de los proyectos de sentencias (en especial de las ADR-8289/2023 y sADR-8031/2023).

Cabe destacar que, en el reconocimiento inicial de esta clase de aplicaciones innovaras con inteligencia artificial, es indispensable gozar con una interfaz de usuario amigable y la compresión de textos, mediante la utilización de técnicas de procesamiento de lenguaje natural (NLP) para desglosar y resumir el contenido. Asimismo, como se estableció en el párrafo anterior, dentro de las tecnologías necesarias se encuentran las bibliotecas de IA como TensorFlow, PyTorch y transformers de Hugging Face.

En cuanto a su funcionamiento, a continuación, se realizarán una serie de instrucciones o también denominados prompts a Sor Juana IA para conocer sobre la constitucionalidad, argumentos de las partes y opiniones de la Ministra Farjat sobre la sentencia ADR-8289/2023, las cuales son:

(I) ¿Cuáles son los principales argumentos a favor de la constitucionalidad del artículo 176, fracción II, del Código Penal del Estado de México?

(II) ¿Qué otros argumentos presentan Persona X en contra de la ley además de la vaguedad e impresión?

(III) ¿Qué reflexiones hace la Ministra sobre el impacto social de esta ley?

Figura 1. Instrucción para conocer argumentos de la sentencia ADR-8289/2023

 

Figura 2. Instrucción para conocer otros argumentos de la sentencia ADR-8289/2023

 

Figura 3. Instrucción para conocer la reflexión de la Ministra en la sentencia ADR-8289/2023

 

Sin embargo, existen diferentes aspectos a visualizar para el futuro -como toda propuesta tecnológica innovadora-, considerando de esta manera, a la interoperabilidad entre los sistemas judiciales y las versiones públicas de las sentencias como uno de estos (por tanto, en el siguiente rubro se desempeñará el ámbito de la seguridad de la información), que otorgue también una conexión directa y bondadosa en aprovechamiento de la información de los diferentes repositorios y plataformas jurídicas establecidas formal e institucionalmente.

Justamente ante lo señalado líneas arriba, es primordial observar a la inteligencia artificial, particularmente ante el fenómeno de la alucinación, entendiéndose como la creación de referencias a una respuesta o resultado que el sistema produce de manera incorrecta, irrelevante o fuera de contexto en la situación particular en la que se muestra. Hay varias causas que pueden llevar a esta situación, como un entrenamiento insuficiente, la interferencia de ruido en los datos, la ausencia de contexto adecuado o el desconocimiento específico sobre el tema planteado.

En ese sentido, se comparten algunos casos de alucinación de modelos de IA:

(I) Alucinaciones en asistentes virtuales: Durante el año 2018, se hicieron críticas a Cortana, el asistente virtual de Microsoft (anterior a Micorsoft Copialot), debido a sus respuestas inexactas y extravagantes ante las consultas de los usuarios. Un caso es cuando consultamos a Cortana sobre el color del caballo blanco de Napoleón y obtenemos la respuesta de que se llamaba Marengo y era gris. No obstante, Napoleón contaba con otro corcel conocido como Le Vizir, el cual presentaba un pelaje completamente blanco.

(II) Alucinaciones en chatbots: En el año 2016, Microsoft introdujo a Twitter un chatbot llamado Tay con la finalidad de adquirir conocimientos a través de las interacciones con los usuarios y perfeccionar sus habilidades conversacionales. No obstante, los usuarios malintencionados reprogramaron rápidamente al chatbot, lo que llevó a la generación de alucinaciones racistas y ofensivas.

(III) Alucinaciones en sistemas de traducción automática: Los sistemas de traducción automática, como Google Translate, a veces generan alucinaciones al traducir textos entre idiomas. Por ejemplo, en el caso de los galeses una señal que decía «Explosión controlada en curso» se tradujo como «Gweithwyr yn ffrwydro», que significa «trabajadores explotando» (2).

Con respecto al caso de Sor Juana IA, se podrán localizar respuestas inesperadas o inexactas de la IA por medio del diseño de interrogantes que verifiquen la precisión y consistencia como:

(I) ¿Qué evidencia presentó Persona X para respaldar su argumento?

(II) ¿Qué ejemplos de casos similares ha analizado anteriormente la Suprema Corte de Justicia de la Nación?

(III) ¿Qué medidas toma la IA para evitar proporcionar información incorrecta o alucinaciones?

Figura 4. Instrucción para verificar consistencia en la respuesta de la sentencia ADR-8031/2023

Seguridad de la Información para las Versiones Públicas para el Poder Judicial en México

En el Estado Mexicano se tienen diversas obligaciones para el Poder Judicial en el marco de hacer transparente y accesible la información, – pero también debe considerar la seguridad de la información (que no sigue siendo un gran problema) -. Esto acorde a la Ley General de Transparencia y Acceso a la Información Pública, por ejemplo, en su artículo 73 se nos señala como requisitos indispensables:

• Versiones públicas de todas las sentencias emitidas.
• Versiones estenográficas de las sesiones públicas.
• Los procesos por medio de los cuales fueron designados los jueces y magistrados.
• Lista de acuerdos que se publiquen diariamente.

Entonces, a partir de lo dicho, encontramos que una versión pública elimina la información clasificada como de acceso restringido en su modalidad de reservada o confidencial para permitir su acceso, lo cual comprende algunos datos como:

• Datos identificativos: Nombre, domicilio, teléfono particular, celular, firma, clave del Registro Federal de Contribuyentes.
• Datos electrónicos: Correo electrónico no oficial, dirección IP (3), dirección MAC (4), así como el nombre de usuario y contraseña.
• Datos biométricos: Geometría de la mano, huella dactilar, ADN, características de iris y retina, tipo de sangre.

Por otra parte, localizamos otros datos que son susceptibles de supresión en el caso de nombre, pseudónimos, alias; el nombre de los quejosos o actores citados en los precedentes de las tesis jurisprudenciales y tesis aisladas que se invocan en la sentencia; todos los datos concernientes a menores; el número de registro de una patente o marca; los números de expedientes de primera instancia y en su caso del juicio o procedimiento del cual no se derive el acto impugnado (5).

Con respecto a la seguridad de la información, es indispensable garantizar que las versiones publicas desempeñadas por los Poderes Junciales locales fortalezcan e incluso replantean el actual sistema en que operan, el Test Data (6).

Lo anterior, debido a que falta comprender e incorporar un sistema más efectivo respecto a los niveles de seguridad, tal y como se proponía con SARCOEM (Sistema de Acceso, Rectificación, Cancelación y Oposición de Datos Personales del Estado de México).  En este sentido, el sistema protege los datos personales bajo tres niveles o capas de seguridad:

(1) Nivel de seguridad: Se conforma por dos hardware, el primero es el Fortywall encargado de detener ataques, y el segundo es el Firewall el cual bloquea los ataques externos;

(2) Nivel de seguridad: Utilización del certificado HTTP, en donde la información que se envía a través de este dominio viaja encriptada;

(3) Nivel de seguridad: Archivos que se envían están cifrados por el sistema desarrollado por el Instituto de Transparencia, Acceso a la Información Pública y Protección de Datos Personales del Estado de México y Municipios INFOEM, dicho cifrado constado de 512 caracteres (4,000 bits).

En suma, el hecho de crear plataformas y/o aplicaciones que propicien la innovación jurídica como Sor Juana, en este caso potencializada con el uso de la inteligencia artificial, resulta en la democratización de la ciencia jurídica y exhorta al reconocimiento a una nueva forma de pensar y desempeñar el derecho.

Actualmente, el Estado Mexicano presenta grandes avances normativos e innovativos como parte de dichos trabajos, se tienen entre sus más recientes ordenamientos e instrumentos jurídicos al Código Nacional de Procedimientos Civiles y Familiares, y a la Ley General de Mecanismos Alternativos de Solución de Conflictos que deberán comprometer a cada integrante o miembro de la comunidad jurídica e instancias judiciales como la Suprema Corte de Justicia de la Nación a establecer un nuevo razonamiento e interpretación de las fuentes del derecho que fortalezca y defienda el Estado de Derecho en el contexto de las tecnologías disruptivas.

Fuentes de consulta y notas

(1) Dworkin, R. (1975). Hard Cases. Harvard Law Review, 88, num 6, 177.

(2) Los errores más vergonzosos de las aplicaciones de traducción (y cómo pretenden solucionarlos). (n.d.). BBC News Mundo. https://www.bbc.com/mundo/noticias-45652296

(3) Protocolo de Internet.

(4) Dirección Media Access Control o dirección de control de acceso al medio.

(5) Una versión pública es un documento en el que se elimina información clasificada como de acceso restringido en modo reservado o confidencial para permitir el acceso. Recuperado a partir de: https://www.poderjudicialcdmx.gob.mx/unidadtransparencia/versiones-publicas/

(6) Es un software libre para uso como programa de escritorio de computadora, que asiste a los sujetos obligados en la elaboración de versiones públicas, con estricto apego a los “Lineamientos generales en materia de clasificación y desclasificación de información, así como para la elaboración de versiones públicas” emitidos por el Sistema Nacional de Transparencia, cuya labor es facilitar y homologar la eliminación de las partes o secciones con información clasificada como confidencial o reservada en los documentos públicos. Recuperado a partir de. https://transparencia.guadalajara.gob.mx/Generador-de-Versiones-Publicas

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.