Plu­mas NCC | Justicia algorítmica: La transparencia y la verdad

Por: Rodolfo Gurrero Martínez (México).

“La simplicidad es un prerequisito para la fiabilidad”.

Edsger W. Dijkstra.

A través de una teoría yacen explicaciones a fenómenos que a posteriori forman parte de la realidad cotidiana de los individuos en varios ámbitos como el educativo, médico, económico, contable y legal, aunque dichos sucesos no sean reconocidos adecuadamente por el colectivo social.

En nuestro objeto de estudio, el ámbito legal conlleva al obligado reconocimiento de un hito logrado por este vehículo generador de conocimiento que en próximas líneas comprende a tres ilustres desde su planteamiento hasta su evolución.

Nobert Wiener es uno de los protagonistas del hito señalado, donde a través de la teoría de la información y de la cibernética -lo cual comparte con Claude E. Shannon- nos plantea que “todo fenómeno en el universo es consecuencia de los procesos de comunicación”, a su vez, por medio de su obra intitulada “Cibernética y Sociedad” enmarca importantes vínculos entre la cibernética y el derecho.

En ello, ubicaremos ideas centrales sobre problemas de técnica jurídica, que en 1949 localizaría a un segundo ilustre, Lee Loevinger para referir por primera vez la palabra jurimetría, aludiendo también al uso de los ordenadores en el derecho, y con ello, el siguiente paso a la aplicación de la cibernética en la ciencia jurídica. 

Precisamente, con lo establecido en lo precedente, damos lugar a un tercer insigne, Hans W. Baade, editor del volumen colectivo “Jurimetrics: the methodology of Legal Inquity”, que planteó el objeto de la disciplina denominada jurimetria en tres direcciones: análisis lógico del derecho a fin de aplicar a las normas jurídicas modelos derivados de la lógica, uso del ordenador en la actividad jurídica y previsión de sentencias futuras (1).

Cabe resaltar que, la cibernética perteneciente a Wiener o la jurimetria referida por Loevinger crea una base fundamental para los desafíos actuales que nos previenen sobre la impartición de justicia en la era de los algoritmos o también denominada justicia algorítmica.

Entendiéndola como aquella que busca asegurar el correcto desempeño de un modelo de aprendizaje inteligente que evite cabalmente los sesgos algorítmicos, de muestreo, estereotipo, entre otros, en beneficio del justiciable.

En el presente artículo (2) desarrollaremos la función del operador jurídico y la relación con los chats bots basado en lenguaje grande como Chat GPT, así mismo comprendemos el tema de la transparencia algorítmica y eso nos permitirá además enfocar la paradoja entre la verdad y el algoritmo. 

El Operador del Derecho y Chat GPT

Realizaremos breves comentarios de algunos casos que devienen de los efectos del uso de chats bots basados en inteligencia artificial generativa (IAG) como lo es Chat GPT de OPEN AI, Bard de Google o Bing de Microsoft (que actualmente brinda a los usuarios de algunos beneficios de la versión 4.0 de Chat GPT).

El primero es el caso resuelto por el Juzgado de Instancia Laboral del Circuito de Cartagena, el 31 de enero del año 2023 a cargo del Juez Juan Manuel Padilla (3), donde baso parte de sus argumentos con lo que le brindó el sistema de IAG de Chat GPT. Lo anterior, debido a que Ley 2213 de 2022 tiene por objeto la incorporación de las TIC en los procesos judiciales, en ese sentido, se determinó extender los argumentos de la decisión adoptada conforme al uso de la IA e incluir partes del problema jurídico planteado en la sentencia ingresando en el aplicativo https://​chat.openia.com/​chat

Por otra parte, el segundo es el caso “Mata v. Avianca” que versa sobre el abogado de la parte demandante, Steven A. Schwartz del despacho Levidow, Levidow & Oberman que presento citas de decisiones judiciales inexistentes que le brindo Chat GPT (que copió y no verificó), lo cual derivó al Tribunal de Distrito de los Estados Unidos para el Distrito Sur de Nueva York (4) a emitir una orden para que Scwartz demuestre por qué no debería ser sancionado. En esa lógica es valioso advertir que, aunque las posibles sanciones incluían la aplicación de la Regla 11 (b) (2) y (c) del Reglamento Federal de Procedimiento Civil, el Título 28 del Código de los Estados Unidos, Sección 1927; la resolución del tribunal fue informar a los jueces cuyos nombres fueron citados injustamente en los casos ficticios de las sanciones que el tribunal había impuestos, además de ordenar una multa de $5,000 dólares.

Y finalmente, el tercero y más reciente caso, The New York Times Company contra Microsoft Corporation (el solicitante) y OpenAI, Inc. (los acusados) (5). Por medio del documento de demanda se nos da conocer cómo The Times alegó el uso ilegal de su trabajo para crear productos de inteligencia artificial que compiten con su propio medio, lo cual supone la capacidad para proporcionar un servicio valioso de periodismo independiente.

El solicitante manifestó a través de su demanda la obtención ilegal de su contenido protegido por derechos de autor para entrenar los modelos de inteligencia artificial de Microsoft Corporation y OpenAI, Inc. Para esto, los acusados utilizaron técnicas de raspado web para copiar y descargar grandes cantidades de contenido, incluyendo artículos de noticias, investigaciones en profundidad, opiniones, reseñas, guías de cómo hacer, entre otros.

Es por lo precedente, que los tres casos a priori comprometen al operador del derecho bajo el invaluable Decálogo del abogado propuesto por el jurista uruguayo Eduardo Juan Couture Etcheverry, a razonar e interpretar el derecho de una manera distinta en donde se vinculen los tópicos selectos de las tecnologías de la información y comunicación (TIC), como la inteligencia artificial.

De cumplirse virtuosamente lo establecido en el párrafo anterior, se podrán apreciar aquellos principios (knowability y de no exclusividad de la toma de decisiones algorítmicas), mecanismos (transparencia, explicación y cumplimiento) y figuras jurídicas garantes de una tutela efectiva de los derechos humanos de última generación o de los derechos digitales tales como la ciberseguridad, neutralidad, acceso a datos con fines de investigación científica, innovación y desarrollo.

Transparencia algorítmica

La esfera del derecho y la tecnología nos permite entender un mecanismo para la mitigación de riesgos ante el uso de los sistemas de aprendizaje automático, de inteligencia artificial (IA), como lo es la transparencia algorítmica. 

En ese orden de ideas, resulta relevante la aplicación de la transparencia algorítmica, debido a que facilita entender y explicar cómo funciona la arquitectura y los algoritmos (que referiremos también como AL) en estos sistemas de IA. Proporcionan datos que se utilizan para entrenar y alimentar a los AL y reglas o criterios que rigen su comportamiento, así como las fuentes de información. 

Adicionalmente podemos localizar diversas bondades de su implementación:

(I) Proporciona información sobre los umbrales, las ponderaciones o las métricas utilizadas para evaluar y clasificar la información.

(II) Revelar las situaciones en donde los algoritmos sean imprecisos (más adelante nos enfocaremos sobre los AL y la paradoja que supone sus efectos).

(III) Disponer de pistas para la evaluación y auditoria de los algoritmos utilizados. 

Paradoja entre la verdad y el algoritmo

Debemos hacer una oportuna y útil observación sobre dos conceptos de forma inicial, la premisa mayor de este artículo, en primer termino de la transparencia que comprende la disposición sobre la compartimentación de información de manera abierta y accesible y por otra parte la verdad como la precisión de aquella información y su vinculación con la realidad.

Ahora bien, cuando nos referimos al término algoritmo, se entiende aquella secuencia finita de pasos para desempeñar una tarea determinada, o así también como contempla la Carta Ética Europea sobre el uso de la Inteligencia Artificial en los sistemas judiciales y su entorno de 4 de diciembre de 2018 por medio de su glosario: “Una secuencia finita de reglas formales (operaciones e instrucciones lógicas) que permiten obtener un resultado de la entrada inicial de información. Esta secuencia puede ser parte de un proceso de ejecución automatizado y aprovechar modelos diseñados a través del aprendizaje automático”.

Entonces, al señalar paradoja con el concepto de verdad y algoritmo en una situación determinada, debemos ubicar en un inicio una serie de verdades axiomáticas con el AL, teniendo presente a los axiomas como verdades incuestionables que frecuentemente son utilizadas para la generación de una teoría o un base argumentativa. 

Posteriormente, mencionamos un caso determinado, sencillo, pero estimamos útil, con el fin de apreciar la paradoja, donde existen dos elementos: el objeto o situación y la variable y/o posibilidad (esto con la herramienta de la observación y la actuación del AL). En ese orden de ideas, apreciamos un ejemplo de recomendación de un perfil profesional, sólo considerando lo externo, lo público, todo activo informacional dado a conocer en la internet. Desconociendo lo interno, la verificación de aquello que es público y que podría ser parcial o totalmente falso.

Justamente, la respuesta del algoritmo que considero lo externo del perfil profesional de una persona, establece la verdad ante su limitada observación de lo interno, no obstante, de considerar la observación o análisis interior del AL, ¿qué sucederá? Sencillo, habrá otra contestación de una nueva variable y de nuevo establece la verdad. 

Entendemos que los sistemas computacionales actúan en función de la observación de la situación del estado de las cosas, de aquellos datos que ingresan, y que se analizan, volviendo a lo dicho en líneas arriba, la verdad de lo externo o interno resulta válido, sin embargo, también es erróneo al considerar las variables y/o posibilidades relacionadas al objeto y/o situación. 

De manera que, el escenario de las tecnologías exponenciales continúa comprometiendo tanto a las naciones como a cada uno de los integrantes de la sociedad: funcionarios, operadores del derecho, profesionistas, entre otros a establecer planes de transformación inteligente que ubiquen a la cultura digital como piedra angular para la apropiación del conocimiento técnico y jurídico. Además de la generación de cuerpos normativos claros, accesibles y flexibles para una oportuna operatividad y cooperación. 

Notas 

(1) GUERRERO MARTÍNEZ, Rodolfo, 2023. Avances de la transformación jurídico tecnológica en México. NCC Iberoamérica. Véase en: https://noticiasncc.com/plumas-ncc/08/14/plumas-ncc-avances-de-la-transformacion-juridico-tecnologico-en-mexico/

(2) El presente artículo será publicado próximamente en su versión ampliada en una revista académica. 

(3) Sentencia No. 032. Rama Judicial Consejo Superior de la Judicatura. República de Colombia. Véase en: https://​bit.ly/​40jYADJ

(4) Orden to show cause, 2023. «ROBERTO MATA, Plaintiff, -against- AVIANCA, INC., Defendant”. Véase en: https://goo.su/UONUGy

(5) «The New York Times Company v. Microsoft Corporation, OpenAI Inc., OpenAI GP, OpenAI LP, OAI Corporation LLC, OpenAI Holdings LLC, and OpenAI Global LLC». Véase en: https://nytco-assets.nytimes.com/2023/12/NYT_Complaint_Dec2023.pdf

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.