Plumas NCC | Algoritmos e inteligencia artificial en la esfera del derecho

Por: Rodolfo Guerrero (México).

El 20 de noviembre de 2008 se publicó la Obra “The End of Lawyers?” autoría de Richard Susskind, asesor independiente de firmas profesionales y gobiernos nacionales. Su obra nos comparte cuáles son los puntos de conflicto y los avances tecnológicos que modifican la manera de ejercer la abogacía y el futuro que les depara a los abogados.

Precisamente este libro nos invita a reflexionar sobre el futuro en los modelos jurídicos y hacer una crítica a la forma en que se imparte justicia, ya que señala que los costos de ir a un juicio están fuera de control y por lo tanto, es indispensable desagregar el trabajo por medio de la divulgación electrónica de documentos, la gestión de casos y el archivado electrónico, así como la tecnológica para las salas de los tribunales (como la presentación de pruebas), todo lo anterior para la resolución de conflictos de manera pronta.

Hoy a más de 10 años de la publicación de esta obra, se corrobora qué tan lejano o no está el operador del derecho y la administración de justicia en los diversos países de América Latina para aplicar el uso idóneo de las tecnologías de la información y comunicación (TIC). En este artículo abordaremos los límites de los algoritmos, los principios aplicables y el uso de la Inteligencia artificial en la esfera del derecho.

Límites del uso de algoritmos en la esfera del derecho

La problemática en aplicar sistemas jurídicos expertos, es decir, mediante el uso de la inteligencia artificial constituía por algoritmos para la esfera del derecho, se encuentra en el proceso de construcción, de diseño, el cual es importante sea a partir de principios fundamentales como (Guerrero, Martínez): (I) Libre y sin perjuicios; (II) Transparencia, explicación y cumplimiento; (III) Conocer el algoritmo y hacerlo transparente; (IV) Seguridad y privacidad; y (V) Orientación e impacto positivo.

Encontramos que deben comprender y aplicarse, un régimen mínimo de garantías sobre la actividad automatizada y realizada por algoritmos, como el proceso de elaboración de los códigos, de manera estrictamente pautada mediante información publicada, con participación ciudadana, además de una serie de reglas y procedimientos que den certeza jurídica. Adicionalmente de hacer la programación y código siempre públicos dotando a los ciudadanos de su derecho a conocer, acceder, hacer presente la protección a su privacidad y protección de datos personales (2).

Por otra parte, mencionaremos brevemente el caso de una sentencia relevante que enfatiza los límites en el uso de los algoritmos en la esfera del derecho en caso en materia administrativa. Es la sentencia número 8472/2019 (3) emitida por el Consejo del Estado Italiano donde establecen los siguientes principios:

Principio de Knowability. Comprende a toda persona sobre su derecho a conocer la existencia de procesos automatizados de toma de decisiones que el conciernen.
Principio de no exclusividad de la toma de decisiones algorítmicas. En la situación en que se tome una decisión automatizada, la cual genere consecuencias de derecho que afecten significativamente a una persona.
Principio de no discriminación algorítmica. Comprende sobre el uso de procedimientos matemáticos o estadísticos adecuados para la elaboración de perfiles que debe realizar el responsable del tratamiento.

Sin duda, los principios desarrollados por esta sentencia sirven para considerar los retos latentes para un Estado de Derecho como el mexicano en aras de impartir una justicia pronta y expedita con el uso de las TIC.

Chat GPT y su aplicación en la actividad jurisdiccional

El uso del Chat GPT sigue generando debate en los diversos ámbitos donde se aplica. En este caso, nos referiremos al sector jurídico, a lo resuelto por la Rama Judicial de Colombia, el Juzgado de Instancia Laboral del Circuito de Cartagena.

El caso en el que un funcionario judicial basó parte de sus argumentos con lo que le brindó dicha Inteligencia Artificial, justificando su uso en un proceso sometido a su conocimiento. La sentencia (4) trata de una pretensión de tutela de derechos fundamentales, concretamente a la salud y vida digna a favor de un menor que padece del trastorno del espectro autista, acción que fue promovía en contra de una empresa de aseguramiento en salud para le exonerase de pagar ciertos gastos identificados como cuotas moderadoras, de copago y que le sufragase además el pago por transporte.

El Juez de dicha instancia con base en las disposiciones constitucionales y de la jurisprudencia de la Corte Constitucional de Colombia, además de considerar un precedente que resolvió de una situación similar, determina resolver la sentencia favorable al menor. No obstante, el debate surge, ya que dentro de los argumentos que señalo el funcionario judicial son a partir de lo brindado por la Inteligencia Artificial (IA) Chat GPT. La interrogante es ¿por qué pudo utilizar este sistema para su actuar judicial? La Ley 2213 de 2022 tiene por objeto la incorporación de las TIC en los procesos judiciales, en ese sentido se determinó extender los argumentos de la decisión adoptada conforme al uso de la IA e incluir partes del problema jurídico planteado en la sentencia ingresando en el aplicativo https://chat.openia.com/chat

De tal manera, que las preguntas ingresadas fueron: (I) ¿Menor autista esta exonerado de pagar cuotas moderadoras en sus terapias? (II) ¿Las acciones de tutela en estos casos se deben conceder? (III) ¿Exigir en estos casos la cuota moderadora es una barrera de acceso al servicio de salud? (IV) ¿La jurisprudencia de la corte constitucional ha tomado decisiones favorables en casos similares?

Pese a lo controversial que pueda resultar lo anterior, el despacho resolvió incluir a título de iniciativa que permita dar celeridad a la resolución de los asuntos de tutela, ya que el propósito de incluir estos textos producto de la IA no es reemplazar la decisión del Juez, sino buscar optimizar los tiempos empleados en la redacción de sentencias, previa corroboración de la información suministrada por la IA.

Sin embargo, el debate es amplio consecuencia de este precedente y el cómo se replicará en otras jurisdicciones, debido a la facultad que poseen los jueces de juzgar, la cual debe estar apegada a criterios de objetividad, imparcialidad e independencia propios de un Estado de Derecho.

La inteligencia artificial en los tribunales de justicia

Recordemos que el primer postulado del Decálogo del Abogado menciona: “El derecho se transforma constantemente. Si no sigues sus pasos, serás cada día un poco menos abogado”. Sin embargo, en ocasiones se olvida esto, y el profesional del derecho (tanto en México como en América Latina), se resiste en desaprender, aprender y reaprender en el estudio y aplicación de las Tecnologías de la Información y Comunicación.

Mientras tanto, en otros casos encontramos como se valida el segundo vector expresado por Richard Susskind sobre el cambio en el marcado de servicios jurídicos, el cual refiere la liberalización de la profesión jurídica (donde los abogados competirán con no abogados), a través de lo hecho por la empresa DoNotPay (5), fundada en 2015, que tiene objetivo hacer frente a las corporaciones, vencer a la burocracia y realizar demandas, debido a que este chatbot proporciona asesoramiento legal en torno a cuestiones de consumo – este robot se creó para apelar multas de estacionamiento en el Reino Unido y posteriormente se expandió a los Estados Unidos -.

Este proyecto denominado “abogado robot” fue creado por Joshua Browder, ingeniero por la Universidad de Stanford, y que próximamente estará en audiencia en el mes de febrero en una corte en los Estados Unidos de Norteamérica y asesorará por primera vez a una persona ante un tribunal.

Cabe resaltar, que este software funciona por medio de un teléfono inteligente, permitiendo escuchar las intervenciones durante la audiencia y a partir de los alegatos que registre, dará instrucciones al acusado y a través de un auricular le señalará que decir. Además, la inteligencia artificial ha sido entrenada para enfocarse en los hechos, para no responder automáticamente.

En conclusión, los tres temas desarrollados en este artículo, establecen la importancia de realizar un cambio en la profesionalización jurídica, la cual deberá ser fuertemente desempañada en las facultades de derecho, despachos, colegios y bufetes jurídicos. Además de los tribunales constitucionales, de las cortes supremas de justicia que tienen un deber no sólo jurídico sino también ético ante la labor de hacer justicia en los casos presentados por cientos de miles de personas.

Fuentes de consulta:

1. Guerrero Martínez, Rodolfo. Aproximaciones de la inteligencia artificial y oportunidades de la protección de datos personales en el Derecho mexicano. Revista Praxis. No. 32 del TFJA. https://www.tfja.gob.mx/investigaciones/pdf/r_32-trabajo-1.pdf

2. Sentencia neerlandesa de la Corte del Distrito de La Haya de 5 de febrero de 2020 sobre empleo de algoritmos para realizar ciertas apreciaciones de riesgo. https://uitspraken.rechtspraak.nl/#!/details?id=ECLI:NL:RBDHA:2020:865

3. TuttoCamere.It, Algoritmos en el ámbito administrativo: el Consejo de Estado describe los límites, https://www.ateneoweb.com/notizie-fiscali/algoritmi-in-ambito-amministrativo-il-consiglio-di-stato-delineu-i-limiti.html, febrero, 2020.

4. Sentencia No. 032. Rama Judicial Consejo Superior de la Judicatura. República de Colombia. https://bit.ly/40jYADJ

5. The World’s First Robot Lawyer. https://donotpay.com/

***

Rodolfo Guerrero es abogado por la Benemérita Universidad de Guadalajara, actualmente es maestrante en derecho con orientación en materia Constitucional y administrativo por la misma casa de estudios. Es Socio Fundador y Representante Legal de la Sociedad Civil Coffee Law “Dr. Jorge Fernández Ruiz”. Socio fundador de la Academia Mexicana de Derecho “Juan Velásquez” A.C. Titular de la Comisión de Legaltech del Ilustre y Nacional Colegio de Abogados de México A.C. Capítulo Occidente. Vicepresidente de la Academia Mexicana de Derecho Informático, Capítulo Jalisco.