Plumas NCC | El aprendizaje automatizado y digitalizado en la formación y ejercicio de la profesión jurídica

Por: Rodolfo Guerrero Martínez (México).

En el presente artículo abordaremos el aprendizaje automatizado y la digitalización en la formación y ejercicio de la profesión jurídica por medio de las reflexiones compartidas en el primer panel del Cuarto Diálogo Internacional de Juristas donde participaron expertos en derecho y tecnologías de la información y de la comunicación (TIC), además de compartir brevemente sobre el Convenio sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho.

Aprendizaje automatizado y digitalizado en la formación y ejercicio de la profesión jurídica

El pasado martes 7 de noviembre a las 11:10 horas de Ciudad de México del año 2023 se realizó en el marco del Cuarto Diálogo Internacional de Juristas (1) que organiza la Sociedad Civil Coffee Law “Dr. Jorge Fernández Ruiz”, el panel intitulado “el aprendizaje automatizado y digitalizado en la formación y ejercicio de la profesión jurídica”, donde participaron como ponentes los expertos en derecho y TIC: la Doctora Alma de los Ángeles Ríos Ruiz, profesora investigadora de la Universidad Nacional Autónoma de México, miembro del Sistema Nacional de Investigadores (SNI), Nivel II del CONAHCYT; la Doctora Teresa de las Heras Ballell, miembro del grupo de expertos de la Comisión Europea sobre responsabilidad y nuevas tecnologías; el Prof. Doctor  Moisés Barrió Andrés, letrado del Consejo de Estado, profesor de Derecho Digital y asesor de diversos Estados y de la UE en regulación digital; el Doctor Luis María Palma, presidente de la International Association for Court Administration (IACA); y el Doctor Roberto Navarro Dolmestch, académico en la Escuela de Derecho de la Universidad Católica de Maule (UCM).

En dicho panel se desarrollaron una serie de planteamientos, de los cuales resaltamos algunos a continuación:

(1) La tradición en la formación jurídica, la crisis actual y la evolución del profesional del derecho

En el ámbito de la formación de los abogados el derecho continental de origen romanista, y particularmente lo que hemos aprendido en América Latina, nos ha llevado a la identificación de la ley escrita como única fuente del derecho, con una formación netamente teórica basada en un culto a la norma general y abstracta que dificulta muchísimo el aprendizaje en los hechos (2).

A partir de la realidad de los casos que es lo que tenemos que hacer cuando hemos de ejercer la profesión o también en su caso la función judicial, de modo que, a menos que nos hayamos formado en un buffete legal mientras estudiamos, hayamos trabajado en un juzgado en un ámbito de la justicia, el impacto va a ser muy grande cuando salgamos de la facultad de leyes, se nos burocratiza la forma de razonar y ejercer la función por el hecho de que partimos de abstracciones y no de realidades, cuando la realidad precisamente nos indica lo contrario.

A lo anterior, se añade otra circunstancia que es la del lenguaje jurídico arcano, abstracto muy difícil de comprender para el común de los mortales, y que por esa misma razón incita la desconfianza, porque hablar el mismo idioma, pero en un lenguaje totalmente distinto es algo que por escrito y verbalmente suscita dificultades.

Por otra parte, comprendemos un tópico más, la realidad tecnológica que evoluciona mientras leemos y hablamos, “Enough is not Enough” dicen los anglosajones, hemos a partir de la pandemia aprendido como mediante el teléfono, la tableta, la computadora podemos relacionarnos con otros lugares del mundo, construir conocimiento, construir confianza, pero a la vez ser víctimas de estafas virtuales, de una criminalidad organizada, que no reconoce fronteras y que ningún gobierno por sí solo puede combatir.

Además, de un escenario donde los dispositivos de localización o de geolocalización usados por gobiernos van mucho más allá de saber que estemos quietos en lugar para no contagiar a nadie, pero a esto se añade un problema de mucha actualidad, en ese sentido, invocamos la figura de Daniel Patrick Moynihan, quien fue profesor en la Universidad de Harvard, el único demócrata en el gabinete de la primera administración del Presidente Richard Nixon, él había manifestado algo hace 50 años que en la actualidad tiene una vigencia aterradora, Patrick señalo, “cada uno tiene derecho a sus propias opiniones, pero no a sus propios hechos”, y vivimos tiempos en los cuales se esta tomando a los hechos como opiniones y viceversa.

Así como, Luis Carol le hace decir en la pregunta de Alicia en el País de las Maravillas a Humpty Dumpty, ese huevo cínico e inteligente acerca del significado de las palabras, “cuando uso una palabra significa exactamente lo que yo quiero que signifique, ni más ni menos”. Sin duda, actualmente en los nuevos medios de comunicación, como lo son las redes sociales digitales, el proceso se acelera. Por una parte, se habla de democratización en nombre del sometimiento, se habla de inclusión cuando en realidad se está excluyendo a quien no piensa de determinada forma, se cuestiona la biología desde las ciencias sociales negando la naturaleza, se condena con pautas culturales del presente al pasado, esto equivale a aplicar retroactivamente la ley penal, solo que con pautas culturales con lo cual nada resiste.

Nuevamente se reinterpreta la realidad a partir de opiniones, cuando se trata de hechos ilevantables, si pensamos, por ejemplo, en delitos comprobados en la justicia que se niegan en nombre de supuestas finalidades de beneficio social para los pobres por parte de ciertos políticos.

Existe una cultura woke de corrección política que lleva adjudicar culpa siempre en alguien más, se cancela el sentido del humor, y ocurre algo especialmente terrible en el campo que va más allá de lo jurídico, porque sabemos que en la religión existe el perdón, en la ley penal también, y aunque no se aplique el perdón tras cumplir una condena uno puede reinsertarse en la sociedad. En las redes sociales digitales esto no sucede, si se escribe algo, se dijo algo en determinado contexto, y las pautas culturales cambiaron, esa persona está condenada de por vida, en otras palabras, es imprescriptible.

A partir de lo establecido en lo precedente, localizamos una inquisición viral mediante la cual, no solamente se censura y reprime las acciones, sino también, y esto es mucho más grave, el pensamiento. Es preciso que entendamos las intromisiones ilegales de las comunicaciones, el cómo esto impacta en la profesión y en la función judicial, porque los jueces y abogados debemos actuar en base a definiciones de normas, que no se actualizan a cada instante, con lo cual las presiones sobre la independencia judicial y eventualmente el desempeño de la profesión es brutal, y se viralizan a través de las redes sociales digitales.

(2) Sistemas de Inteligencia artificial y su implicación en el ámbito jurídico

Un sistema de inteligencia artificial está basado en algoritmos, que es un sistema de base incorporan necesariamente para que lo califiquemos de sistema de aprendizaje (3), una serie de técnicas de inteligencia artificial o técnicas de aprendizaje, y que fundamentalmente lo que permite es que dados unos inputs, que pueden tener una procedencia muy diversa, ser predicciones previas, interacciones con el entorno, o ser un input que el propio operador del sistema le imponga, se definen una serie de objetivos y a partir de ahí, se genera una diversidad absoluta de output o de resultados que pueden ser todos aquellos como un documento de demanda, un escrito de demanda, la parte fundamental de un informe dirigido al cliente, una resolución o un simple documento de consulta para comenzar a preparar un caso.

Ahora bien, lo señalado nos dirige en el contexto jurídico normativo a iniciar con las posibles implicaciones, en ese orden, lo primero es observar el marco existente, podemos tener alguna regulación sectorial, si lo hubiera, por ejemplo, si planeamos preparar un documento dirigido a la autoridad del mercado de valores para solicitar la autorización de una entidad, aplicar una normativa financiera (de existir una).

Por otra parte, debemos tener presente con el caso referido, cuáles son las reglas existentes de responsabilidad, las reglas y principios contractuales generales que permitirán comenzar a intuir como se aplica esto y cuando el sistema está en el nivel uno, es un simple input para una decisión, por ejemplo, busco en una base de datos, me brinda un resultado y es una explicación de cual es el estado de la cuestión de acuerdo con la jurisprudencia sobre un tema, dicho escenario nos ubica posteriormente en el nivel dos, donde lo que produce el sistema de IA es una recomendación que me asiste en la toma de decisiones, cuál es la estrategia procesal que voy a desempeñar.

Finalmente el nivel tres, nos dirige al sistema que adopta la decisión, es decir, personalmente le propongo que elabore, que produzca, que genere directamente una nota dirigida al cliente sobre si tiene derecho a una determinada reclamación, y lo que vamos apreciar en primer lugar, es la comprobación de la función del esquema cuando tenemos sistemas de aprendizaje automatizado y en segundo término, si debemos considerar nuevas reglas que se adapten constantemente sobre el uso de lo que denominaremos ADM, que significa toma de decisiones automatizada o sistemas de decisiones automatizada. 

Convenio sobre Inteligencia Artificial, Derechos Humanos, Democracia y Estado de Derecho

El Consejo de Europa es la organización de derechos humanos más grande e importante de dicho continente, la cual presento a través de su Comité sobre Inteligencia Artificial (CAI) el día 18 de diciembre del año 2023 el primer borrador del Convenio Marco sobre inteligencia artificial, democracia y Estado de derecho (4), cuya finalidad es asegurar que las actividades dentro del ciclo de vida de los sistemas de IA sean plenamente consistentes con los tres rubros antes referidos.

En ese sentido,  el documento nos comparte diversos mecanismos para la protección de los DH frente a sistemas de inteligencia artificial como la adopción de medidas para garantizar que los sistemas no sean utilizados para socavar la integridad, independencia y eficacia de las instituciones y procesos democráticos; también para asegurar la transparencia y supervisión adecuadas en relación con las actividades dentro del ciclo de vida de los sistemas de inteligencia artificial; y la responsabilidad y la rendición de cuentas por las violaciones de los derechos humanos o los impactos adversos en los derechos humanos, la democracia y el estado de derecho resultantes de las actividades dentro del ciclo de vida de los sistemas de IA.

Cabe resaltar que, dentro del ciclo de vida de la IA debemos entender las etapas desde el diseño y desarrollo hasta el uso y desmantelamiento de dichos sistemas. Este ciclo incluye la concepción, creación, implementación, operación y, en su caso, la retirada de los sistemas de inteligencia artificial.

Por otra parte, el documento en comento establece los siguientes principios acorde al ciclo de vida de los sistemas de IA:

(1) Respeto a la dignidad humana y la autonomía individual.

(2) Transparencia y supervisión adecuadas

(3) Rendición de cuentas y responsabilidad por violaciones de los derechos humanos o impactos adversos.

(4) Igualdad y no discriminación.

(5) Protección de la privacidad y los datos personales.

(6) Preservación de la salud y el medio ambiente.

(7)  Promoción de la fiabilidad, seguridad, precisión y calidad de los sistemas de inteligencia artificial.

(8) Fomento de la innovación segura, evitando impactos adversos en los derechos humanos, la democracia y el estado de derecho.

Notas

(1) Cuarto Diálogo Internacional de Juristas, 2023. Sociedad Civil Coffee Law. Véase en: https://t.ly/0b_YA

(2) MARÍA PALMA, Luis. Cuarto Diálogo Internacional de Juristas (2023). Coffee Law S.C. Véase en: https://t.ly/Yu-3c

(3) DE LAS HERAS BALLELL, Teresa. Cuarto Diálogo Internacional de Juristas (2023). Coffee Law S.C. Véase en: https://t.ly/dC0Ff

(4) Draft Framework Convention on Artificial Intelligence, Human Rights, Democracy and the Rule of Law. Committee on Artificial Intelligence (CAI). Véase en: https://rm.coe.int/cai-2023-28-draft-framework-convention/1680ade043

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.