Plumas NCC | Oficial de cumplimiento judicial en Inteligencia Artificial

Por: Mtro. Rodolfo Guerrero Martínez (México).

En el presente artículo (1) se comprenderá de forma introductoria la propuesta, visión e importancia de la Implementación de la Inteligencia Artificial en el Poder Judicial de la Federación en México para una Justicia más eficiente. En ese sentido, entendiendo entre sus primeros puntos, el Oficial de Cumplimiento Judicial en Inteligencia Artificial, y de manera general, el uso de tecnologías digitales en el ámbito jurisdiccional.

Oficial de cumplimiento judicial en inteligencia artificial

Se parte de inicio en el deber al comprender que, los procesos de compliance representan un vehículo fundamental para la transformación de la dinámica social, que da apertura a una debida tutela de los derechos humanos en las herramientas de gestión empresarial y gubernamental, presentando a su vez la definición establecida por la Organizational Risk and Compliance Administration, donde señala que el cumplimiento normativo cuyo desempeño contiene un enfoque más holístico que estratégico, se gestiona la observancia de forma proactiva, lo cual crea como resultado roles especializados tales como vicepresidencias de gestión y oficiales de cumplimiento (CCO o Cheif Compliance Officer) que no enfocan solo al ámbito legal sino también a cuestiones éticas y diversas dimensiones del riesgo.

Actualmente, el compliance en la era digital representa la obligación de tutelar los derechos humanos de cuarta generación (o de última generación como suelo referenciar debido al principio de progresividad) o también nombrados derechos digitales en rubros tan importantes como la confidencialidad en el teletrabajo; la protección de datos personales o la necesidad de recurrir a la ciberseguridad en las transacciones; los límites del uso de algoritmos en el sector público, reconociendo su importancia en casos como las dos sentencias del Tribunal Supremo (Consiglio di Stato) italiano, de 8 de abril y 19 de diciembre de 2019, anulando decisiones sustentadas en algoritmos que no resultaban explicables (2).

En seguimiento a la aplicación satisfactoria del cumplimiento normativo digital o del digital compliance resulta prioritario para garantizar la utilización ética, transparente y no discriminatoria de los algoritmos por parte de los organismos públicos y de las instancias judicial, por ejemplo. Destacando principios esenciales como:

PRINCIPIO DE COGNOSCIBILIDAD. Los algoritmos utilizados deben ser legibles, comprensibles y explicables tanto para los ciudadanos como para los jueces. Es crucial asegurar que se mantenga la transparencia en lo referente a su lógica, los datos de entrada con los que trabaja, el proceso mediante el cual toma decisiones, entre otros aspectos.
PRINCIPIO DE NO EXCLUSIVIDAD DE LA DECISIÓN ALGORÍTMICA. Los algoritmos deben tomar decisiones con la intervención y supervisión de seres humanos, sobre todo en situaciones que puedan afectar derechos fundamentales.
PRINCIPIO DE NO DISCRIMNACION ALGORÍTMICA. Es necesario corregir cualquier elemento del algoritmo que pueda generar resultados discriminatorios en contra del principio de igualdad debido a género, raza, edad y otras razones.
PRUEBA Y PERFECCIONAMIENTO CONTINUO. La Administración debe realizar pruebas, actualizaciones y mejoras continuas de los algoritmos, sobre todo en situaciones que involucren aprendizaje automático y deep learning.
CONTROL JUDICIAL EFECTIVO. La importancia de reconocer que el algoritmo debe ser tratado como un acto administrativo sujeto a control judicial completo. Es fundamental que el juez tenga la capacidad de evaluar si todo el proceso algorítmico cumple con las leyes y si la decisión automatizada es razonable.

Por otra parte, con respecto al Poder Judicial de la Federación, puede localizarse la figura especifica de cumplimiento judicial siendo definida como un sistema de gestión basado en buenas prácticas y estándares internacionales, qué, desde un modelo de gobierno, riesgo y cumplimiento (GRC), administra el riesgo de corrupción y el fraude organizacional interno, así como las faltas al deber de probidad, que amenaza el ejercicio –independiente, imparcial y objetivo- de la función pública en la administración de justicia (3).

Fuentes consultadas

(1) El presente artículo es recuperado de la publicación intitulada “La Implementación de la Inteligencia Artificial en el Poder Judicial de la Federación en México para una Justicia más eficiente” autoría de GUERRERO MARTÍNEZ, RODOLFO, contenida en la obra «Historia, Modernidad e Innovación. Doscientos años del Poder Judicial del Estado de Jalisco». (https://open.tirant.com/cloudLibrary/ebook/info/9788410950399). Ed. Tirant lo blanch, (2024), pp. 633-635. A continuación, se compartirán las citas señaladas en el escrito original:

(2) Sentencias del Consejo de Estado italiano núm. 2270/2019, de 8 de abril y 881/2020, de 4 de febrero. Alude a las mismas también S. de la Sierra, “Control judicial de los algoritmos: robots, Administración y Estado de Derecho”, Derecho local de Lefebvre. Recuperado a partir de: https://elderecho.com/control-judicial-de-los-algoritmos-robots-administracion-y-estado-de-derecho

(3) KENNIA ALVARADO V. “Compliance Judicial: Modelo de gobierno y gestión de riesgo de corrupción para el aseguramiento de la calidad e integridad del servicio de justicia”. Recuperado a partir de: https://www.oas.org/es/sla/dlc/mesicic/docs/mar2023_bp_cr_ppt.pdf

***

Rodolfo Guerrero es abogado por la Benemérita Universidad de Guadalajara y maestro en derecho con orientación en materia Constitucional y administrativo por la misma casa de estudios. Es Socio Fundador y Representante Legal de la Sociedad Civil Coffee Law “Dr. Jorge Fernández Ruiz”. Socio fundador de la Academia Mexicana de Derecho “Juan Velásquez” A.C. Titular de la Comisión de Legaltech del Ilustre y Nacional Colegio de Abogados de México A.C. Capítulo Occidente. Vicepresidente de la Academia Mexicana de Derecho Informático, Capítulo Jalisco.