Plumas NCC | Responsabilidad, rendición de cuentas y aplicación del código de ética en el contexto de la inteligencia artificial

Por: Rodolfo Guerrero Martínez (México)

En el presente artículo (1) se comprenderá de forma particular la responsabilidad y rendición de cuentas en la toma de decisiones automatizadas, así como, la vigilancia y aplicación del Código de ética en el contexto de la inteligencia artificial.

Responsabilidad y rendición de cuentas en la toma de decisiones automatizadas

Tomaremos en consideración el uso de chatbots basados en LLM (o de inteligencia artificial generativa IAG) dentro de un proceso judicial a través del uso, -estimados virtuosos o desafortunados- de casos recientes con respecto a la denominación del actual rubro de responsabilidad y rendición de cuentas.

Comenzamos con el caso “Mata v. Avianca” que nos dirige a una serie de reflexiones (ya establecidas en el cuerpo del presente artículo) sobre la utilización de chatbots de IAG, el cual deberá ser utilizado como apoyo y no como sustituto de la labor jurídica como la de un despacho legal o la de un juzgado que debe revisar oportunamente una resolución antes de ser emitida. Dicha antesala ya que el presente asunto versa sobre el abogado de la parte demandante, Steven A. Schwartz del despacho Levidow, Lexidow & Oberman que presento citas de decisiones judiciales inexistentes que le brindo Chat GPT (que copió y no verificó), lo cual derivo al tribunal de Distrito de los Estados Unidos para el Distrito Sur de Nueva York a emitir una orden (2), donde Swartz demuestra por qué no debería ser sancionado.

En el segundo ejemplo reciente lo ubicamos en el Estado Colombiano, donde por medio del caso resuelto (3) por el Juzgado de Instancia Laboral del Circuito de Cartagena, realizado el día 31 de enero del año 2023 a cargo del Juez Juan Manuel Padilla, baso parte de sus argumentos con lo que le brindo el sistema de IAG de ChatGPT. La facultad para el uso de este sistema a consecuencia de la Ley 2213 de 2022 tiene por objeto la incorporación de las TIC en los procesos judiciales, en ese sentido, se determinó extender los argumentos de la decisión adoptada conforme al uso de la IA e incluir partes del problema jurídico planteado en la sentencia ingresando en el aplicativo https://chat.openia.com/chat

Y en el tercer caso, tenemos que, en el Estado Peruano (4), se han desempeñado planteamientos y acciones en procesos de alimentos a favor de una niña, en segunda instancia, con motivo del recurso de apelación de sentencia con el objetivo de realizar de forma sencilla operaciones matemáticas de cualquier tipo. Facilitando al usuario una motivación coherente y sustentada objetivamente. La razón de su uso comprende la detección de una continua inexistencia de motivación relacionada con el procedimiento o el razonamiento utilizado para determinar el importe de la pensión de alimentos, a favor de niños o adolescentes.

Vigilancia y aplicación del Código de Ética en el contexto de la inteligencia artificial

En seguimiento con lo desarrollado en el rubro precedente, comprendemos que para garantizar la aplicación de dicha propuesta es indispensable la vigilancia del Código de Ética, en esa lógica, tenemos entre las fases de la metodología ética lo siguiente:

Involucramiento inicial: Convocar a las partes interesadas para discutir los objetivos, alcances y limitaciones del uso de IA en el sistema judicial. Esto puede incluir talleres, paneles de discusión y consultas públicas.
Análisis de impacto ético y social: por medio de la realización de estudios se evalúan las consecuencias potenciales del empleo de IA en términos de ética y justicia social. Identificando riesgos como sesgos algorítmicos, afectación a la privacidad, y cualquier otro impacto negativo sobre los derechos humanos.
Desarrollo de principios éticos: Establecer un conjunto de principios que guíen la implementación y uso de IA, basados en estándares nacionales e internacionales, y que reflejen los valores del Poder Judicial y de la sociedad mexicana.
Diseño participativo: Incluir a las partes interesadas en el diseño y configuración de las herramientas de IA para el aseguramiento que los sistemas sean accesibles y útiles para todos, y que contemplen las necesidades de los usuarios finales.
Pruebas piloto y evaluación: Previo a una implementación a gran escala, debemos realizar pruebas piloto con una supervisión ética activa. Recoger el feedback o la retroalimentación de los usuarios y expertos para ajustar los sistemas de acuerdo con los estándares éticos establecidos.

Para nuestro objeto de estudio, resulta por demás esencial, la creación de figuras garantes para el ámbito tanto interno como externo para dicha vigilancia y control de un nuevo Código de Ética que utilice la IA en el Poder Judicial, parecido a lo acontecido en materia de protección de datos personales (PDP) con el delegado de cumplimiento de PDP y el Chief Data Officer, director de datos. Fijando entonces como propuesta de actores en la lógica mencionada, a un auditor ético algorjudicial considerando objetivos, criterios claros y haciendo una revisión previa de conformidad al ámbito legal; y como segundo protagonista a un delegado de cumplimiento ético judicial para garantizar la ejecución responsable e idónea de los sistemas expertos de IA.

Fuentes consultadas

(1) El presente artículo es recuperado de la publicación intitulada “Código de Ética para la Administración del Poder Judicial de la Federación” autoría de GUERRERO MARTÍNEZ, RODOLFO, contenida en la obra «Perspectivas en la Impartición y Administración de Justicia en México desde sus actores (en visos de la Reforma Judicial)«. Ed. FUNDAp, (2024), pp. 208-210. A continuación, se compartirán las citas señaladas en el escrito original:

(2) Order to show cause, 2023. “ROBERTO MATA, Plaintiff, -against- AVIANCA, INC., Defendant”. Véase en: https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.31.0.pdf

(3) Sentencia No. 032. Rama Judicial Consejo Superior de la Judicatura. República de Colombia. Véase en: https://bit.ly/40jYADJ

(4) Las aplicaciones han sido desempeñadas por el Mtro. Frank Paul Flores García (Perú), Juez Especializado Civil en el Poder Judicial del Perú. Véase en: https://t.ly/PXMNn