Plumas NCC | Políticas y regulaciones de la IA orientadas a la paz

Por: Rodolfo Guerrero Martínez (México).

La intersección entre la inteligencia artificial (IA), el derecho y la cultura de la paz representa un campo complejo y fascinante que exige una atención rigurosa en el panorama global actual. La rápida proliferación de las tecnologías de IA plantea interrogantes cruciales sobre su impacto en la sociedad, particularmente en la forma en que interactuamos, resolvemos conflictos y construimos un futuro más pacífico.

El presente artículo abordará las políticas y regulaciones de inteligencia artificial (IA) orientas a la paz por medio de las compartidas en el cuarto panel del Quinto Diálogo Internacional de Juristas donde participaron expertos en derecho y tecnologías de la información y comunicación (TIC).

Políticas y regulaciones de IA orientadas a la paz

El jueves 8 de noviembre de 2024 a las 17:35 horas de Ciudad de México se realizó en el marco del Quinto Diálogo Internacional de Juristas que organizada la Sociedad Civil Coffee Law “Dr. Jorge Fernández Ruiz”, el panel intitulado “políticas y regulaciones de IA orientadas a la paz” (1), donde participaron los expertos en derecho, TIC y cultura de la paz: Las doctoras Erika Sánchez Chablé, coordinadora de la Red de Mujeres en TIC del Comité de Tecnologías de la ANUIES; Carmen Humberta de Jésus Díaz Novelo, coordinadora del programa STEM – UADY, Coordinadora del grupo de Gobierno de TI – RNIE – México, vocal del comité ANUIES-TIC, investigadora; Mariella Bernasconi (Uruguay), profesora Agregada Técnica Forense, Relaciones de consumo Facultad Derecho UdelaR. Doctora en Derecho y Ciencias Sociales; el Doctor Paul Enrique Franco Zamora (Bolivia), presidente del Tribunal Constitucional Plurinacional de Bolivia; y el Maestro Francisco Adrián García García (México), coordinador de Investigación en Centro LATAM Digital.

En dicho panel se desarrollaron una serie de planteamientos, de los cuales resaltamos algunos a continuación:

(1) La IA y la preservación de la cultura de la paz

Es importante señalar que la paz no es necesariamente la ausencia de conflicto, sino que es un estilo de vida activo que busca construir sociedades más justas y equitativas.

La inteligencia artificial y la preservación de la cultura de paz conviven en el facilitamiento de herramientas como Chat GPT, por ejemplo, para la resolución de conflictos al analizar una variedad de fuentes incluidas en redes sociales, informes de noticias o imágenes satelitales.

De esta manera, dichas herramientas de IA permiten identificar zonas de conflicto y predecir brotes de violencia, así mismo, desarrollar sistemas de alerta temprana que otorgue a las organizaciones internacionales y a los gobiernos tomar medidas proactivas.

Ahora bien, por medio de la IA, este aprendizaje personalizado brinda a las personas contenido de acuerdo con sus necesidades que puedan fomentar precisamente la comprensión intercultural, y la preservación de la paz. Justamente, poniendo en relieve, una interrogante bastante provocada, ¿la inteligencia artificial podría contribuir a solucionar los problemas más apremiantes del mundo?

En primer término, la respuesta a la pregunta planteada líneas arriba corresponde al entrenamiento de la IA, que comprenda mediante el filtrado de datos policiales y análisis de tendencias delictivas la generación de una herramienta capaz de predecir cuándo y dónde podrían ocurrir delitos (añadiendo insumos valiosos para la prevención digital y cibernética).

Por otra parte, un segundo punto advierte los riesgos éticos que presenta la IA, como la discriminación algorítmica, la desinformación y el desarrollo de armas autómatas, por tanto, se propone para mitigar estos peligros la necesidad de establecer normas claras y marcos normativos y éticos para el desarrollo y uso de la IA.

Adicionalmente es importante fomentar que las instituciones de educación superior implementen políticas de transparencia y responsabilidad, auditorias frecuentes para evitar sesgos algorítmicos, así también la formación de docente sobre la utilización responsable y efectiva de la inteligencia artificial.

(2) Proyectos de inteligencia artificial propuestos para la educación superior en México por la ANUIES

La Asociación Nacional de Universidades e Instituciones de Educación Superior (ANUIES), consciente de la creciente importancia de la Inteligencia Artificial (IA) en la educación superior, ha puesto en marcha diversos proyectos a través de su grupo de trabajo especializado en esta área. Uno de los proyectos centrales es la «Jornada de Inteligencia Artificial en Educación Superior», que se realiza desde febrero del año pasado, y que en septiembre abordó el tema de la cultura de paz.

Además, este grupo ha colaborado con otras instituciones nacionales e internacionales como la Alianza Nacional de Inteligencia Artificial (ANIA), la Procuraduría Federal del Consumidor (PROFECO), el Instituto Nacional para el Federalismo y el Desarrollo Municipal (INAFED) y MetaRed, con el fin de desarrollar estrategias conjuntas para la implementación responsable de la IA.

Un aspecto esencial en el trabajo de la ANUIES es generar documentos y propuestas que sirvan como guía para la implementación de la IA en la educación superior, en ese sentido, en coordinación con ANIA se elaboró una Agenda Nacional de IA para México (https://www.ia2030.mx/agenda2020), que incluye políticas para los diferentes sectores del país.

Asimismo, la ANUIES ha trabajado en la evaluación del estado de preparación de la IA en México, utilizando la metodología de la ONU, y en la delineación de una posible estrategia nacional. Estos documentos, se encuentran disponibles en el sitio web de la ANIA (https://www.ania.org.mx/documentos), los cuales representan un valioso recurso para las instituciones de educación superior que buscan integrar la IA de manera responsable.

(3) El uso de la inteligencia artificial en la jurisdicción constitucional

Conforme a un enfoque particular en las políticas y regulaciones necesarias para garantizar una implementación responsable y ética, podemos argumentar que la IA puede ser una herramienta poderosa para modernizar la justicia constitucional, agilizar procesos y promover la seguridad jurídica, pero su implementación debe abordarse con cautela, considerando los dilemas éticos y las posibles afectaciones a los derechos fundamentales.

Uno de los puntos clave de los trabajos implica realizar la distinción entre IA y sistemas expertos jurídicos. En principio, entendiendo que la inteligencia artificial implica la automatización de tareas, mientras que los sistemas expertos jurídicos son programas que imitan el comportamiento humano al utilizar bases de datos legales para generar resultados jurídicos.

En ese orden establecido, si bien ambas herramientas pueden ser útiles en la jurisdicción constitucional, enfatizamos que la IA debe entenderse como un apoyo extraordinario a la justicia, y no como un reemplazo de los jueces. Asimismo, resaltando la importancia de la predicción judicial, basada en la identificación de precedentes, la sistematización de la jurisprudencia, la compilación normativa y la interconectividad entre instituciones judiciales.

Con respecto a las regulaciones, existe la necesidad de incorporar algoritmos que respondan a principios de seguridad jurídica y transparencia, garantizando que tanto los operadores de justicia como las partes procesales confíen en la IA. La consideración de principios de interpretación constitucional, por su carácter axiológico, son difíciles de programar en sistemas digitales, mientras que las reglas, al sujetarse a parámetros concretos, pueden automatizarse con mayor facilidad.

Sin embargo, la elección del método interpretativo más adecuado para cada caso continúa siendo un desafío para la IA, lo que implica la necesidad de un marco legal que regule y de certeza para su uso en el control normativo de constitucionalidad.

En suma, esto previene sobre la inclusión de definiciones precisas de los institutos jurídicos digitalizados en la legislación procesal, así como la adopción de principios éticos para la utilización de la IA en el ámbito judicial, como los principios del Llamamiento de Roma (https://www.romecall.org/).

 

Fuente de consulta

Coffee Law SC (2024). Políticas y regulaciones de IA orientadas a la paz. Quinto Diálogo Internacional de Juristas. Véase en: https://www.youtube.com/watch?v=pyQ69Lrtcd8

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.