Plumas NCC | Posicionamientos sobre las aplicaciones de la inteligencia artificial en el ámbito internacional

Por: Rodolfo Guerrero Martínez (México).

La inteligencia artificial (IA) se ha consolidado como una de las fuerzas más transformadoras en el ámbito tecnológico, y su impacto se siente en todos los sectores de la economía. Justamente el documento intitulado “las 10 principales tendencias tecnológicas estratégicas” elaborado por Garther (2024), explora cada una de ellas, a través de un enfoque particular en cómo la IA está redefiniendo la forma en que las organizaciones operan, innovan y compiten.

A medida que las herramientas de desarrollo asistido por IA se integran en los entornos de trabajo, los ingenieros de software pueden aumentar su productividad y centrarse en tareas de mayor valor, como el diseño y la creación de aplicaciones empresariales. Además, la democratización de la IA generativa está permitiendo que un número creciente de usuarios acceda a conocimientos y habilidades que antes estaban reservados para expertos, lo que promete transformar la productividad y la competitividad de las empresas.

En ese sentido, es fundamental implementar prácticas responsables para maximizar el valor de las iniciativas de inteligencia artificial poniendo en relieve su gobernanza y gestión en un mundo donde la información y la tecnología evolucionan a un ritmo vertiginoso.

Precisamente, se abordan varias formas como la automatización de procesos de seguridad; el análisis predictivo; la mejora de la confianza del cliente; el cumplimiento de normativo (de seguridad al automatizar la recopilación y el análisis de datos necesarios para auditorías y reportes); y la IA como socio en la gestión de confianza.

Por tanto, en el presente artículo se desarrollarán los diferentes posicionamientos sobre la aplicación y/o adopción de la inteligencia artificial en países como la India, Argentina, Colombia y México.

 

Adopción de la inteligencia artificial en la India, reglas de tecnología de la información y código de ética de medios digitales de 2021

La Corte Suprema de la India ha incorporado tecnologías de inteligencia artificial (IA) en su funcionamiento institucional, con el objetivo de mejorar la eficiencia y accesibilidad de sus procesos judiciales. Según una declaración del Ministro de Estado de la Unión (Cargo Independiente) del Ministerio de Derecho y Justicia, Arjun Ram Meghwal, la implementación de la IA se ha centrado en tres áreas clave: la traducción de documentos judiciales, el fortalecimiento de la investigación jurídica y la automatización de procesos administrativos.

Durante el mes de febrero del año 2023, la IA ha sido utilizada de manera activa para transcribir los argumentos orales presentados en casos ante el Tribunal Constitucional, así como para traducir sentencias clave del Tribunal Supremo y del Tribunal Superior a lenguas vernáculas. Esta iniciativa es supervisada por un comité especializado, presidido por un juez del Tribunal Supremo, que garantiza la implementación efectiva y responsable de la tecnología de IA en el sistema judicial indio.

Por otra parte, el Gobierno de la India en el año 2021 notifico sobre las Reglas de Tecnología de la Información (Directrices para Instituciones Intermediarias y Código de Conducta de Medios Digitales), las cuales se han implementado ampliamente para las redes sociales y las plataformas over-the – top (OTT). Dichas reglas son incorporadas en la Sección 87 (2) de la Ley de Tecnología de la Información (TI) de 2000 y en lugar de las Reglas anteriores de Tecnología de la Información (Directrices para Instituciones Intermediarias) de 2011.

Cabe destacar que algunos aspectos clave de fondo como: la petición de auto del caso Prajwal, la Corte Suprema estableció en su orden del 11 de diciembre de 2018 que el Gobierno de la India debería eliminar las imágenes, vídeos y sitios de pornografía infantil de las plataformas y otras aplicaciones que proporcionan contenido. Al hilo de esto, además en el año 2020, un comité ad hoc de Rajya Sabha presentó su informe después de estudiar el peligroso tema de la pornografía en las redes sociales y sus efectos en los niños y la sociedad y recomendó identificar al creador original de dicho contenido. Adicionalmente, el gobierno puso las plataformas de transmisión de vídeo por streaming (OTT) bajo la competencia del Ministerio de Información y Radiodifusión (2). 

Ahora bien, más recientemente localizamos el proyecto de enmiendas presentado por el Ministerio de Electrónica y Tecnologías de la Información del año 2023 comprende propuestas relacionadas con la prohibición de la información falsa y los juegos de azar en línea. También, de regular a los intermediarios que deberán eliminar de sus plataformas cualquier información que no sea requerida por la Oficina de información de la Prensa, y una oficina de verificación de datos, o en su caso, cualquier agenda autorizada por el Gobierno Central debe declarar el contenido como falso o falsificado para evitar responsabilidad por dicho contenido (3).

 

Aplicación de la inteligencia artificial para la predicción de crímenes en Argentina

La Resolución 710/2024 del Ministerio de Seguridad de Argentina (4) marca un hito significativo en la implementación de tecnologías avanzadas para la seguridad pública. Esta normativa establece la creación de la Unidad de Inteligencia Artificial Aplicada a la Seguridad (UIAAS), reflejando una tendencia global hacia la integración de la inteligencia artificial (IA) en las estrategias de seguridad nacional.

A continuación, se resaltarán algunos puntos clave:

(1) Contexto internacional: La resolución reconoce el liderazgo de países como Estados Unidos, China y Reino Unido en la aplicación de IA en sus fuerzas de seguridad, posicionando a Argentina en esta tendencia global.

(2) Creación de la UIAAS: Esta unidad se establece bajo la Dirección de Ciberdelito y Asuntos Cibernéticos, con el objetivo de utilizar la IA en la prevención, detección, investigación y persecución del delito.

(3) Predicción de crímenes: Entre las funciones más innovadoras de la UIAAS se encuentra la utilización de algoritmos de aprendizaje automático para analizar datos históricos de crímenes y predecir futuros delitos. Esta aplicación de la IA representa un cambio paradigmático en las estrategias de prevención del delito.

(4) Análisis de datos masivos: La unidad tiene la capacidad de procesar grandes volúmenes de datos de diversas fuentes para extraer información útil, crear perfiles de sospechosos e identificar vínculos entre diferentes casos.

(5) Vigilancia y monitoreo: Se implementarán sistemas de IA para analizar imágenes de cámaras de seguridad en tiempo real, detectar actividades sospechosas e identificar personas buscadas mediante reconocimiento facial.

(6) Ciberseguridad: La UIAAS utilizará IA para identificar patrones inusuales en redes informáticas y detectar amenazas cibernéticas de manera proactiva.

(7) Análisis de redes sociales: Se emplearán técnicas de IA para analizar actividades en redes sociales con el fin de detectar amenazas potenciales e identificar movimientos de grupos delictivos.

La implementación de estas tecnologías plantea importantes desafíos éticos y legales, particularmente en lo que respecta a la privacidad y los derechos civiles. La resolución menciona que la UIAAS deberá adecuar sus funciones a las pautas y directivas establecidas en la Resolución 428/2024, lo que sugiere la existencia de un marco regulatorio para el uso ético de estas tecnologías. Sin embargo, su implementación requerirá un cuidadoso equilibrio entre la eficacia en la lucha contra el crimen y la protección de los derechos fundamentales de los ciudadanos.

 

Declaración de Cartagena de Indias para la gobernanza, la construcción de ecosistemas de inteligencia artificial (IA)

La Declaración de Cartagena de Indias (5) es el resultado de la Cumbre Ministerial y de Altas Autoridades sobre la Ética de la Inteligencia Artificial (IA) en América Latina y el Caribe, celebrada en Cartagena de Indias, Colombia. Este encuentro regional sigue la iniciativa de la primera Cumbre Ministerial sobre Ética de la IA en Santiago, Chile, en 2023, y se enmarca en el contexto del Pacto Digital Mundial de Naciones Unidas.

Ahora bien, dentro de los objetivos principales, destacan:

(I) Desarrollo de Ecosistemas para el despliegue de la IA. En primer lugar, se localiza la importancia de la cooperación donde se reconoce la necesidad de una cooperación regional para construir ecosistemas que permitan el desarrollo y despliegue de la IA de manera ética, segura, inclusiva y eficiente; posteriormente, en segundo entiende al intercambio de conocimiento y buenas prácticas para fomentar el cambio de información, buenas prácticas y recursos para desarrollar ecosistemas favorables a la IA; adicionalmente, los diagnósticos y estandarizados que comprenden herramientas como la Metodología de Evaluación de Preparación de UNESCO (RAM) y la Evaluación de Preparación para IA (AIRA) del PNUD para compartir información y buenas prácticas; y finalmente, en cuarto término, ubicamos las soluciones basadas en IA para los Objetivos de Desarrollo Sostenible (ODS) de las Naciones Unidas.

(II) Educación y uso de la IA. Dicho rubro comprende la formación y capacitación (objetivo de preparar a la fuerza laboral para el desarrollo y evolución de la IA en el ámbito laboral), los programas de capacitación y certificación (promueve el intercambio de buenas prácticas en IA para profesionales y estudiantes) y la apropiación y democratización (busca que la población de América Latina y el Caribe pueda aportar al desarrollo y uso eficiente, inclusivo, ético y responsable de la IA).

(III) Gobernanza de la Inteligencia Artificial (IA). Comprende inicialmente los marcos de gobernanza, para el desarrollo y uso de la IA de manera segura, inclusiva, ética y responsable, respetando los derechos humanos; el trabajo de articulación regional donde reconoce la importancia de la Cumbre Ministerial sobre Ética de la IA en Santiago de Chile y la Declaración de Santiago de 2023, así como la contribución de la Cumbre de Cartagena de Indias y la futura Cumbre de Montevideo en 2024; el diálogo activo como tercer punto, busca promover en foros internacionales activamente en posiciones coordinadas y defender los intereses de la región en temas de gobernanza de la IA; y la integración de particulares regionales, con la finalidad de destacar la importancia de que cualquier marco internacional de gobernanza de la IA integre las particularidades de América Latina y el Caribe.

En suma, el intercambio de conocimientos, buenas prácticas y recursos es fundamental para el desarrollo de ecosistemas favorables a la IA, permitiendo a los países de la región aprovechar al máximo el potencial de esta tecnología para cerrar brechas económicas, sociales y digitales. La educación y capacitación en temas digitales y de IA son esenciales para preparar a la fuerza laboral y a la población en general para el futuro impulsado por la IA, asegurando que todos puedan beneficiarse de esta tecnología.

 

Iniciativa con proyecto de decreto para regular el uso de la inteligencia artificial y la ciberseguridad en materia de telecomunicaciones y protección al consumidor en México 

El documento inicia con la declaración del año 2024 como «Año de Felipe Carrillo Puerto», resaltando la importancia de la figura histórica en el contexto de la lucha por los derechos y la justicia social. Se establece el marco para la discusión sobre la regulación de la IA y la ciberseguridad, enfatizando la relevancia de estas tecnologías en la vida cotidiana y su impacto en la sociedad (6).

Se sostiene que, la IA tiene un potencial significativo para mejorar la eficiencia y la calidad de vida en diversas áreas, pero también conlleva riesgos asociados a su mal uso. Se menciona un caso en Brasil donde una ley redactada por IA resultó incompatible con normativas existentes, lo que subraya la necesidad de una regulación adecuada para evitar decisiones erróneas en el ámbito legislativo.

La propuesta incluye la creación de un marco normativo que contemple:

(1) Educación y Alfabetización Digital: Se destaca la importancia de promover una cultura digital que facilite el acceso a la educación sobre IA, permitiendo a la población comprender las implicaciones de la interacción entre humanos y máquinas.

(2) Colaboración Interinstitucional: Se sugiere establecer mecanismos de colaboración entre diversas instituciones para el intercambio de datos y el cumplimiento de objetivos relacionados con la IA y la ciberseguridad.

(3) Regulación de Contenidos Generados por IA: Se plantea la necesidad de establecer políticas que regulen la generación de contenido a través de IA, asegurando que sea ética, responsable e inclusiva. Esto incluye la autorización para la creación de contenidos y la definición de requisitos y prohibiciones.

Se proponen una serie de adiciones y modificaciones a la Ley Federal de Telecomunicaciones y Radiodifusión que considera la autorización para la generación de contenidos donde exista el aseguramiento de los estándares establecidos en la normativa. En esa lógica, el artículo 9 señala:

1. a V …

V Bis. Coordinarse con la Secretaría para que, en el ámbito de sus respectivas atribuciones, establezcan las bases, las políticas públicas, así como los lineamientos que contengan los mecanismos, las estrategias y las acciones para regular el funcionamiento, el acceso, el control, las medidas de seguridad, el tratamiento, la supervisión y la vigilancia, en la creación, uso y publicación de contenidos generados por IA, con el apoyo del Consejo Consultivo, así como las Instituciones de seguridad pública y de seguridad ciudadana, y demás sectores afines […]

En cuanto a la Ley Federal de Protección del Consumidor, se considera dentro de las principales propuestas la leyenda informativa donde sugiere que todos los contenidos generados por IA, ya sea con fines informativos o publicitarios, deben incluir la leyenda «el contenido es generado por Inteligencia Artificial». Esta medida busca garantizar la transparencia y la claridad para los consumidores sobre la naturaleza del contenido que están consumiendo.

“ARTÍCULO 1.- La presente ley es de orden público e interés social y de observancia en toda la República. Sus disposiciones son irrenunciables y contra su observancia no podrán alegarse costumbres, usos, prácticas, convenios o estipulaciones en contrario.
…
…
I. a la VI.

VII. La protección contra la publicidad engañosa y abusiva, métodos comerciales coercitivos y desleales, así como contra prácticas y cláusulas abusivas o impuestas en el abastecimiento de productos y servicios.
VIII. a la XI. …”

 

Fuentes de consulta

Gartner, Inc. (2023). Las principales tendencias tecnológicas estratégicas de Gartner para 2024. Recuperado de https://www.gartner.es/es/tecnologia-de-la-informacion/insights/principales-tendencias-tecnologicas

Recuperado a partir de: https://www.drishtiias.com/hindi/daily-updates/daily-news-analysis/new-it-rules-2021

Revisión de modificaciones en las Normas Ti, 2021. Ministerio de Electrónica y Tecnología de la Información. Disponible en: https://hi.prsindia.org/files/bills_acts/bills_parliament/2023/Rules_and_Regulations_Review-Amendments_to_IT_Rules_2021(Hindi).pdf

Resolución 710/2024, Ministerio de Seguridad (2024). Disponible en: https://www.boletinoficial.gob.ar/detalleAviso/primera/311381/20240729

Ministros, Ministras y Altas Autoridades de América Latina y el Caribe. (2024, agosto 8-9). DECLARACIÓN DE CARTAGENA DE INDIAS PARA LA GOBERNANZA, LA CONSTRUCCIÓN DE ECOSISTEMAS DE INTELIGENCIA ARTIFICIAL (IA) Y EL FOMENTO DE LA EDUCACIÓN EN IA DE MANERA ÉTICA Y RESPONSABLE EN AMÉRICA LATINA Y EL CARIBE [https://www.mintic.gov.co/portal/715/articles-383990_recurso_1.pdf]. Cartagena de Indias, Colombia.

Comisión de Ciencia, Tecnología e Innovación. (2024). Propuesta de iniciativa ante el Congreso de la Unión, con proyecto de decreto, por el que se adicionan diversas disposiciones de la Ley Federal de Telecomunicaciones y Radiodifusión, así como la Ley Federal de Protección al Consumidor, en materia de inteligencia artificial y ciberseguridad. Disponible en: https://consulta.congresocdmx.gob.mx/consulta/webroot/img/files/iniciativa/IN-786-19-23-05-2024.pdf

 

***