Plumas NCC | Estado de avance en materia de Inteligencia Artificial para América Latina y el Caribe

Por: Rodolfo Guerrero Martínez (México).

La inteligencia artificial (IA) ha emergido como una tecnología disruptiva con el potencial de transformar diversos sectores económicos y sociales. En América Latina, el desarrollo y la implementación de políticas públicas y marcos regulatorios para la IA se han convertido en una prioridad para los gobiernos de la región (1). Este interés responde tanto a la necesidad de aprovechar los beneficios de la IA como a la urgencia de mitigar sus riesgos, especialmente en contextos socioeconómicos caracterizados por la desigualdad y la vulnerabilidad.

En la región, varios países han comenzado a formular estrategias nacionales y proyectos de ley específicos para regular la IA. Estas iniciativas buscan establecer principios y estándares que garanticen el uso ético y responsable de la tecnología, promoviendo al mismo tiempo la innovación y la competitividad. Por ejemplo, Argentina, Brasil, Chile, Colombia, Costa Rica, México, Perú y Uruguay han desarrollado o están en proceso de desarrollar marcos regulatorios que abordan aspectos como la transparencia algorítmica, la protección de datos personales y la responsabilidad en la toma de decisiones automatizadas.

Ahora bien, un aspecto destacado en la regulación de la IA en América Latina es la adopción de instrumentos de soft law, como las recomendaciones de la OCDE y la UNESCO sobre la ética de la IA. Estos instrumentos proporcionan directrices no vinculantes que ayudan a los países a diseñar políticas públicas coherentes y alineadas con los principios internacionales de derechos humanos. Además, iniciativas regionales como la Declaración de Montevideo han sido fundamentales para fomentar la cooperación y el intercambio de buenas prácticas entre los países latinoamericanos.

A pesar de los avances, la regulación de la IA en América Latina enfrenta desafíos significativos. La rápida evolución de la tecnología y la diversidad de contextos nacionales dificultan la creación de marcos regulatorios homogéneos y efectivos. Además, la falta de infraestructura tecnológica y de capacidades técnicas en algunos países puede limitar la implementación y el cumplimiento de las normativas. Por ello, es crucial que los esfuerzos regulatorios se acompañen de inversiones en educación, investigación y desarrollo, así como de la participación activa de la sociedad civil y el sector privado.

En el presente artículo se desarrollarán de forma general, más no limitativa, el estado de avance en materia de inteligencia artificial para América Latina y el Caribe donde destacaremos los casos de Brasil, Chile y República Dominicana.

Brasil

El Proyecto de Ley 2.338/2023 representa un hito significativo en el panorama regulatorio de la inteligencia artificial (IA) en Brasil. Este proyecto de ley surge como una respuesta a la creciente necesidad de establecer un marco normativo sólido para el desarrollo y uso de la IA en el país, en consonancia con los esfuerzos globales para abordar los desafíos éticos, legales y sociales que plantea esta tecnología emergente. En ese orden de ideas, la Autoridad Nacional de Protección de Datos Personales (ANPD) ha desempeñado un papel crucial en el análisis y comentario de este proyecto, proponiendo una estructura regulatoria integral que coloca a la ANPD como el órgano central consultivo y regulador en materia de IA.

Precisamente, en su análisis técnico del Proyecto de Ley 2.338/2023 (2), la ANPD sugiere la creación de un sistema regulatorio compuesto por cuatro instancias complementarias: un organismo regulador central, el Poder Ejecutivo encargado de las políticas públicas, organismos reguladores sectoriales, y un consejo consultivo que garantice la participación de la sociedad civil.

Dicho enfoque multifacético busca asegurar una regulación coherente y efectiva de la IA en Brasil, abordando las complejidades y el amplio espectro de aplicaciones de esta tecnología. La propuesta de la ANPD enfatiza la importancia de un enfoque centralizado para minimizar ambigüedades y garantizar una orientación clara y consistente en todos los sectores involucrados con la IA.

Paralelamente al análisis del Proyecto de Ley 2.338/2023, la ANPD ha tomado medidas proactivas para fomentar la innovación responsable en el campo de la IA. Una de estas iniciativas es la propuesta de un sandbox regulatorio para IA y protección de datos personales. Este proyecto piloto, desarrollado en colaboración con el banco de desarrollo de América Latina y el Caribe (CAF), busca crear un ambiente controlado para probar tecnologías de IA, especialmente aquellas que utilizan IA generativa y entrenan sus algoritmos con datos personales. La consulta pública realizada por la ANPD sobre este sandbox recibió numerosas contribuciones de diversos sectores, demostrando el alto interés y compromiso de la sociedad brasileña en la regulación de la IA.

Adicionalmente, el compromiso de Brasil con el avance responsable de la IA se refleja también en el Mapa de Temas Prioritarios (MTP) de la ANPD para el bienio 2024-2025. Este mapa identifica la IA y el procesamiento de datos personales como uno de los cuatro temas prioritarios, junto con los derechos de los titulares de datos, el tratamiento de datos de niños y adolescentes, y la extracción y agregación de datos.

La inclusión de la IA como tema prioritario, especialmente en relación con sistemas de reconocimiento facial y su impacto en la privacidad, subraya la importancia que Brasil otorga a la regulación y gobernanza de esta tecnología. Estas iniciativas posicionan a la ANPD como un actor clave en el debate sobre la regulación de la IA en Brasil, buscando llenar el vacío legislativo existente y promover un desarrollo tecnológico que respete los derechos fundamentales y la protección de datos personales.

Cabe resaltar que, algunas precisiones (para revelar) que entiende el proyecto de ley como promotor de la innovación responsable. Iniciando con: (I) se necesita más diálogo antes de regular, no obstante, la realidad dicta ello se utiliza para retrasar la adopción de regulaciones, brindando el desarrollo continuo de tecnologías riesgosas; posteriormente (II), la IA es demasiado nueva y disruptiva regulatoria, debido a que tiene décadas de estudio e implementación, los desarrolladores tiene capacidad de decisión sobre el diseño; (III) regular la IA perjudica a las Pymes, en este caso, estimula a las empresas por medio de obligaciones más suaves y proporcionales; (IV) la evaluación preliminar de sistema de IA es censura previa, en este contexto, busca verificar el grado de riesgo, no censurar el desarrollo; entre otros.

Chile

El Gobierno de Chile presentó en mayo de 2024 un proyecto de ley para regular los sistemas de Inteligencia Artificial (IA), reconociendo su impacto en el país. La ley (3) busca establecer un marco jurídico que promueva el desarrollo y uso ético de la IA, centrado en el ser humano, protegiendo la salud, seguridad, derechos fundamentales y los consumidores. Identifica riesgos como manipulación subliminal, daño a la honra e integridad, categorización biométrica, vigilancia masiva, y riesgos para el derecho a la igualdad.

El proyecto clasifica los sistemas de IA en cuatro categorías de riesgo: inaceptable, alto riesgo, riesgo limitado y sin riesgo evidente. Propone una gobernanza con un Consejo Asesor Técnico de IA y un Departamento de Tecnología e IA dentro del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. La ley se aplicaría a proveedores e implementadores de sistemas de IA en Chile y en el extranjero si se utiliza en Chile.

Por otra parte, la ley comprende dentro de los riesgos sectoriales asociados a la IA y su consideración en el proyecto de ley chileno, aspectos y/o rubros clave como:

(I) La manipulación subliminal y explotación de vulnerabilidades. Los sistemas de IA podrían manipular a las personas a través de técnicas que no son conscientes, lo que plantea riesgos éticos y psicológicos.

(II) Daño a la honra, integridad y desarrollo sexual. 

(III) Categorización biométrica basada en datos personales sensibles. El uso de sistemas de IA para categorizar a las personas en función de características sensibles puede llevar a discriminación y violación de la privacidad.

(IV) Identificación biométrica y vigilancia masiva. Los sistemas de IA utilizados para la identificación biométrica pueden llevar a tratamientos no autorizados de datos personales o a vigilancia masiva, lo que podría violar derechos fundamentales.

(V) Riesgos para el derecho a la igualdad ante la ley.

El Estado tiene la responsabilidad de fomentar el crecimiento y la implementación de sistemas de IA utilizando datos confiables que estén disponibles para todos, así como establecer programas de motivación. En concordancia, con proteger la sostenibilidad en el desarrollo y uso de la IA, impulsando prácticas sustentables durante todo su ciclo de vida.

República Dominicana

El progreso del estado regulatorio de la inteligencia artificial (IA) en la República Dominicana está en una fase de desarrollo, con la creación de la Estrategia Nacional de Inteligencia Artificial (ENIA) como uno de los pasos más significativos. Esta estrategia, que se espera sea lanzada mediante un decreto presidencial, busca establecer un marco normativo y político que permita la adopción ética y responsable de la IA en el país. La ENIA se enmarca dentro de la Agenda Digital 2030 y la Política Nacional de Innovación (PNI), que proporcionan las directrices generales para la innovación tecnológica y digital en la República Dominicana.

Uno de los aspectos más relevantes de la dimensión jurídica es la ausencia de una ley específica sobre IA. Aunque existen normativas relacionadas, como la Ley de Protección de Datos Personales (Ley No. 172-13), estas no abordan de manera integral los desafíos y oportunidades que presenta la IA. La ENIA contempla la actualización de esta ley para incluir requisitos de transparencia, minimización de datos y evaluaciones de impacto sobre la privacidad, aspectos cruciales para garantizar la protección de los derechos de los ciudadanos en el contexto de la IA.

En cuanto a la protección de datos y privacidad, la Ley No. 172-13 otorga a los usuarios control sobre sus datos personales, permitiendo su rectificación y eliminación. Sin embargo, esta ley no ha sido evaluada y carece de una entidad especializada en protección de datos. La ENIA busca abordar estas deficiencias, proponiendo la creación de mecanismos de supervisión y evaluación de impacto que aseguren un uso ético y responsable de la IA.

El intercambio de datos y la accesibilidad también son áreas críticas dentro de la dimensión jurídica. La República Dominicana cuenta con un Marco Nacional de Interoperabilidad Gubernamental y una Política Nacional de Datos Abiertos, que establecen lineamientos para el intercambio de información entre instituciones públicas. No obstante, estos marcos no han sido evaluados y no abordan el intercambio de datos con el sector privado, lo que limita su efectividad en un ecosistema de IA.

En suma, la capacidad del sector público para implementar y supervisar la IA es otro aspecto relevante, por ejemplo, programas como el de desarrollo y fortalecimiento de las capacidades técnicas del personal de TIC y el Proyecto “Servidores Públicos Digitales”, buscan mejorar las competencias digitales de los funcionarios públicos. Sin embargo, la ENIA deberá asegurar que estas iniciativas se integren de manera coherente y efectiva dentro del marco regulatorio para garantizar una adopción de la IA que sea ética, inclusiva y beneficiosa para toda la sociedad dominicana.

Fuentes de consulta

(1) Radiografía normativa: ¿Dónde, ¿qué y cómo se está regulando la inteligencia artificial en América Latina? (2024).

Disponible en: https://www.accessnow.org/wp-content/uploads/2024/02/LAC-Reporte-regional-de-politicas-de-regulacion-a-la-IA.pdf

(2) RODRIGO PACHECO, PROJETO DE LEI N° 2338, DE 2023 Dispõe sobre o uso da Inteligência Artificial. Disponible en: https://legis.senado.leg.br/sdleg-getter/documento?dm=9347622&ts=1701182930272&disposition=inline

(3) Proyecto de Ley. Regula los sistemas de inteligencia artificial. Chile (2024). Disponible en: https://www.camara.cl/legislacion/ProyectosDeLey/tramitacion.aspx?prmID=17429&prmBOLETIN=16821-19

(4) GURIDI, José (2024). “Estado del Ecosistema de IA en República Dominicana a través del Readiness Assessment Methodology”. Disponible en: https://ogtic.gob.do/wp-content/uploads/2024/03/Estado-del-Ecosistema-de-IA-en-Republica-Dominicana.pdf

 

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.