Plumas NCC | Una visión normativa y transversal en la aplicación de las tecnologías

Por: Rodolfo Guerrero Martínez (México).

Dentro del marco de las actividades de los 200 años del Estado de Guanajuato se realizó el encuentro Grandeza UVEG “Fortalecimiento humano y Federalismo” organizado por la Universidad Virtual de dicha entidad federativa el pasado jueves 7 de diciembre del año 2023, en el cual se desempeñó el panel intitulado “Tecnologías aplicadas en la educación” donde participaron la Maestra Emiliana Rodríguez, Co-fundadora de Made For Joy XR y Chair of Mexico de Global Dignity; el Maestro Einnar Escamilla Moreno, Country Manager de British Council EnglishScore, Mexico; la Licenciada Cynthia Itzel Trejo Sánchez, Gestora de Proyectos para América Latina, y su servidor.

Cabe resaltar que, el evento nacional en comento tuvo como sede el Teatro Juárez de la Ciudad Capital del Estado de Guanajuato, teniendo la asistencia presencial de más 400 personas y más de 300 virtuales durante las transmisiones en vivo emitidas por las redes sociales digitales de la institución educativa.

En el presente artículo desarrollaremos la tecnología aplicada a la educación desde una visión normativa y transversal (1) por medio de las reflexiones compartidas en el panel de expertos donde participaron autoridades académicas e investigadores.

Protección de los derechos humanos en el mundo digital

A partir de este primer rubro compartiremos las reflexiones aportadas por su servidor en el panel referido en lo precedente. De tal suerte que, el inicio nos invita a tratar la relevancia sobre la protección de los derechos humanos en el mundo digital. 

En ese sentido, el conocimiento de documentos como las Cartas de los Derechos Digitales es primordial, debido a que representan una declaración de cómo debemos entender las nuevas figuras jurídicas en el contexto de la hipertecnologización. Aunque no sean vinculantes esta clase de iniciativas, resultan clave en los trabajos legislativos tanto para los países en vías de desarrollo como de primer mundo en aras de hacer reconocimiento idóneo y tutela efectiva de los derechos humanos (DH).

Entre los documentos de esta esfera ubicamos la Carta Portuguesa de Direitos Humanos la Era Digital, la Carta de Derechos de la Persona en el Entorno Digital en México, la Carta Peruana de Derechos Digitales, la Carta Magna Digital de Chile y por supuesto la Carta Iberoamericana de Principios y Derechos en Entornos Digitales tras los trabajos hechos en la XXVIII Cumbre Iberoamericana en República Dominicana los días 24 y 25 del mes de marzo de este año.

Por otra parte, visualizamos ciertos casos relevantes que ponen en relieve lo mencionado en los párrafos anteriores, los enumeramos a continuación.

(1) Caso Estado de Nueva Jersey vs Francisco Arteaga (Discriminación algorítmica). Involucra cuestiones de identificación y el uso de tecnología de reconocimiento facial en el proceso. La defensa argumentó que la identificación de Arteaga como el perpetrador se basó en una serie de personalizaciones y/o señalamientos fuera de la corte que no cumplieron con los estándares adecuados, incluida la falta de grabación de conversaciones y la falta de una declaración de confianza por parte de los testigos.

Añadiendo al caso, la Electronic Frontier Foundation (EFF) y la Asociación Nacional de Abogados de Defensa Criminal (NACDL) presentaron un escrito informando a la corte sobre cómo ocurren errores en los sistemas de reconocimiento facial.

(2) Caso Simone W. vs Facebook (Herencia Digital). En el Tribunal Regional de Berlín se resuelve el caso donde los padres tras el fallecimiento de su hija solicitan tener acceso a su cuenta de Facebook, ello al tener interés legítimo de conocer la información que contiene, al contar con su carácter de representantes y donde fungen como herederos del patrimonio digital.

(3) Caso Emotiv vs Girardi (Neuroderechos). Demuestra la necesaria comprensión de nuevas figuras jurídicas como la identidad digital personal, privacidad mental y libre albedrio para la defensa de los neurodatos como datos personales sensibles y la necesidad de aplicación de derechos de cancelación, oposición y rectificación (2).

La inteligencia Artificial y su aplicación en el sector gubernamental

Un hito en la historia de la inteligencia artificial podemos localizarla a través de la conferencia impartida por John Mccarthy, Marvin Minsky y Claude Shannon donde acuñaron el término en la Universidad de Dartmouth en el año de 1956, definiéndola como la ciencia e ingenio de hacer máquinas inteligentes especialmente programas de cálculo inteligentes.

No obstante, la concepción establecida, también podemos entender a la inteligencia artificial como mecanismos basados en hardware y software dotados de la capacidad para la toma de decisiones de manera asistida o no asistida para el desempeño de tareas previamente programadas o de forma autónoma. Entre las cuáles ubicamos componentes y áreas aplicación como procesamiento del lenguaje natural, consulta inteligente de base de datos, la robótica, sistemas expertos, vehículos autónomos, percepción y reconocimiento de patrones, etcétera.

Ahora bien, en el sector gubernamental resulta interesante conocer la aplicación de la IA (3), por medio de diferentes casos concretos más no limitativos, de manera que comenzamos con la preparación de informes presupuestales, dirección o realización de pilotos, tabulación de datos fiscales y seguimiento de gastos.

En un segundo grupo contamos con la IA como herramienta para la detección de fraude, emisión de patentes y para la protección de derechos de propiedad intelectual, la atención de desastres y la minería de datos.

Y en un tercer escenario de aplicaciones al análisis de reportes históricos, retrasos en atención reclamaciones y drones.

Cabe resaltar que dentro de las nuevas obligaciones para la construcción de estos sistemas inteligentes expertos se deberán aplicar auditorias algorítmicas, en ese sentido, son valiosas las siete directrices para garantizar la transparencia elaboradas por la Asociación Estadounidense de la Computación (ACM), las puntualizamos:

1. Awareness – Concienciación
2. Access and redress – Impugnación y compensación
3. Accountability – Responsabilidad
4. Explanation – Transparencia
5. Data Provenance – Procedencia de los Datos
6. Auditability – Auditabilidad
7. Validation and Testing – Validación y Testing

Regulaciones éticas que gobiernen el desarrollo y uso de la inteligencia artificial

En diversos encuentros, publicaciones y conversaciones siempre resaltamos un punto, ¿este año la Unión Europea (UE) aprobará la Ley con la cual buscan regular la Inteligencia Artificial? Incluso en lo personal, mencione el pasado 7 de diciembre que muy probablemente tendríamos una respuesta del Parlamento Europeo, ello en mi participación del evento Grandeza UVEG. En ese orden de ideas, se aprobó por la UE la AI Act o Ley de Inteligencia Artificial el viernes 8 de este mes, que pretende dotar de certeza jurídica y equilibrio entre el fomento de innovación y el respeto a los derechos humanos. A continuación, destacamos algunos de los rubros de este documento.

(I) Sistemas prohibidos. Categorización biométrica: que utilizan características sensibles, ejemplos: creencias religiosas, orientación sexual, origen étnico, raza; Extracción no dirigida de imágenes faciales de internet o imágenes de CCTV -tecnología de videovigilancia- para generar bases de datos de reconocimiento facial; y puntuación social basada en comportamiento social o características personales.

(II) Sistemas de alto riesgo. Aquellos que representen una amenaza y/o vulneración a la salud, la seguridad, medio ambiente, derechos humanos en general. Ejemplos: influir en resultados electorales y el comportamiento de los electores, por tanto, advirtiendo de nuevas obligaciones como prácticas de ciberseguidad, de explicabilidad, evaluaciones de impacto, entre otras.

(III) Sistemas generales de IA (GPAI). Deberán cumplir con evaluaciones, mitigación de riesgos sistémicos, elaborar pruebas contradictorias e informar sobre incidencias graves, así como garantizar la ciberseguridad e informar sobre la eficiencia energética.

Con respecto a la ética en materia de inteligencia artificial, es indispensable recordar el documento realizado por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) publicado en el año 2022 intitulado “Recomendación sobre la ética de la inteligencia artificial”, en el cual se señala que los Estados Miembros elaboren estrategias nacionales y regionales en materia de IA y consideren la posibilidad de adoptar formas de gobernanza “blanda”, por ejemplo, un mecanismo de certificación para los sistemas inteligentes expertos y el reconocimiento mutuo de su certificación, con arreglo a la sensibilidad del ámbito de ampliación y al impacto previsto en los derechos humanos, el medio ambiente y los ecosistemas.

Además de mencionar sobre las modificaciones de la legislación nacional existente o generar una nueva legislación nacional en materia de sistemas de IA que se ajuste a las obligaciones de los Estados Miembros en materia de DH y libertades fundamentales a lo largo del ciclo de vida de estos sistemas.

Precisamente, diferentes países están en el camino que hoy la Unión Europea ha materializado -parcialmente, ya que el acuerdo aún requiere ser ratificado y se estima que entrará en vigor en el año del 2026- para regular a la IA y establecer dichas medidas éticas a partir del documento de la UNESCO comentado en lo precedente. Compartimos algunos ejemplos:

(1) México. Resaltamos la iniciativa con proyecto de Ley para la Regulación Ética de la Inteligencia Artificial para los Estados Unidos Mexicanos donde se contempla, por ejemplo, en su capítulo III De la Ética en el Desarrollo, Creación y Uso de la IA y la Robótica, artículo 15 que cualquier entidad pública o privada se obliga a brinda información sobre el uso del IA o la robótica al Consejo Mexicano en las materias comentadas -nuevo ente que propone este documento de iniciativa-.

Adicionalmente, el artículo 16 reza sobre el respeto de la protección de datos personales, derechos humanos, propiedad industrial, intelectual quedan amparados confirme a las leyes en la materia durante el cumplimiento en esta ley. En cuanto al artículo 17 se establece que el desarrollo, creación, investigación y uso de la Inteligencia Artificial y la Robótica en los Estados Unidos Mexicanos, se realizará con los principios fundamentales de apego a la ética, el respeto a los derechos humanos, la perspectiva de género, y sin discriminación alguna por origen étnico, raza, religión, condiciones sociales y económicas.

(2) Brasil. Por medio del Proyecto de Ley 2338/2023 se establecen practicas prohibidas en materia de IA donde encabezan las técnicas subliminales para inducir a la población a comportarse forma peligrosa, la clasificación jerárquica de las personas, y aplicaciones de alto riesgo en temas de empleo como reclutamiento, evaluación, promoción y control.

(3) Chile. A través del Proyecto de Ley sobre Robótica, Inteligencia Artificial y Tecnologías Conexas para regular sistemas de IA se resaltan las prácticas de alto riesgo como acceso a prestaciones sociales o calificación crediticia, evaluación previa en casos de delitos; y actuación prohibida como la identificación biométrica en espacios públicos (con excepciones a temas de seguridad pública).

Notas

(1) Panel de expertos “Tecnologías aplicadas en la educación”, Universidad Virtual del Estado de Guanajuato (UVEG), 2023. Véase en: https://t.ly/8SWCh

(2) Guerrero Martínez, Rodolfo (2023). Neuroderechos, su obligado reconocimiento y protección. https://noticiasncc.com/plumas-ncc/09/11/plumas-ncc-neuroderechos-su-obligado-reconocimiento-y-proteccion/

(3) Conceptos fundamentales y uso responsable de la Inteligencia Artificial en el sector público, Corporación Andina de Fomento (CAF), Banco de Desarrollo de América Latina, 2022. Véase en: https://t.ly/8EBMp

(4) Carta Portuguesa de Direitos Humanos na Era Digital. Véase en: https://diariodarepublica.pt/dr/legislacao-consolidada/lei/2021-164870244

(5) Carta de Derechos de la Persona en el Entorno Digital en México. Véase en: https://www.infocdmx.org.mx/doctos/2022/Carta_DDigitales.pdf

(6) Carta Magna Digital de Chile. Véase en: https://t.ly/lGGRk

(7) Carta Iberoamericana de Principios y Derechos en Entornos digitales. Véase en: https://t.ly/ZTnwB

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.