Plumas NCC | Regulación de la Inteligencia Artificial e inicio del Comité de Ética, Estado de Derecho, Inteligencia Artificial y Derechos Humanos

Por: Rodolfo Guerrero Martínez (México).

En el marco del Instituto de Transparencia, Información Pública y Protección de Datos Personales del Estado de Jalisco (ITEI) el jueves 7 de marzo del año 2024, se celebró la sesión del Consejo Consultivo de Transformación y Cultura Digital de la Sociedad Civil Coffee Law “Doctor Jorge Fernández Ruiz” (1), donde presentaron el desarrollo de los trabajos de iniciativa con proyecto para regular la inteligencia artificial, además de otros temas como el gobierno digital y la ciberseguridad (2).

Además, hicieron apertura de las actividades del Comité de Ética, Estado de Derecho, Inteligencia Artificial y Derechos Humanos, las cuales encuentran su inspiración en el primer borrador del Convenio Marco sobre inteligencia artificial, democracia y estado de derecho, dado a conocer por el Comité sobre Inteligencia Artificial (CAI) el día 18 de diciembre del año 2023, cuya finalidad es asegurar que las actividades dentro del ciclo de vida de los sistemas de IA sean plenamente consistentes con los tres rubros antes referidos.

Los trabajos del Comité de Ética, Estado de Derecho, Inteligencia Artificial y Derechos Humanos cuentan con el respaldo de aliados estratégicos institucionales, universitarios y tecnológicos; y comprenderá entre sus ocupaciones el diagnostico, estudio, seguimiento y establecimiento de propuestas legislativas – innovativas en materia de tecnologías disruptivas. La primera de ellas es la identificación de los deepfakes o ultrafalsos.

Por otra parte, en la sesión del Consejo Consultivo se integraron a destacados lideres de la industria tecnológica, autoridades académicas, juristas y expertos en tecnológica a nivel nacional e internacional como:

En primer término, a nivel nacional se integraron la Maestra Ana Isabel Cortés Coronado, secretaria ejecutiva del Consejo Ciudadano de Seguridad del Estado de Jalisco; el Doctor Sergio Arturo Guerrero Olvera, Magistrado Presidente de la Sala Regional en Guadalajara del Tribunal Electoral del Poder Judicial de la Federación; el Doctor Ricardo Narváez Martínez, rector de la Universidad Virtual del Estado de Guanajuato (UVEG); el Doctor José Alfonso Cruz Ramos, coordinador de investigación en el Instituto Jalisciense de cancerología; y el Maestro Isaac Ávila Ahumada, founder & parther en Who, make the Greatest.

Ahora bien, a nivel internacional se incorporaron como miembros: el Doctor Rodolfo Teosne Mendizabal, presidente emérito de ENATIC y director del Máster de Derecho Digital de la Universidad de Barcelona-IL3; el Doctor Alfonso Peralta Gutiérrez, Juez en el Poder Judicial y codirector del Máster Digital Law and Business Tech EDIAE; y el Doctor Paul Enrique Franco Zamora, presidente del Tribunal Constitucional Plurinacional de Bolivia.

En el presente artículo daremos a conocer algunas de las participaciones compartidas por los invitados de honor, actualmente nuevos integrantes de Consejo Consultivo señalados en lo precedente.

La regulación de la Inteligencia Artificial en México es una deuda pendiente: Mtro. Rodolfo Guerrero Martínez

La Inteligencia artificial (IA) no es un tema de moda, es una obligación, una responsabilidad enorme en la ruta de generar una sociedad del conocimiento, y no solamente de la información, que permita de una vez por todas, la homologación adecuada de los marcos jurídicos vigentes en México, que nos garantice la cultura digital como piedra angular dentro de los derechos humanos de última generación o derechos digitales.

En ese sentido, el Estado Mexicano debe facilitar y dar reconocimiento con ello, la importancia de la IA como herramienta, y no como sustituto o reemplazo de los seres humanos, sino el exhorto a ser mejores, contemplando la inteligencia artificial como un factor que optimice los procesos que desarrollamos en las actividades profesionales y personales (3).

De esta forma, ubicamos más de 30 iniciativas presentadas en México, de las cuales ninguna ha prosperado, varias de ellas relacionadas con la tipificación de delitos que se puedan desempeñar mediante esta tecnología, sin embargo, es valioso considerar que, la innovación jurídica no es exclusiva del Congreso de la Unión, sino también de los Congresos de cada entidad federativa de la República Mexicana, por tanto, Jalisco por ejemplo, puede impulsar el comienzo de la tutela efectiva de los derechos digitales, además de motivar el establecimiento de los consensos que materialicen una Ley General de Inteligencia Artificial.

Cabe resaltar que, en la sesión del Consejo Consultivo hemos compartido sobre los avances de la iniciativa con proyecto de Ley Federal de Gobierno Digital e Inteligencia Artificial, misma que estará presentándose para Jalisco, Estado de México y otras entidades federativas que brinden apertura.

La inteligencia artificial debe ser regulada: Dr. Rodolfo Tesone Mendizabal

«Para mí es un absoluto privilegio todo un honor, honor extensible a todo el equipo que presido dentro de la órbita de ENATIC, la asociación de referencia de derecho digital en el ámbito Estatal y también en el ámbito europeo, y desde España, en Barcelona enviamos nuestro más fraternal y afectuoso saludo a todas las autoridades presentes a la organización del evento y por supuesto a este Consejo Consultivo de Transformación y Cultura Digital de Coffee Law de máxima relevancia que está adoptando un rol absolutamente trascendente en el momento en el que nos encontramos».

Muy buena la introducción del Maestro Rodolfo, porque efectivamente estamos no en una época de cambios, no en una época de grandes disrupciones (las cuales son una realidad), sino que estamos directamente en un cambio de era, si nosotros echamos la vista atrás y miramos por el retrovisor en lo que ha sido la evolución de la humanidad los grandes cambios que han sido propiciados a lo largo de la historia de la humanidad han venido dados, o bien por grandes revoluciones, movimientos migratorios, así como conquistas.

Definitivamente, estamos en un momento en el cual, en los últimos 5 años se han propiciado de manera simultánea y a la vez, estos tres grandes focos de cambios en la humanidad, como son la cuarta Revolución Industrial, que viene impulsada por tecnologías absolutamente disruptivas como la Inteligencia artificial, la robótica, el metaverso, la neurotecnología comprendiendo también de neuroderechos.

Además de nanotecnología, realidad inmersiva o virtual, nanociencia, objetos inteligentes, drones, en definitiva, una serie de tecnologías que mezcladas con big data, con cloud computing, con computación cuántica, realmente nos asoman a una barandilla hacia el futuro de muy difícil predicción, y en un escenario de absoluta incertidumbre lo cual, como tecnología y el resto de ellas, ya desde el fuego, pasando por el invento de la rueda, la imprenta, la máquina de vapor o la energía atómica, donde el ser humano ha demostrado que una tecnología no es buena o mala en sí misma, sino que lo será dependiendo del uso que seamos capaces de otorgarle.

De esta forma es que, la Inteligencia artificial con carácter previo ya desde el año 2021 en la Unión Europea, tuvimos bien claro que había que equilibrar en la balanza, la innovación y el lógico desarrollo de esa tecnología, que nos puede atraer cantidad de oportunidades, de ventajas y de mejoras para tener un mundo equilibrado con algo que es fundamental.

En la Unión Europea hemos sido firmes defensores de mantener en el epicentro del desarrollo de ese entorno tecnológico y digital, a los derechos fundamentales de la persona, que las personas no seamos producto, no seamos mercancía, sino que seamos ciudadanos sujetos de derechos, también de obligaciones, en ese nuevo entorno digital.

Por lo tanto, aquí lo que cabe plantear desde una perspectiva de lo que es la Inteligencia artificial es, ¿en qué tablero de juego jugamos?  y esto, si lo extrapolamos a lo que es un contexto geopolítico, donde lamentablemente en estos momentos la multilateralidad en el seno de las Naciones Unidas no está realizando las funciones que le presuponemos todos, y que como juristas entendemos que debería llevar a cabo, dado a que Europa es el primer continente que a nivel geopolítico ha tomado la iniciativa de renunciar por un lado, al modelo americano, para ponderar a las empresas y a las grandes multinacionales, y  poder desarrollar de alguna manera esas tecnologías.

Adicionalmente localizamos como segundo ámbito, es decir, en el otro lado geopolítico, el modelo chino, el cual es un modelo ampliamente estatalizado, donde se va a poner por encima siempre el poder y la soberanía por parte del Estado, en contraposición o en detrimento en este caso, a los derechos fundamentales y a los derechos y libertades individuales de los ciudadanos. De manera que, en Europa hemos decidido optar: “no por el camino fácil, no por el camino más rápido, pero sí desde luego estamos convencidos de que es el camino más sostenible, el camino más adecuado, y que de alguna manera es el que tenemos que en primera instancia evangelizar”. 

Es el motivo por el cual, yo tuve la satisfacción en julio del año pasado en la sede de las Naciones Unidas de presentar la carta de derechos digitales, documento que en primer lugar promulgamos en España, el mes de julio del 2021, como la primera carta de derechos digitales a nivel mundial.

Posteriormente, esa iniciativa transcendió en lo que es el contexto de la Unión Europea, para promover en este caso, la Carta Europea de Derechos Digitales en diciembre del 2022, con lo cual bueno fue un peldaño también realmente trascendental, a partir de ahí además, vino la Carta Iberoamericana de Principios y Derechos Digitales suscrita en el año 2023, en la Cumbre iberoamericana de Santo Domingo firmada por los 23 países miembros también evidentemente México, y de alguna manera, hemos construido un contexto armónico donde entre todos estemos de acuerdo en defender esos derechos fundamentales.

Respecto a lo establecido, en septiembre del 2024 en la Cumbre de futuro, en la sede de las Naciones Unidas están el orden del día confirmar los Objetivos de Desarrollo Sostenible (ODS) de Cara a la Agenda 2030, los cuales deberán ser un punto para apuntalar la carta de derechos digitales y se convierta en una brújula, un vector, un objetivo fundamental en toda la parte regulatoria de la Inteligencia artificial.

Finalmente, deseo establecer que en el debate entre si se ¿tiene que regular la Inteligencia artificial? Para mí no hay duda, existe una cuestión aquí de soberanía, de gobernanza, hay una cuestión de normas, y los que somos abogados, y juristas tenemos bien claro que, “hemos llegado al Estado de civilización de paz, y de convivencia en el que nos encontramos, por cierto, lamentablemente a pesar de guerras, teniendo que vivir y teniendo que sufrir, eso lo hemos conseguido gracias a normas”.

A partir de lo dicho, podemos decidir si se tiene que regular, ¿cómo se tiene que regular? ¿De qué manera, cuáles son? Sobre todo, esto me parece fundamental, y es una lección que traslado en este caso a este foro, que esas regulaciones a título declarativo no se quieren en una mera declaración de intenciones, sino que realmente sean transformadoras para la defensa de derechos fundamentales, y para eso, es necesario que haya un acompañamiento presupuestario, una dotación de recursos para las autoridades de control, y se pondere específicamente, todo el capítulo, todo el apartado de eficacia y garantía de derechos, esto es absolutamente fundamental.

Debido a que, como ha pasado con otras normativas, el Reglamento General de Protección de Datos de la Unión Europea o la Regulación de Protección de Datos, de la cual en este foro de transparencia, de protección de datos, estoy seguro de que son plenamente sensibles y conocedores, es fundamental que los recortes y los abusos, y las infracciones que se están cometiendo un derecho fundamental, y en un bien jurídico a proteger como, el derecho a la autodeterminación informativa, no lleguen las sanciones ni los recortes al cabo de 5 años al cabo de 10 años, o al cabo de 15 años como está sucediendo en la Unión Europea, con grandes plataformas como Meta, Google o Amazon.

La regulación de la IA no impide la innovación: Dr. Alfonso Peralta Gutiérrez 

La necesidad de la regulación de la Inteligencia artificial no impide la innovación, en ese sentido, ponemos en relieve los trabajos que están realizando en la comisión del senado colombiano, por ejemplo, estableciendo que no solo está regulando Europa la Inteligencia artificial, es cierto que el Reglamento Europeo, el AI Act, sea probablemente la norma reguladora de IA más importante, “el efecto Bruselas” que se denomina, ese poder regulatorio de Europa que afecta a 450 millones de habitantes, es muy importante pero también, hay 60 países con iniciativas reguladoras en materia de Inteligencia artificial. Entre ellos está Estados Unidos de Norteamérica, la Executive Order del presidente Joe Biden e incluso China, que en los años 2021- 2022 publicó una normativa en materia de gestión de recomendación de algoritmos o de disposiciones sobre la administración de síntesis profunda.

Podemos decir que, más de medio globo o casi el globo entero está preocupado por la Inteligencia artificial, todos sabemos los motivos, la IA presume tener la capacidad de duplicar las tasas de crecimiento económico para 2035, que puede añadir incluso un trillón de euros a la economía global. Además de establecer todos sus beneficios, también localizamos sus riesgos: la opacidad, la caja negra, los sesgos, la imprevisibilidad y los fallos que repercuten a todos los ámbitos.

La cuarta revolución industrial afecta a todos los ámbitos de una manera transversal tanto desde salud, desde justicia, desde materia electoral, plataformas digitales, educación, inteligencia artificial generativa, etcétera. En esa lógica, ha venido para quedarse y se hace necesaria esa regulación por varios motivos como ser un sector de riesgo. Incluso Sam Altman, el presidente de OpenIA, de ChatGPT llegó a decir junto con otros expertos que había riesgo de acabar con la humanidad a través de la inteligencia artificial, lo cual es una exageración, no obstante, al ser la IA algo tan potente, que supuestamente puede terminar con la humanidad, ¿cómo no vamos a regularla?

Lo cierto es que posteriormente, cuando se le enseñó la propuesta Reglamento Europeo de Inteligencia Artificial y además otra serie de reglamentos a Sam Altman, que se encuadran en el ámbito europeo tales como el Reglamento de Servicios Digitales, y el Reglamento de Mercados Digitales llegó a decir que OpenIA saldría de Europa.

Actualmente no ha salido de Europa, sin embargo, la exigencia de una regulación es consecuencia de un ámbito de riesgo, lo cual implica que no sea una regulación ad hoc o una regulación a medida. La regulación dependerá de la soberanía de cada uno de los estados, y en este caso de Europa.

Es una actividad de riesgo, con lo cual todas las actividades de riesgo han de estar reguladas: ámbito ferroviario, aeronáutico, nuclear, privacidad, ciberseguridad, ¿por qué? Porque de lo que se trata es de mitigar los riesgos, es de analizar los riesgos, y es de dotar de una mayor protección. Estimo que la regulación de la Inteligencia artificial va a suponer una mejor calidad de la IA, al igual que a nivel de ciberseguridad existe mucho margen de mejora.

Notas

(1) Sesión de Consejo Consultivo de Transformación y Cultura Digital. Véase en: https://youtu.be/71mzgDq67Ss

(2) Ciberseguridad en México: Proyecto de Ley para el Estado de Jalisco. Colegio de Contadores Públicos en Guadalajara, 2024. Véase en: https://t.ly/Lu1vc

(3) GUERRERO MARTÍNEZ, Rodolfo. Inteligencia Artificial y Ética. Tribunal Electoral de la Ciudad de México 2024. Véase en: https://t.ly/b9zX2

(4) Coffee Law SC. https://coffeelawmx.academy/

(5) Coffee Law SC. https://coffeelaw.tech/

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.