Plumas NCC | Principios rectores de la Inteligencia Artificial

Por: Mtro. Rodolfo Guerrero Martínez (México).

La regulación de la IA debe abordar no solo los riesgos técnicos, sino también los riesgos sociales y éticos. Debemos garantizar que la inteligencia artificial se desarrolle y se implemente de manera responsable y que no exacerbe las desigualdades existentes ni perpetúe los prejuicios y discriminaciones (VALLOR, 2016).

En el presente rubro se establece la importancia de los principios rectores de la IA bajo la máxima de la ética, debido a que conlleva a los sistemas a garantizar que su diseño e implementación estén basadas con los valores y normas sociales más amplios.

Cabe resaltar que, la Universidad de Utrecht (en países bajos, Holanda) ha planteado lo denominado como “Unboxing the black box of IA” (1), es decir, el fenómeno de la caja negra en la esfera de la inteligencia artificial, donde se remarca el problema del tranvía y su dilema ético, versando en lo siguiente:

Están en la parada del tranvía y de repente notan un tranvía acelerando hacia cinco personas que no son conscientes de su aproximación. También ven una segunda pista que solo tiene una persona. Creando entonces interrogantes como, ¿qué harían? ¿elegirían desviar el tranvía a la segunda vía para salvar a las cinco personas a costa de una vida?

Ahora en el contexto de las tecnologías digitales o también referidas como exponenciales, devienen en la aparición de autos autónomos experimentales los cuales transforman la realidad de este problema, representando el desafío de determinar la programación adecuada para los sistemas de IA en situaciones críticas de vida o muerte.

Conforme a esto, en el año 2021 la Organización de las Naciones Unidas para la Educación, la Ciencias y la Cultura (UNESCO) público un documento intitulado “Recomendación sobre la ética de la inteligencia artificial” (2), en el cual brinda directrices fundamentales como la elaboración de estrategias nacionales y regionales en materia de IA y consideren la posibilidad de adoptar formas de gobernanza “blanda”, por ejemplo, un mecanismo de certificación para los sistemas de IA y el reconocimiento mutuo de su certificación, con arreglo a la sensibilidad del ámbito de aplicación y al impacto previsto en los derechos humanos, el medio ambiente y los ecosistemas.

En segundo término, se localiza el documento intitulado “GOBERNANDO CON INTELIGENCIA ARTIFICIAL: ¿ESTÁN LOS GOBIERNOS LISTOS?” publicado en el año 2024 por la Organización para la Cooperación y el Desarrollo Económicos (OCDE) se incluyen como principios generales de la Inteligencia Artificial:

1.-Crecimiento inclusivo, desarrollo sostenible y bienestar.

2.-Inversión en investigación y desarrollo de inteligencia artificial.

3.-Fomento de un ecosistema inclusivo que permita la IA.

4.-Respeto por los derechos humanos y los valores democráticos, incluyendo la equidad y la privacidad.

5.-Transparencia y explicabilidad en los procesos de inteligencia artificial.

6.-Robustez, seguridad y fiabilidad en los sistemas de IA.

7.-Responsabilidad en el diseño, desarrollo y uso de la IA.

8.-Creación de un entorno de gobernanza y políticas que favorezcan la inteligencia artificial.

9.-Desarrollo de capacidades humanas y preparación para la transición en el mercado laboral.

10.-Cooperación internacional para promover una IA confiable y ética.

Con respecto a lo señalado en las líneas superiores, también debe reconocerse como tercer punto, la Guía Práctica de la dirección de transformación digital del Banco de Desarrollo de América Latina y el Caribe (CAF) en 2024, intitulado “Diseño de políticas públicas de inteligencia artificial. Desarrollo de habilitadores para su implementación en América Latina y el Caribe”. En la cual se reconocen diferentes elementos clave para los países, tales como gobernanza IA, integración, buena gestión y disponibilidad de calidad.

Adicionalmente, se establecen conceptos como Ciudadanía Digital e IA donde promueva y fortalezca el uso responsable en la Administración Pública, concretamente, en el desarrollo de servicios públicos y el mejoramiento de procesos internos. 

Por otra parte, en cuarto término, se tiene lo realizado por la Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital (3) y las Directrices éticas para una IA fiable del Grupo independiente de expertos de alto nivel sobre inteligencia artificial.

Los siete principios que contiene son: acción y supervisión humanas; solidez técnica y seguridad; gestión de la privacidad y de los datos; transparencia; diversidad, no discriminación y equidad; bienestar social y ambiental, y rendición de cuentas. Sin perjuicio de los requisitos jurídicamente vinculantes del presente Reglamento y de cualquier otro acto aplicable del Derecho de la Unión, esas directrices contribuyen al diseño de una IA coherente, fiable y centrada en el ser humano, en consonancia con la Carta y con los valores en los que se fundamenta la Unión.

En ese orden de ideas, como quinto punto, es importante la elaboración de códigos de conducta en virtud del presente y actual Reglamento de Inteligencia Artificial de la Unión Europea, que en capítulo X “Códigos de Conducta y Directrices”, artículo 95 enfatiza que

Los códigos de conducta podrán ser elaborados por proveedores o implantadores individuales de sistemas de IA, por organizaciones que los representen o por ambos, incluso con la participación de cualquier parte interesada y sus organizaciones representativas, incluidas las organizaciones de la sociedad civil y el mundo académico. Los códigos de conducta podrán abarcar uno o más sistemas de IA, teniendo en cuenta la similitud de la finalidad prevista de los sistemas pertinentes (4).

Por su parte, los derechos a la intimidad y a la protección de datos personales deben garantizarse a lo largo del ciclo de vida (comprendiendo esencialmente la determinación del alcance del proyecto, la fase de diseño y el despliegue en producción) del sistema de IA. En ese sentido, las medidas adoptadas por los proveedores para garantizar el cumplimiento de estos principios podrán incluir no solo la anonimización y el cifrado, sino también el uso de una tecnología que permita llevar los algoritmos a los datos y el entrenamiento de los sistemas de IA sin que sea necesaria la transmisión entre las partes ni la copia de los datos brutos o estructurados, sin perjuicio de los requisitos en materia de gobernanza de datos establecidos en el presente Reglamento.

Particularmente, la aplicación de los principios de diseño universal a todas las nuevas tecnologías y servicios debe garantizar el acceso pleno e igualitario de todas las personas a las que puedan afectar las tecnologías de IA o que puedan utilizar dichas tecnologías, incluidas las personas con discapacidad, de forma que se tenga plenamente en cuenta su dignidad y diversidad inherentes. Por ello es esencial que los proveedores garanticen el pleno cumplimiento de los requisitos de accesibilidad, incluidas la Directiva (UE) 2016/2102 del Parlamento Europeo y del Consejo y la Directiva (UE) 2019/882. Los proveedores deben garantizar el cumplimiento de estos requisitos desde el diseño. 

El Reglamento sigue un enfoque basado en el riesgo, lo que significa que cuanto mayor sea el riesgo de causar daños a la sociedad, más estrictas serán las normas. Los sistemas de IA de alto riesgo, como los utilizados en infraestructuras críticas, educación, empleo, servicios esenciales, aplicación de la ley, etc., estarán sujetos a obligaciones estrictas, como evaluaciones de riesgo adecuadas, calidad de los conjuntos de datos, trazabilidad, documentación detallada, supervisión humana apropiada, alto nivel de robustez, seguridad y precisión. Esto garantizará que estos sistemas de alto riesgo sean accesibles e inclusivos para todas las personas, incluidas las personas con discapacidad, aplicando los principios de diseño universal.

Conforme a lo expresado, es valiosos recordar que los principios establecidos en el artículo 4, apartado 1, de la Directiva (UE) 2016/680, destaca que el tratamiento sea lícito y leal, la transparencia, la limitación de la finalidad, la exactitud y la limitación del plazo de conservación. 

Adicionalmente, al tratase de autoridades nacionales competentes deben ejercer sus poderes de manera independiente, imparcial y objetiva, a fin de preservar los principios de objetividad de sus actividades y funciones y garantizar la aplicación y ejecución del presente Reglamento de IA. Los miembros de estas autoridades deben abstenerse de todo acto incompatible con el carácter de sus funciones y estar sujetos a las normas de confidencialidad establecidas.

Otro elemento que también debiera considerarse, son los actos de ejecución incluirán principios comunes sobre las siguientes cuestiones: a) los criterios de admisibilidad y selección para participar en el espacio controlado de pruebas para la IA; b) los procedimientos para la solicitud, la participación, la supervisión, la salida y la terminación del espacio controlado de pruebas para la IA, incluidos el plan del espacio controlado de pruebas y el informe de salida; c) las condiciones aplicables a los participantes.

En este sentido, bajo el estado de las cosas desempeñado en el Estado Mexicano, se ubican diversos principios fundamentales sobre la IA la propuesta elaborada por la Agenda Nacional de la Inteligencia Artificial en México (2024-2030) (5).

1.-TRANSPARENCIA: Promover la transparencia en todas las etapas del desarrollo de tecnologías basadas en IA, desde su diseño hasta su implementación, para garantizar la rendición de cuentas y la confianza en su uso.

2.-ÉTICA Y RESPONSABILIDAD SOCIAL: Aplicar principios éticos y de responsabilidad social en el desarrollo de tecnologías basadas en IA, con el objetivo de promover la transparencia y la rendición de cuentas en su aplicación.

3.-PROTECCIÓN DE DATOS: Establecer políticas de privacidad, protección de datos y rendición de cuentas en el desarrollo, adquisición e implementación de software y tecnologías emergentes basadas en IA.

4.-GARANTÍA DE DERECHOS HUMANOS: Asegurar que las tecnologías basadas en IA respeten y protejan los derechos humanos, aplicando principios regulatorios en el ámbito digital y promoviendo la inclusión y la equidad.

5.-NO DISCRIMINACIÓN: Evitar sesgos y discriminación en las decisiones tomadas por algoritmos de IA, garantizando la equidad, imparcialidad y protección de datos en su aplicación.

 

Nota y fuentes de consulta

El presente artículo considera parte de un rubro próximo a publicarse en una obra para el Poder Judicial del Estado de Jalisco, en la cual participo.

(1) Universidad de Utrecht, Unboxing the black box of AI, véase en: https://www.uu.nl/en/organisation/in-depth/unboxing-the-black-box-of-ai

(2) Recuperado a partir de: https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

(3) El Parlamento Europeo, el Consejo y la Comisión proclaman solemnemente la siguiente Declaración conjunta sobre los Derechos y Principios Digitales para la Década Digital. Véase en:  https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:32023C0123(01)

(4) EU Artificial Intelligence Act. Recuperado a partir de https://artificialintelligenceact.eu/es/article/95/(5) PROPUESTA DE AGENDA NACIONAL DE LA INTELIGENCIA ARTIFICIAL PARA MÉXICO (2024 – 2030). Alianza Nacional de Inteligencia Artificial (ANIA). Disponible en: https://www.ania.org.mx/

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.