La perspectiva de género, vital en la Inteligencia Artificial para brindar seguridad

Jalisco, México.

La Inteligencia Artificial tiene dilemas éticos, uno de ellos es que puede violentar la privacidad de los usuarios, pero hay algo de lo que poco se habla: que los sistemas perpetúan las disparidades de género.

Lucía Tróchez, Directora de C Minds, planteó considerar las perspectivas de género en el diseño, uso, desarrollo y despliegue de sistemas de Inteligencia Artificial en la conferencia «IA y Perspectiva de Género», en Talent Land.

Según el SAS Institute, el machine learning es un método de análisis de datos que automatiza la construcción de modelos analíticos. Es una rama de la Inteligencia Artificial (IA), basada en la idea de que los sistemas pueden aprender de datos, identificar patrones y tomar decisiones con mínima intervención humana.

Una muestra de la cercanía con el machine learning es Alexa. A este dispositivo le pedimos una canción o que nos agregue un ítem a nuestra lista de compras, poco a poco esta va acumulando tu información para acoplarse a lo que necesitas.

La IA tiene dilemas éticos por diversas razones como infringir la privacidad de las personas, quitar puestos de trabajos, pero esta tecnología puede funcionar también en beneficio y enfocarse más hacia reducir las brechas de género, puede ser una opción.

«Es un hecho que si la Inteligencia Artificial y la automatización no se aplican con perspectiva de género, es probable que refuerce estereotipos. Por ejemplo, si buscamos en Google los mayores líderes de la historia, aparecerán hombres», explicó Lucía Tróchez. ¿Cómo podemos pensar nuestro rol social? ¿Cómo nos acercamos a la realidad? Los sesgos de pensamiento en la IA son más comunes de lo que creemos.

¿Cómo deberíamos diseñar nuestras instituciones y leyes para representar a diferentes sectores de la sociedad? La información está siendo atrapada por los sistemas de información, pero debemos manejarla para no replicar los errores. “Es importante que al desarrollar los sistemas de IA se ponga cuidado con qué replicamos desde el desarrollo del algoritmo, la implementación y la evaluación”, sobre todo esta última es importante aplicarla para saber de qué manera impacta en la sociedad, explicó Lucía.

Un ejemplo de la falta de perspectiva de género en la programación, fue cuando Microsoft lanzó un robot para conversar con su audiencia y «se volvió misógino en 4 horas. Ese mismo día lo desactivaron. Tenemos que brindar a la sociedad espacios seguros», añade Lucía.

La disparidad de género puede reflejarse desde otros espacios: «Las mujeres y niñas tienen 25 por ciento más que los niños, de probabilidad de no saber programar. Apoyar programas que enseñen esto, es fundamental para aumentar la paridad dentro de los códigos e IA«, explica.

En Amazon, utilizaban un sistema para calificar currículums y por datos históricos, los hombres eran más contratados. Este sistema rechazaba a las mujeres porque, según los datos de internet que omitían la participación de las mujeres, creía que no eran capaces de hacer lo mismo.

Amazon revisó su programación de IA, y con el sobreajuste, nivelaron los datos históricos para evitar un sesgo en la contratación de su personal. Hay un sinfín de ejemplos de cómo la falta de perspectiva de género afecta los sistemas del mundo.

Principios éticos en la programación

Lucía Tróchez, mencionó que C Minds se apega a los principios éticos que la UNESCO recomienda: como usar lenguaje neutral o hacer énfasis en cómo se hacen los programas. Además apoya que la no discriminación es fundamental y que esta se vea reflejada en la creación de los algoritmos y en su evaluación para erradicar decisiones con sesgos misóginos. 

También, en la protección de los datos se percibe una brecha: “debería existir una gobernanza de los datos, seguridad, donde el género quepa, para que los datos de niñas y mujeres no estén vulnerables. La difusión de sus datos es más probable que la de los hombres”, explicó la Directora de C Minds.

«El resultado final afecta a los usuarios, como los ejemplos anteriores, pero eso podría prevenirse a través de saber manejar los datos históricos en los códigos. Deberían revisar las políticas éticas mundiales para implementarlas en los sistemas de IA. Si eres un hombre programador, una mujer programadora puede orientarte para saber cómo opera el código», concluye Lucía Tróchez.

Y no sólo en el ámbito del aprendizaje se viven las desigualdades, también: “Las brechas salariales existen en muchos lugares del mundo. Las mujeres pueden hacer exactamente lo mismo que los hombres; sin embargo, sus salarios son menores y deberían ser compensadas de la misma forma”, expresó.

Potencialidades de IA en género

El porcentaje de mujeres que participan en la programación es del 22 por ciento en todo el mundo. Pero hay proyectos interesantes por resaltar que dan esperanza en los sistemas de IA con ética y perspectiva de género.

En el caso de la violencia contra la mujer, Lucía explicó que existe un acompañamiento cuando tienes un caso de agresión sexual o violencia intrafamiliar. Si no te sientes segura de compartir tu experiencia, este programa simula comunicación de otro ser humano y brinda soluciones o te da pautas para saber qué hacer como si se lo contaras a alguien más. Esta Web App de Canadá utiliza procesamiento natural del lenguaje.

Debemos tener un balance amplio dentro de las aplicaciones, aproximarnos a la ética, para cerrar esta brecha de género. La IA genera un riesgo de tener impactos negativos, sobre todo en las mujeres porque las oportunidades son enfocadas a los hombres, la cuestión aquí es ¿Cómo podemos hacer que estos riesgos disminuyan?

Por: Leslie Almanza / NCC Iberoamérica.