Plumas NCC | El impacto psicología en el escenario progresivo de la IA

Por: Mtro. Rodolfo Guerrero Martínez (México).

La Inteligencia Artificial (IA) se ha consolidado como una fuerza transformadora en el panorama actual, cuya integración en diversos ámbitos de la vida, desde los sociales y culturales hasta los laborales y educativos, es percibida como indetenible.

Este avance progresivo de la IA, que se manifiesta en sistemas cada vez más sofisticados, plantea una serie de cuestiones fundamentales que se intersectan directamente con el campo de la psicología. Como disciplina centrada en el estudio de la mente y el comportamiento humano, la psicología examina procesos complejos como la percepción, la memoria, el aprendizaje, la inteligencia y las emociones.

Cabe destacar que, la psicología se enfrenta a la tarea de evaluar cómo estas tecnologías modifican la conducta, la percepción de la realidad y la salud mental, especialmente en poblaciones vulnerables como los menores, quienes navegan por estos entornos con implicaciones significativas para su privacidad y seguridad.

Este contexto progresivo también redefine el rol del psicólogo, cuya expertise se vuelve esencial para comprender y mitigar los posibles efectos adversos de la tecnología, desde la gestión de la atención en entornos digitales hasta las implicaciones éticas del uso de datos personales en sistemas inteligentes.

Por tanto, en el presente artículo se desempeñarán siete temas relevantes para abordar las diferentes provocaciones del impacto psicológico en el escenario progresivo de la IA por medio de interrogantes y sus respectivos ejemplos.

(1) ¿Cuál es el impacto psicológico de la IA en adolescentes a través de redes sociales impulsadas por algoritmos?

Si bien podemos advertir estudios que encuentran que la IA y las redes sociales tienen un impacto positivo en el rendimiento académico y el bienestar mental de los estudiantes universitarios, mediado por el aprendizaje inteligente (Fernández, 2023), también podemos señalar que las redes sociales, aunque diseñadas teóricamente para mejorar las interacciones y la vida social, a menudo generan impactos psicológicos adversos.

De esta forma, los algoritmos y estructuras subyacentes de las plataformas de redes sociales pueden contribuir inadvertidamente a un profundo impacto psicológico en los individuos, influyéndolos de maneras imprevistas. Esto es especialmente notable en los adolescentes, quienes se ven desproporcionadamente afectados por las personas online curadas, la presión de grupo para presentar una imagen digital perfecta y el constante bombardeo de notificaciones y actualizaciones.

La adicción a las redes sociales en menores también puede llevar a una pérdida de habilidades cognitivas y al deterioro de la salud. La búsqueda constante de agrado y refuerzo de otros a través de las redes sociales, a veces impulsada por el miedo al qué dirán, puede manifestarse como una dinámica de víctima/verdugo en el menor.

Ahora bien, un ejemplo de lo establecido líneas arriba, se relaciona con la adicción a las redes sociales en menores, donde la búsqueda de validación externa puede llevar a una pérdida de habilidades cognitivas, sugiriendo que la preocupación por la imagen online (curada por algoritmos y presión social) impacta directamente en su bienestar y funcionamiento mental.

(2) ¿Qué respuestas legislativas y acciones se están implementando para proteger a los menores en las redes sociales?

Es una realidad que las nuevas tecnologías se han integrado en la vida diaria de los menores, con un alto porcentaje utilizando internet y teléfonos móviles. Esto ha llevado a la necesidad de abordar el marco jurídico y preventivo para proteger la privacidad de este colectivo.

Con esto, la normativa aplicable, destacando el caso del Reglamento General de Protección de Datos, exige que la información sobre el tratamiento de datos personales de menores, para la cual deben dar su consentimiento, se exprese en un lenguaje fácilmente comprensible.

Sin embargo, las políticas de privacidad y condiciones de uso de las redes sociales (como Instagram, Tuenti, Facebook, Snapchat, con edad mínima de 14 años) a menudo carecen de esta adecuación al lenguaje comprensible para menores. Se destaca la importancia de la transparencia, la privacidad por defecto, la información adecuada y la protección de menores como protagonistas en la normativa europea de protección de datos.

Por otra parte, la Agencia Española de Protección de Datos (AEPD) juega un papel activo, ofreciendo un canal de atención especializada, materiales didácticos, vídeos, talleres y una guía para centros docentes para mejorar la protección y privacidad de los menores online, quienes no siempre son conscientes de su exposición.

De tal modo que los centros educativos tienen el deber de formar en el uso de las TIC, abordando riesgos y amenazas, pero también promoviendo un uso bueno y provechoso. En ese sentido, se propone incluso la implantación de una asignatura obligatoria sobre el uso de internet y redes sociales en centros educativos para hacer conscientes a los menores de los riesgos y posibilidades (Davara, 2019).

Además de las medidas educativas y preventivas, se mencionan aspectos penales en códigos como el español para abordar conductas delictivas en redes sociales y se subraya la importancia de la cooperación internacional. Los padres también tienen una responsabilidad en la educación y deben ser proactivos en la formación y prevención, incluso creando perfiles en las redes de sus hijos o monitorizando su presencia online.

Como ejemplo notable es valiosos mencionar que la AEPD, en colaboración con el Instituto Nacional de Ciberseguridad (INCIBE), ha aprobado una «Guía sobre Privacidad y Seguridad en Internet» con fichas prácticas sobre temas como la configuración de privacidad en redes sociales y la protección de datos en dispositivos portátiles.

Esto ilustra una respuesta institucional concreta para proporcionar herramientas y educación a ciudadanos, especialmente a menores y sus educadores, sobre cómo gestionar su seguridad y privacidad online.

(3) ¿Qué desafíos existen en la moderación de contenido con IA en plataformas digitales?

Es importante discutir sobre las implicaciones éticas y la privacidad de la Inteligencia Artificial, especialmente en relación con el uso de datos personales. Debido a la advertencia del riesgo de que los sistemas de inteligencia artificial puedan ser sesgados o discriminatorios, que podría afectar negativamente a ciertos grupos.

Respecto a la modelación de contenido con IA, es menester destacar la necesidad de que los desarrolladores de plataformas trabajen para crear plataformas seguras que protejan a los jóvenes de daños, acoso online y explotación (Fernández, 2023). Esto implica, de manera indirecta, la necesidad de mecanismos de moderación efectivos.

Por tanto, los desafíos identificados giran en torno a asegurar que la integración de la IA sea ética y responsable (Arora, S, 2024), lo cual es fundamental en cualquier sistema automatizado de toma de decisiones, incluida la moderación. También es fundamental desarrollar algoritmos justos e inclusivos (Cabrera, 2018), ya que la complejidad radica en garantizar que estos sistemas, que analizan grandes cantidades de datos, no perpetúen o introduzcan sesgos en las decisiones sobre qué contenido es aceptable y cuál no.

Ahora bien, el riesgo de que los sistemas de IA sean sesgados o discriminatorios como ejemplo, podría ser un algoritmo de inteligencia artificial entrenado con datos históricos que reflejan prejuicios sociales, lo que podría llevarlo a etiquetar injustamente contenido generado por ciertos grupos de usuarios como problemático o a eliminar desproporcionadamente publicaciones de comunidades minoritarias, incluso si no infringen las normas, simplemente por patrones correlacionados en los datos de entrenamiento. Evidentemente este sesgo representa un reto ético y técnico.

(4) ¿De qué manera la IA y las redes sociales impactan en las funciones cognitivas?

En principio, localizamos que la IA y las redes sociales, mediadas por el aprendizaje inteligente, tienen un impacto positivo en el rendimiento académico de los estudiantes universitarios (Fernández, 2023), lo que implica un beneficio en funciones cognitivas relacionadas con el aprendizaje.

El aprendizaje inteligente en sí mismo busca optimizar esta experiencia y adaptarse a las necesidades individuales, potencialmente mejorando la eficiencia y el desarrollo de habilidades avanzadas.

Precisamente, las herramientas de IA en educación pueden ayudar a analizar datos para adaptar el aprendizaje y brindar retroalimentación personalizada, lo que impacta en cómo se procesa y retiene la información.

Por otro lado, remarcamos la adicción a las redes sociales puede resultar en una pérdida de habilidades cognitivas donde la psicología, por ejemplo, estudia funciones cognitivas como la atención selectiva (ej. el «cocktail party effect»), la inteligencia, el procesamiento de información (incluso usando la metáfora de la computadora), y la toma de decisiones.

En base a lo precedente, inferimos algunas variables sobre cómo la IA o las redes sociales alteran directamente estas funciones a nivel biológico (más allá de la mención general del deterioro por adicción o la discusión de otros trastornos como el Trastorno por déficit de atención con hiperactividad – TDAH relacionado con neurotransmisores), y debido a ello, se sugiere una interacción compleja donde pueden tanto potenciar (vía aprendizaje inteligente) como mermar (vía adicción) las capacidades cognitivas y de aprendizaje.

Adicionalmente, reconocemos que el aprendizaje inteligente, facilitado por la IA, puede adaptarse a las necesidades individuales de cada estudiante y mejorar el rendimiento académico. Un ejemplo de esto sería un tutor virtual impulsado por IA que analiza las respuestas y el tiempo que le toma a un estudiante completar tareas, identifica áreas donde necesita más trabajo y le proporciona retroalimentación personalizada y recursos adicionales adaptados a su ritmo y estilo de aprendizaje -representando un impacto positivo de la IA en las funciones cognitivas relacionadas con la adquisición de conocimientos y el desarrollo de habilidades-.

(5) ¿Discuten de la adicción a las redes sociales y posibles cambios en la estructura cerebral?

Un aspecto relevante es reconocer el contexto de los menores de edad, y describir que puede generarse una verdadera adicción en los menores si no se toman medidas adecuadas. En ese hilo, se pueden mencionan síntomas y efectos, incluyendo la pérdida y reducción de las habilidades cognitivas y el deterioro de la salud. Así como, sugerir el miedo al juicio social o la búsqueda constante de validación online pueden contribuir a esta adicción.

Sin embargo, ante los cambios específicos en la estructura cerebral como consecuencia a la adicción a las redes sociales, y que la psiquiatría intenta equiparar los trastornos mentales con anomalías bioquímicas del cerebro (como la teoría de la dopamina en la esquizofrenia o la serotonina en la depresión), es importante señalar que ningún trastorno psiquiátrico ha sido vinculado a una alteración bioquímica concreta.

Por otra parte, se discuten brevemente diferencias neuroanatómicas o neurofisiológicas relacionadas con el sexo (De la Torre, 2018), y se mencionan áreas cerebrales vinculadas al juicio moral o al TDAH, pero no se establece una conexión entre la adicción a las redes sociales y modificaciones estructurales en el cerebro.

Un ejemplo de síntoma de adicción podría ser un menor que prioriza constantemente la interacción online sobre el contacto personal, sufre por no recibir suficientes «me gusta» o experimenta ansiedad si no puede revisar su teléfono, lo que lleva a un deterioro en sus relaciones cara a cara y en su rendimiento escolar.

(6) ¿Cómo afectan las cámaras de eco y dinámicas sociales online, exacerbadas por la IA, a la salud mental?

Se presentan las dinámicas online y sus impactos psicológicos adversos, especialmente en los adolescentes para establecer que las redes sociales, a pesar de su propósito teórico de conexión, a menudo resultan en efectos psicológicos negativos.

Esto se atribuye, en parte, a la influencia de los algoritmos y estructuras que contribuyen a un impacto psicológico profundo. Los adolescentes son particularmente sensibles a las personas online curadas y a la presión de grupo para proyectar una imagen digital perfecta.

Dichas dinámicas pueden crear un entorno donde la validación externa es crucial, generando miedo al qué dirán; buscar constantemente la aprobación y el refuerzo de otros a través de las redes sociales puede incluso ser un factor en la adicción.

Aunque un estudio encontró un impacto positivo general de las redes sociales en el bienestar mental de estudiantes universitarios (Shahzad, 2024), ARORA, destaca específicamente los efectos negativos derivados de las dinámicas sociales online, como el acoso online del que los menores deben ser protegidos. La exposición a estas presiones y la dificultad para discernir realidades a través de interacciones curadas pueden afectar la salud mental al distorsionar la percepción de uno mismo y de los demás.

Un ejemplo relacionado (relacionado al término «cámara de eco») es cómo los algoritmos de las redes sociales podrían mostrar a un adolescente solo contenido de amigos o influencers que proyectan vidas idealizadas y editadas. Esta exposición constante a una realidad curada, combinada con la presión para replicarla y la búsqueda de «me gusta» o seguidores, puede generar ansiedad, baja autoestima y una percepción distorsionada de la normalidad, contribuyendo a los impactos psicológicos adversos.

(7) ¿Cómo contribuye el Aprendizaje Inteligente (smart learning) a generar impactos positivos a través de la IA y las redes sociales en la educación?

Definimos el Aprendizaje Inteligente (smart learning) como un factor clave que media positivamente la relación entre la IA, las redes sociales y el rendimiento académico y el bienestar mental de los estudiantes. Es decir, actúa como una variable que amplifica los efectos beneficiosos de la IA y las redes sociales en ambos aspectos.

La IA en el aprendizaje inteligente también puede ser útil para evaluar el desempeño de manera más precisa, generar contenido y, de manera inclusiva, coadyuvar positivamente en la atención de estudiantes con necesidades educativas especiales (Fernández, 2023). Participar en proyectos colaborativos con herramientas de IA puede hacerlos más divertidos y eficientes, y la IA puede ayudar a encontrar respuestas y descubrir nuevos temas.

De esta forma, como ejemplo está el uso de plataformas de aprendizaje inteligente que, a través de algoritmos, analizan el progreso de un estudiante en una materia. Si detectan que el estudiante tiene dificultades con un concepto particular, la plataforma puede ajustar automáticamente la dificultad de los ejercicios, proporcionar explicaciones adicionales personalizadas, sugerir recursos de aprendizaje alternativos (vídeos, simulaciones) y ofrecer ejercicios de práctica focalizados en esa área específica hasta que el estudiante la domine. Este enfoque adaptativo, posible gracias al aprendizaje inteligente con IA, tiene un impacto positivo en el rendimiento académico al optimizar la forma en que cada estudiante aprende.

 

Fuentes de consulta

Arora, S., Arora, S., & Hastings, J. D. (2024). The psychological impacts of algorithmic and AI-driven social media on teenagers: A call to action. Recuperado a partir de: https://scholar.dsu.edu/cgi/viewcontent.cgi?article=1222&context=ccspapers

CABRERA RODRÍGUEZ, Ana (2018). Protección de datos: Especial incidencia en los menores y el uso de las redes sociales. Véase en: https://riull.ull.es/xmlui/bitstream/handle/915/7438/Proteccion%20de%20datos%20Especial%20incidencia%20en%20los%20menores%20y%20el%20uso%20de%20las%20redes%20sociales.pdf?sequence=1

Davara Fernández De Marcos, L. (2019). Menores en Internet y Redes Sociales: Derecho Aplicable y Deberes de los Padres y Centros Educativos Breve referencia al fenómeno Pokémon Go. https://www.aepd.es/sites/default/files/2019-10/menores-en-internet.pdf

DE LA TORRE, Vicente Caballero. (2018). La psicología en 100 preguntas. Ed. Ediciones Nowtilus, S.L. Recuperado a partir de https://www.nowtilus.com/descargas/FragmentoPsicologiaen100p.pdf

FERNÁNDEZ DE SILVA, María del Rosario (2023). La Inteligencia Artificial en Educación. Hacia un Futuro de Aprendizaje Inteligente.  Véase en: https://dialnet.unirioja.es/servlet/libro?codigo=926431

Shanmugasundaram, M., & Tamilarasu, A. (2023). The impact of digital technology, social media, and artificial intelligence on cognitive functions: A review. Frontiers in Cognitive Science, 2, 1203077. https://doi.org/10.3389/fcogn.2023.1203077

Shahzad, M. F., Xu, S., Lim, W. M., Yang, X., & Khan, Q. R. (2024). Artificial intelligence and social media on academic performance and mental well-being: Student perceptions of positive impact in the age of AI. Heliyon, 10(8), e29523. https://doi.org/10.1016/j.heliyon.2024.e29523

 

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.