Plumas NCC | La humanidad en la encrucijada de la Inteligencia Artificial

Por: Mtro. Rodolfo Guerrero Martínez (México).

La irrupción y desarrollo exponencial de la Inteligencia Artificial (IA) ha colocado a la humanidad en un punto de inflexión sin precedentes. Dicha tecnología, que permea cada aspecto de nuestras vidas, desde cómo interactuamos en línea hasta las decisiones financieras que nos afectan, plantea una serie de dilemas profundos que exigen una reflexión crítica y acción proactiva. Lejos de ser una mera herramienta, la IA nos confronta con el espejo de nuestra propia existencia y los valores que deseamos preservar.

Por tanto, en el presente artículo se explorará, a través de diez preguntas clave, las complejidades de esta encrucijada, resaltando el diálogo establecido con el productor del documental intitulado IA: La Humanidad en la encrucijada en los Diálogos Internacionales sobre Derecho e Inteligencia Artificial organizado por la Sociedad Civil Coffee Law “Doctor Jorge Fernández Ruiz” en colaboración con el Supremo Tribunal de Justicia del Estado de Jalisco.

 

1) ¿Cuál es la premisa fundamental que sitúa a la humanidad en una encrucijada frente a la IA?

La premisa fundamental es que la Inteligencia Artificial, por primera vez en la historia, desarrolla la capacidad de realizar tareas cognitivas y creativas que tradicionalmente se consideraban exclusivamente humanas, superando incluso nuestras propias facultades en ciertos ámbitos.

Esta disrupción nos obliga a cuestionar qué nos hace únicos y especiales, y qué significa delegar nuestro pensamiento y nuestra toma de decisiones a las máquinas. Alejandro Guerra, productor del documental, enfatiza que esta situación pone a la humanidad ante el espejo, forzándonos a definir quiénes somos más allá de nuestra inteligencia, y a reconocer que aquello que hemos inventado comienza a eclipsar lo mejor de nosotros mismos: nuestra conciencia o inteligencia. Dicha encrucijada no es una opción, sino una realidad ineludible que demanda un cambio de paradigma y un nuevo equilibrio.

 

2) ¿Cómo se manifiestan los sesgos algorítmicos y cuáles son sus implicaciones sociales?

Los sesgos algorítmicos se manifiestan cuando los sistemas de IA replican e incluso amplifican los sesgos sociales e históricos presentes en los datos con los que fueron entrenados. Estos datos del mundo real no son perfectos y a menudo reflejan las visiones del mundo de las personas detrás de ellos, lo que puede resultar en injusticias.

Ejemplos preocupantes incluyen sistemas de reconocimiento facial con dificultades para tonos de piel oscuros o mujeres, algoritmos de contratación que discriminan por género o raza, y sistemas que exhiben sesgos racistas en decisiones cruciales, afectando miles de vidas. El impacto de estos sesgos es la perpetuación de la desigualdad y la exclusión de personas calificadas, lo que resalta la no neutralidad de los datos y algoritmos.

En ese sentido, la legislación europea busca mitigar estos riesgos exigiendo que los conjuntos de datos para entrenamiento, validación y prueba sean pertinentes, lo suficientemente representativos y, en la mayor medida posible, libres de errores y completos, prestando especial atención a la mitigación de posibles sesgos que puedan conducir a discriminación.

 

3) ¿Qué dualidad de oportunidades y desafíos presenta la IA para el desarrollo humano y profesional?

La IA presenta una dualidad de inmensas oportunidades y profundos desafíos. Por un lado, ofrece la posibilidad de resolver problemas seculares que la humanidad ha sido incapaz de solucionar en siglos, liberándonos del trabajo tedioso, pesado y rutinario.

Esto permitiría a los humanos dedicarse a tareas más significativas, a cultivarse a sí mismos, a tener más relaciones sociales y a cuidar del planeta. A nivel profesional, la IA puede aumentar significativamente la eficiencia y la productividad, asistiendo en la gestión de situaciones complejas y el desarrollo de nuevos procesos.

Sin embargo, los desafíos son igualmente significativos, incluyendo la obsolescencia humana en ciertas tareas, la manipulación y el riesgo de una deshumanización progresiva. Si delegamos en exceso nuestras capacidades de análisis, creatividad y toma de decisiones a la IA, podríamos desarrollar una dependencia que atrofiaría nuestras propias habilidades cognitivas e incluso modificaría la morfología de nuestro cerebro.

Además, existe el riesgo de que la IA sea utilizada para fines económicos y geopolíticos, concentrando el poder y generando una profunda desigualdad global, lo que podría llevar a la eliminación de las clases medias a nivel internacional.

 

4) ¿De qué manera la IA impacta la esencia humana, particularmente la conciencia y la creatividad?

La IA impacta la esencia humana al suplir cualidades como la capacidad de análisis y la creatividad, que históricamente nos han definido. Si el ser humano deja de pensar por sí mismo o de ser creativo, esas prácticas se acaban muriendo, lo que puede tener consecuencias en la morfología del propio cerebro y generar una dependencia de la máquina como oráculo que proporciona todas las respuestas. El documental subraya que la IA resuelve problemas, pero no aborda cuestiones inherentemente humanas como la empatía, la conexión o el propósito.

Incluso existen preocupaciones sobre cómo las neurotecnologías avanzadas, como las interfaces cerebro-máquina, podrían leer directamente el cerebro» o incluso «implantar sentimientos que no son propios, lo que plantea interrogantes sobre la «integridad mental, el libre albedrío y la no discriminación».

En este orden de ideas, Chile se ha posicionado como pionero en la protección de los neuroderechos, buscando legislar para proteger la integridad mental y el libre albedrío ante el avance de las neurotecnologías. De hecho, la ley europea también prohíbe técnicas subliminales o deliberadamente manipuladoras que alteren sustancialmente el comportamiento humano, mermando su capacidad de tomar decisiones informadas y causando perjuicios considerables.

 

5) ¿Por qué es crucial la transparencia y la supervisión humana en el diseño y uso de la IA?

La transparencia y la supervisión humana son cruciales para garantizar que la IA se desarrolle y utilice de forma ética, segura y centrada en el ser humano. Así mismo, la supervisión humana es esencial para entender las decisiones de la IA, auditarlas regularmente para corregir sesgos y asegurar que la tecnología impulse la justicia y la equidad. La falta de transparencia puede llevar a la manipulación masiva de la sociedad, especialmente cuando las empresas y gobiernos utilizan la IA para el control social y para incidir en la toma de decisiones de las personas.

Por otra parte, el Reglamento de IA de la UE establece requisitos específicos para la transparencia, exigiendo que los sistemas de IA de alto riesgo sean diseñados para permitir a los responsables del despliegue comprender su funcionamiento, capacidades y limitaciones.

Además, subraya que los sistemas de IA deben ser desarrollados y utilizados como una herramienta al servicio de las personas, respetando la dignidad humana y la autonomía personal, y permitiendo que sean controlados y vigilados adecuadamente por seres humanos.

Cabe resaltar que, la supervisión humana reforzada es particularmente relevante para sistemas de identificación biométrica, donde la decisión no puede basarse únicamente en la identificación generada por la IA sin la verificación de al menos dos personas físicas.

 

6) ¿Cómo abordan las legislaciones emergentes, como la de la Unión Europea y Chile, los riesgos de la IA?

Las legislaciones emergentes abordan los riesgos de la IA mediante marcos jurídicos que buscan equilibrar la innovación con la protección de los derechos fundamentales y la seguridad. En lo sucesivo se compartirán algunos casos.

(I) Unión Europea: El Reglamento de IA de la UE establece un marco jurídico uniforme para el desarrollo, la introducción en el mercado y la utilización de sistemas de IA, con un enfoque en la IA centrada en el ser humano y fiable.

Define prácticas de IA prohibidas, como las técnicas subliminales manipuladoras, la explotación de vulnerabilidades, la puntuación ciudadana y el uso de sistemas de identificación biométrica remota en tiempo real en espacios públicos con fines de cumplimiento de la ley, salvo excepciones estrictas con autorización judicial.

También clasifica los sistemas de IA en función de su riesgo (alto, limitado, mínimo), imponiendo requisitos más estrictos para los de alto riesgo en ámbitos como la sanidad, la educación, el empleo, la gestión de la migración y la administración de justicia. Este reglamento enfatiza la calidad de los datos, la transparencia, la supervisión humana y la ciberseguridad.

(I) Chile: Se ha convertido en un país pionero al estar en proceso de legislar sobre neurotecnologías e inscribir los derechos del cerebro en su Constitución. Su objetivo es proteger la integridad mental, el libre albedrío y la no discriminación en el acceso a las neurotecnologías, además de salvaguardar los datos personales para que no sean objeto de tráfico o manipulación. La preocupación radica en la capacidad de estas tecnologías para leer directamente el cerebro o incluso implantar sentimientos que no son propios, y la legislación busca una generalización de actividades intrusivas mientras se progresa en el campo.

Ambas iniciativas demuestran un reconocimiento de la necesidad de normativas claras y actualizadas para prevenir la discriminación y proteger los derechos fundamentales frente a los rápidos avances tecnológicos.

 

7) ¿Qué papel juega la educación y la conciencia social en la preparación de la humanidad para la era de la IA?

La educación y la conciencia social juegan un papel fundamental en la preparación de la humanidad para la era de la IA, siendo un llamado recurrente en el documental.

Es crucial que tanto desarrolladores como el público entiendan los riesgos asociados con la IA. La alfabetización en materia de IA debe dotar a proveedores, responsables del despliegue y personas afectadas de los conceptos necesarios para tomar decisiones informadas, comprender las oportunidades y riesgos, y estar conscientes de los posibles perjuicios.

El sistema educativo, anclado en la memorización de datos, necesita una revolución tremenda, ya que la IA tendrá acceso a vastas cantidades de información y la capacidad de sintetizar y analizar de manera brutal. En lugar de la memorización, la educación debería enfocarse en potenciar los aspectos humanos como la empatía, la creatividad, el sentido crítico y la diversidad.

De esta forma, la meta es fomentar que los individuos sean arquitectos de nuestro destino y protagonistas de la historia, en lugar de meros espectadores. Como señala el documental, el cambio comienza en uno mismo, y la conciencia individual sobre el uso de la IA puede generar un efecto dominó positivo en la sociedad.

 

8) ¿Qué implicaciones tiene la IA en el ámbito legal y cómo redefine el rol del profesional del derecho?

En el ámbito legal, la IA tendrá implicaciones transformadoras, redefiniendo el rol del profesional del derecho. La IA puede acceder a toda la información de las leyes y sentencias pasadas, realizando síntesis y análisis que tradicionalmente eran grandes cualidades de un buen abogado. Por tanto, esto significa que el sistema educativo, especialmente en derecho, debe replantearse, pasando de la memorización a potenciar otras capacidades.

Ahora bien, el nuevo rol del abogado, juez y todas las partes involucradas, debe enfocarse en los aspectos humanos: la empatía, la narrativa, la creatividad y la capacidad holística para la toma de decisiones, especialmente en casos donde hay víctimas que necesitan sentir el calor humano de una persona que siente que las está protegiendo.

Un abogado que sepa utilizar bien los recursos de la IA puede ser muy potente, ya que la IA le ahorrará muchos procesos, pero la parte humana siempre será irremplazable. No se puede delegar en una máquina que ni siente ni padece la toma de decisiones que tienen efectos legales adversos para una persona.

La legislación, como el Reglamento de IA de la UE, refuerza la necesidad de la supervisión humana en procesos de alto riesgo y el derecho de las personas a obtener explicaciones sobre decisiones que les afecten significativamente y se basen en resultados de sistemas de IA.

 

9) ¿Cómo se aborda la gestión de la incertidumbre y el control geopolítico en el desarrollo de la IA?

La gestión de la incertidumbre en el desarrollo de la IA se aborda con una mentalidad abierta, reconociendo que el futuro no está escrito y que incluso los expertos tienen dificultades para predecir su rumbo debido a la opacidad de las empresas líderes.

Se busca integrar una variedad de voces y opiniones en el debate, desde filósofos hasta expertos en neurociencia, para construir un mensaje que permita a las personas pensar por sí mismas. La idea es presentar las posibles consecuencias sin alarmar, promoviendo la cautela y la toma de decisiones conscientes en lugar de seguir ciegamente las tendencias.

En cuanto al control geopolítico, existe una batalla geopolítica para conseguir la supremacía de la IA, lo que se traduce en supremacía económica y militar, principalmente entre Estados Unidos y China. Cada país elige qué ética aplicar al uso de la IA, y mientras unos buscan la superinteligencia, otros se enfocan en el control económico y productivo.

Con respecto a Europa, busca que no gane ninguno de los dos y se posiciona como el único garante de los derechos y garantías fundamentales, reclamando su manera de ver el mundo y poniendo límites. El Reglamento de IA de la UE prohíbe explícitamente usos que van en contra de los valores de la Unión, como la manipulación y el control social, y establece que no todo lo que es técnicamente posible tiene que ocurrir. Se enfatiza la necesidad de romper los monopolios de datos y energía, que son clave en esta batalla por el control de la IA.

 

10) ¿Cuál es el mensaje central sobre la responsabilidad humana y el futuro que debemos construir con la IA?

El mensaje central es la responsabilidad humana y la necesidad de ser conscientes y arquitectos de nuestro destino frente a la IA. Comprendiendo que la IA es una tecnología muy potente que puede llevarnos a lugares maravillosos, pero también es capaz de hacernos pagar consecuencias. No debemos asumir que, porque la tecnología existe, debemos usarla sin más; en cambio, se nos invita a ir con cautela y a pensar por ti mismo antes de integrar la IA en nuestras vidas.

El futuro no está escrito y no es inevitable. Depende de nuestras decisiones y de la pequeña gotita de conciencia que cada uno cultive. Esto implica:

(I) Criterio propio: Documentarse, reflexionar y tomar decisiones informadas en lugar de dejarse llevar por la facilidad o la presión social.

(II) Ética y valores: Priorizar el bienestar del ser humano, la ética y la supervisión humana en todos los niveles, desde el diseño hasta el uso de la IA.

(III) Equilibrio: Evitar los extremos del optimismo ciego o el alarmismo, buscando un balance entre las oportunidades y los riesgos.

(IV) Protagonismo: Asumir un papel activo en la configuración de la sociedad digital, participando en la supervisión y proponiendo soluciones.

En última instancia, el cambio comienza en cada individuo, ya que tú eres mundo. Es el momento de cultivar el espíritu humano, que busca la excelencia, la autoperfección y la unidad, valores que nos diferencian de la máquina.

La IA debe ser una herramienta para servirnos a nosotros, no al revés, asegurando que los derechos y garantías fundamentales que tanto ha costado conseguir no se pierdan. Este es el llamado a la acción: a despertar y a construir un futuro donde la tecnología impulse la justicia y la equidad para todos.

 

Fuentes consultadas

UNESCO. (2022). Chile, pionero en la protección de los «neuroderechos». Recuperado de https://courier.unesco.org/es/articles/chile-pionero-en-la-proteccion-de-los-neuroderechos

Coffee Law. (2025). IA: LA HUMANIDAD EN LA ENCRUCIJADA | Coffee Law SC y Poder Judicial de Jalisco [Video]. YouTube. https://www.youtube.com/watch?v=LF7HbhBVN7M&t=3255s

Wake up Gente Consciente. (2025). IA: La Humanidad en la Encrucijada – DOCUMENTAL [Video]. YouTube. https://www.youtube.com/watch?v=aJRz7oiDcfU

Parlamento Europeo y Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.o 300/2008, (UE) n.o 167/2013, (UE) n.o 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea L, 2024/1689. Recuperado de http://data.europa.eu/eli/reg/2024/1689/oj

 

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.