Por: Mtro. Rodolfo Guerrero Martínez (México).

La cuarta revolución industrial, impulsada por la fusión de los mundos biológico y digital a través de tecnologías como la inteligencia artificial (IA), está transformando radicalmente el orden sociocultural, económico y jurídico de la humanidad.

Este proceso en curso nos obliga a pensar desde un estado de precariedad, pues la IA introduce sistemas cognitivos con capacidad de autoaprendizaje que adquieren autonomía e independencia de sus propios creadores. Ante este panorama, el constitucionalismo clásico, diseñado para las sociedades decimonónicas, se enfrenta al desafío de construir un nuevo contrato social basado en un constitucionalismo en clave digital, cuya misión primordial sea evitar la deshumanización y la opresión, defendiendo la libertad, los derechos y la autonomía individual frente a las nuevas configuraciones del poder.

En este contexto de transformaciones vertiginosas, la obra de OTTO BACHOF, ¿Normas constitucionales inconstitucionales?, adquiere una relevancia crítica. BACHOF (2010) nos invita a profundizar en la esencia de la Constitución, más allá de su mera forma escrita. Su distinción entre la Constitución en sentido formal (el texto escrito) y la Constitución en sentido material (el conjunto de normas que regulan las estructuras básicas del Estado y la posición de los ciudadanos) es crucial. Más importante aún es su concepto de derecho metapositivo, una norma superior a la ley positiva, que vincula incluso al poder constituyente.

Precisamente, este derecho metapositivo, que puede estar o no incorporado en el texto constitucional, tiene un efecto meramente declarativo al ser positivado, es decir, la Constitución lo reconoce, no lo crea. La violación de este derecho metapositivo, o de principios fundamentales que emanan de él (como la dignidad humana y los derechos humanos inviolables), puede convertir una norma constitucional en inconstitucional, incluso si está formalmente incluida en el texto fundamental.

Por lo tanto, la jurisprudencia constitucional, como defensora de la Constitución, posee la facultad de controlar y declarar la invalidez de ciertas normas, aun cuando estas sean formalmente constitucionales.

De esta manera, dicha perspectiva de un orden jurídico superior y de valores inherentes se vuelve indispensable al analizar la naturaleza de la inteligencia artificial y, en particular, de los agentes inteligentes.

En este artículo se analizará cómo la inteligencia artificial transforma el constitucionalismo y presenta los desafíos que esto implica para la protección de los derechos fundamentales y la democracia. Se toma como referencia la obra de OTTO BACHOF para explorar la necesidad de principios superiores que guíen la Constitución frente a los riesgos de la automatización cognitiva, como la manipulación informativa, los sesgos algorítmicos y el posible surgimiento de autoritarismos digitales.

 

La naturaleza de la inteligencia artificial y sus agentes

Las Grandes Modelos de Lenguaje (LLMs) han demostrado capacidades notables, pero son fundamentalmente estáticos, incapaces de adaptar sus parámetros internos a tareas novedosas o dominios de conocimiento dinámicos. La emergencia de los agentes auto-evolutivos representa un cambio de paradigma, ya que están diseñados para adaptarse, razonar, actuar y evolucionar continuamente en tiempo real, aprendiendo de datos, interacciones y experiencias.

Un sistema de agentes se compone de un LLM subyacente, información de contexto (como el prompt y la memoria), y un conjunto de herramientas disponibles. Los agentes pueden evolucionar de diversas maneras, incluyendo la optimización de modelos, el refinamiento de la memoria y la creación o maestría de herramientas.

Cabe resaltar que, existen agentes generalistas, diseñados para múltiples tareas en distintos contextos (como ChatGPT o Copilot), y agentes especializados, enfocados en funciones concretas como la revisión contractual o el análisis de cumplimiento normativo.

Un concepto clave en el razonamiento de los LLMs es el Chain-of-Thought (CoT) prompting, que les permite descomponer problemas complejos en pasos intermedios, produciendo salidas que se asemejan al razonamiento humano. Sin embargo, investigaciones recientes sugieren que el razonamiento CoT puede ser más superficial que genuino, funcionando como una forma sofisticada de coincidencia de patrones estructurados.

En consecuencia, su efectividad está ligada a la distribución de los datos de entrenamiento, y su rendimiento se degrada significativamente cuando se le empuja más allá de esta distribución. Esto subraya que los LLMs no son razonadores con principios, sino simuladores de texto que se asemejan al razonamiento.

 

El desafío de la IA para el estado de derecho y la democracia

La irrupción de la IA y los agentes inteligentes plantea amenazas fundamentales al Estado Constitucional y la Democracia. El miedo subyacente radica en la posibilidad de perder el control del mundo y de la historia, construidos a imagen y semejanza de nuestra racionalidad, si la creación vence a su creador en su propio terreno.

De tal modo que la capacidad de la IA para el almacenamiento y procesamiento masivo de información, junto con su potencial autonomía, puede concentrar el conocimiento como poder en manos de unos pocos, lo que representa una ventaja política significativa. En lo sucesivo se detallarán algunos aspectos clave:

(1) Manipulación de la información y la verdad. La IA puede exacerbar el problema de la falsedad en internet. La capacidad de generar contenidos que, aunque plausibles, no se corresponden con la realidad (alucinaciones), o de producir imágenes falsas convincentes, es una amenaza inédita por su escala masiva y su facilidad de uso por cualquier individuo.

En este escenario se advierte que la IA puede reemplazar a los buscadores, presentando un fuerte obstáculo para distinguir la información verdadera de la falsa. Además, la democracia, que es diálogo y depende de la libertad de pensamiento y expresión, se vería socavada si se altera la capacidad de reconocer la realidad fáctica, bastante problemático, entendiendo a la verdad, como correspondencia con la realidad objetiva, siendo un principio innegociable en democracia.

(2) Autonomía y sesgos. La autonomía humana implica la capacidad de autolegislarse y tomar decisiones morales. Sin embargo, la IA carece de esta autonomía en un sentido ético; funciona con algoritmos que, voluntaria o involuntariamente, pueden repetir los sesgos de sus creadores o de la información con la que fueron entrenados.

(3) Riesgo de autoritarismo digital. Representa un riesgo concreto debido a que la inteligencia artificial puede influir de manera profunda en el debate público, desviando la atención, modificando el sentido de las discusiones o controlando el acceso a la información, sobre todo si existe concentración en pocas manos.

Este escenario genera condiciones que propician el fortalecimiento de sistemas antidemocráticos y facilitan el surgimiento de sociedades cerradas, donde las personas ven limitada su autonomía. Además, la difusión masiva de datos falsos a través de estos sistemas constituye una estrategia de control social más rápida y eficiente que los medios tradicionales. Así, si la opinión pública se ve manipulada y pierde calidad, la democracia puede verse amenazada en su esencia, ya que su legitimidad depende de un debate plural y bien informado.

 

 La respuesta normativa hacia una IA guiada por principios

La necesidad de enfrentar estos desafíos ha dado lugar a enfoques como la IA Constitucional, una metodología innovadora desarrollada por Anthropic. Este enfoque busca asegurar que los sistemas de IA operen de acuerdo con principios normativos explícitos, similar a cómo una constitución rige una nación.

En ese sentido, la IA Constitucional se basa en la definición de valores y principios de alto nivel que guían el comportamiento de la IA, promoviendo acciones beneficiosas y minimizando resultados perjudiciales. Para ello, utiliza técnicas como la autosupervisión y el entrenamiento adversarial, además de una cuidadosa selección de datos, cuyo objetivo es crear sistemas de IA que sean útiles.

De tal forma que, la integración de la IA Constitucional busca una salvaguarda ética, garantizando que la IA funcione en consonancia con los derechos y valores fundamentales, y un cumplimiento legal, especialmente en ámbitos sensibles como el poder judicial y la formulación de políticas. Al hacer que los principios rectores de la IA sean transparentes y accesibles, se fomenta la confianza pública y la rendición de cuentas.

En ese marco, un experimento colaborativo entre Anthropic y el Proyecto de Inteligencia Colectiva demostró que una constitución pública redactada por ciudadanos enfatizaba la objetividad, la imparcialidad y la accesibilidad, y que los modelos entrenados con ella mostraban un sesgo reducido en comparación con los entrenados con la constitución interna de Anthropic.

Por tanto, esto sugiere que la participación pública puede mitigar el sesgo y promover la equidad en los sistemas de IA, donde dicho enfoque de IA Constitucional, al buscar la alineación de valores a través de principios normativos explícitos, se alinea con la idea bachofiana del derecho metapositivo, traduciendo valores superiores en mecanismos de control para la IA.

 

Recomendaciones y el rol del constitucionalismo digital

Para mitigar los riesgos y asegurar que la IA potencie, en lugar de socavar, el Estado de Derecho y la Democracia, se requiere una legislación proactiva y una reconfiguración del constitucionalismo:

En primer lugar, urge una legislación que garantice la libertad de uso de la IA por parte de los ciudadanos y, además, regule el reconocimiento de información no corroborada, advirtiendo oportunamente a los usuarios. Asimismo, debe identificar responsabilidades y sanciones para quienes manipulen la información de manera nociva; por lo tanto, resulta esencial prohibir tanto la manipulación conductual como el desarrollo y uso de armas letales autónomas.

Por otro lado, las legislaciones deben fomentar y exigir de forma progresiva la transparencia algorítmica mediante código abierto (open source), lo que permitirá conocer su funcionamiento y riesgos. Igualmente, es crucial que las decisiones políticas y jurisdiccionales realizadas con IA estén bajo la supervisión y decisión final de un funcionario humano.

Adicionalmente, los Estados no deben poseer monopólicamente la creación, uso o administración de la IA; en consecuencia, en la sociedad debe promoverse el policentrismo de medios de comunicación y sancionar cualquier práctica monopólica u oligopólica sobre la información.

Finalmente, dada la naturaleza cambiante de esta revolución, el nuevo constitucionalismo debe convertirse en un diálogo permanente. Por ende, se requiere una reformulación de la democracia representativa que incorpore nuevas tecnologías para complementar el sistema clásico. Cabe destacar que la prensa juega un papel vital en la democracia; si es reemplazada por meros contenidos informativos, el espacio crítico desaparecerá y, en ese contexto, quienes ostenten el poder decidirán la agenda y la opinión pública.

 

Conclusión general

En conclusión, los agentes inteligentes, caracterizados por su capacidad de auto-evolución y la ilusión de razonamiento autónomo, no solo desafían la ontología humana —es decir, nuestra concepción de lo que significa ser y decidir—, sino que también introducen retos operativos significativos para el funcionamiento de la democracia.

Este trabajo ha analizado cómo la IA Constitucional, al definir valores y principios rectores explícitos, busca alinear el comportamiento de la inteligencia artificial con ideales fundamentales como la libertad, la verdad, la justicia y la autonomía. Se ha destacado la importancia de mecanismos como la autosupervisión, el entrenamiento adversarial y la selección cuidadosa de datos, así como la participación ciudadana en la redacción de constituciones públicas para mitigar sesgos y promover la equidad en los sistemas de IA.

Además, se ha argumentado que la supremacía del derecho metapositivo, según la visión de BACHOF, y el control judicial sobre las propias normas constitucionales, constituyen herramientas esenciales para enfrentar estos desafíos emergentes. Así como el constitucionalismo tradicional evolucionó para limitar el poder político, hoy debe reconfigurarse para encauzar el poder de la inteligencia artificial, exigiendo una legislación proactiva, la transparencia algorítmica, la prohibición de prácticas monopólicas y la supervisión humana en decisiones críticas.

Finalmente, se concluye que el constitucionalismo en la era digital no es un hecho consumado, sino un proyecto dinámico y en constante construcción, que requiere la participación informada, activa y permanente de la sociedad para salvaguardar el futuro democrático y garantizar que la IA potencie, y no socave, el Estado de Derecho y la democracia.

 

FUENTES DE CONSULTA

Acosta Yparraguirre, E. M. (2024). La inteligencia artificial y el fin del Estado Constitucional y la Democracia… ¿o no? Eunomía. Revista en Cultura de la Legalidad, 27, 137–154. https://doi.org/10.20318/eunomia.2024.9004

Aljovik, R. (2024). Inteligencia artificial constitucional colectiva: alineando un modelo de lenguaje con la opinión pública. Latenode. https://latenode.com/es/blog/collective-constitutional-ai-aligning-a-language-model-with-public-input

Anthropic. (2024). Anthropic enterprise ebook digital. Anthropic. https://assets.anthropic.com/m/66daaa23018ab0fd/original/Anthropic-enterprise-ebook-digital.pdf

Bachof, O. (2010). ¿Normas constitucionales inconstitucionales? (L. Álvarez Álvarez, Trad.). Palestra Editores. (Obra original publicada en 1951).

Boonstra, L. (2025). Prompt Engineering. Google. http://biblioteca.unisced.edu.mz/bitstream/123456789/3732/1/TechAI-Goolge-whitepaper_Prompt%20Engineering_v4.pdf

OpenAI. (2025). A practical guide to building agents. OpenAI. https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf

OpenAI. (2025). Identifying and scaling AI use cases. OpenAI. https://cdn.openai.com/business-guides-and-resources/identifying-and-scaling-ai-use-cases.pdf

PwC España. (2025). Agentes de IA. PwC España. https://www.pwc.es/es/newlaw-pulse/legaltech/agentes-ia.html

Risso, G. (2024). La IA desafía la inteligencia constitucional. Universidad de San Isidro. https://usi.edu.ar/noticias/la-ia-desafia-la-inteligencia-constitucional/

Rootstack. (2025). Inteligencia artificial agente: la nueva tendencia para el sector gubernamental. Rootstack. https://rootstack.com/es/blog/agentes-ia-para-portales-de-gobierno

Zhao, C., Tan, Z., Ma, P., Li, D., Jiang, B., Wang, Y., Yang, Y., & Liu, H. (2025). Is Chain-of-Thought Reasoning of LLMs a Mirage? A Data Distribution Lens. [Preprint].