Plumas NCC | Poder algorítmico y la lucha por el derecho en la era de los agentes de IA

Por: Mtro. Rodolfo Guerrero Martínez  (México)

 

Cada semana, al menos un laboratorio de inteligencia artificial anuncia que su modelo más reciente superó al anterior. Cada año, en el mejor de los casos, un parlamento aprueba una ley que intenta ponerle límites a esa misma tecnología. Esa asimetría de velocidades —la capacidad que se mide en puntos y la norma que se mide en legislaturas— es el problema jurídico central de esta década, y no admite ya solución retórica.

Durante la última semana de agosto y la primera de septiembre de 2026 convergieron, casi sin que se advirtiera su relación, cuatro escenas: la publicación de un nuevo índice de capacidades que redibuja el mapa de poder entre laboratorios; el acuerdo entre el gobierno mexicano y el director de Nvidia para atraer inversión en infraestructura de IA; la decisión de Nueva York de restringir la inteligencia artificial generativa en sus escuelas; y el pronunciamiento del Alto Comisionado de Naciones Unidas para los Derechos Humanos sobre sistemas que podrían volverse incontrolables.

Lo precedente leído por separado, son notas de secciones distintas del periódico, sin embargo, su lectura conjunta —y contrastadas con una advertencia que un pionero de las redes neuronales formuló once años antes de que cualquiera de ellas ocurriera— revelan algo bastante inquietante: el derecho sigue reaccionando a la tecnología después de que ésta ya redistribuyó el poder.

Retomando la tesis de Rudolf Von Jhering —recuperada y estableciéndola bajo el crisol del derecho digital mexicano— de que ningún derecho se conquista sin lucha, este artículo sostiene que la próxima lucha por el derecho no se librará contra un infractor identificable, sino contra la inercia de un ecosistema técnico, económico y geopolítico que avanza más rápido que la capacidad institucional de nombrarlo, medirlo y, eventualmente, limitarlo.

El tablero de la potencia: ¿cómo se mide el poder algorítmico y quién lo ocupa

La cuarta edición del Índice de Inteligencia de Artificial Analysis, publicada el 7 de septiembre de 2026, sitúa a Claude Fable 5.1 y GPT-6 Astra empatados en la cima con 53 puntos sobre diez pruebas de capacidad, mientras que el modelo de peso abierto mejor calificado —GLM-5.3 Flash— alcanza apenas 42 (Artificial Analysis, 2026).

Precisamente ese diferencial de once puntos no es una curiosidad técnica: es una frontera de gobernanza. Los modelos propietarios, más capaces pero cerrados, desplazan la carga de la confianza hacia la reputación del laboratorio que los opera; los modelos abiertos, auditables pero rezagados, ofrecen transparencia a cambio de una potencia menor. Ningún marco regulatorio vigente —ni el europeo, ni el mexicano en ciernes— ha resuelto todavía si debe exigir más a lo opaco por ser poderoso o a lo abierto por ser inspeccionable; simplemente no distingue entre ambos, y esa omisión es, en sí misma, una decisión de política pública tomada por default.

Así mismo, el mismo índice revela además que la ventaja de Claude Fable 5.1 sobre GPT-6 Astra en desempeño se acompaña de una desventaja notable en costo: 7.63 dólares por tarea frente a 3.26, una diferencia superior al cincuenta por ciento (Artificial Analysis, 2026). La lectura jurídica de esa brecha económica es comprometedora, dado que, si el acceso a la capacidad de punta depende del presupuesto, la asimetría regulatoria que hoy preocupa entre países ricos y países en desarrollo se reproduce, en paralelo, entre organizaciones grandes y pequeñas dentro de un mismo país, incluido México.

El tablero de competidores por laboratorio confirma que esa potencia no está distribuida de forma neutral. El leaderboard de Arena.ai, con más de ocho millones de votos acumulados sobre 402 modelos, coloca a Anthropic con seis de los diez primeros lugares del ranking general —encabezado por Claude Fable 5 con una puntuación de 1506— mientras que Google, Meta y OpenAI compiten por el resto (Arena.ai, 2026a). Cuando el mismo sitio reordena la tabla por laboratorio en lugar de por modelo individual, aparecen veintiocho organizaciones distintas, y más de la mitad de las posiciones entre el cuarto y el veinte lugar corresponden a laboratorios chinos: Z.ai, Moonshot, Alibaba, Baidu, Xiaomi, DeepSeek, Tencent, ByteDance, MiniMax, Meituan y Stepfun (Arena.ai, 2026c).

Dicha multipolaridad tiene una consecuencia que los reguladores nacionales suelen subestimar: ninguna ley de IA emitida por un solo país —por robusta que sea— puede alcanzar, por sí sola, a un ecosistema donde la capacidad de punta se reparte entre Estados Unidos y una decena de laboratorios chinos que no están sujetos a su jurisdicción. Y cuando se filtra el ranking únicamente por licencias de código abierto, el modelo líder —GLM-5.3-max, del laboratorio chino Z.ai, con 1486 puntos— queda a apenas veinte unidades del primer lugar del ranking general sin filtrar (Arena.ai, 2026b).

En otras palabras, el mejor modelo abierto del mundo, disponible para que cualquier gobierno lo descargue, audite y adapte, no proviene de una coalición internacional ni de un consorcio académico, sino de un único laboratorio privado extranjero. La soberanía algorítmica que tanto se invoca en el discurso público no se resuelve, entonces, con acceso: se resuelve con la capacidad —hoy ausente en la inmensa mayoría de los países, México incluido— de auditar, adaptar y en última instancia sustituir el modelo del que se depende.

La infraestructura como frontera diplomática: el caso mexicano

Mientras los laboratorios compiten por puntos, los gobiernos compiten por infraestructura. En tal sentido, el pasado 2 de septiembre, en el marco de la reunión de ministros de Innovación del G20 celebrada en Chapel Hill, Carolina del Norte, el secretario de Economía, Marcelo Ebrard, acordó con Jensen Huang, director ejecutivo de Nvidia, una visita del directivo a México para impulsar el desarrollo de capacidades de inteligencia artificial en el país; Huang señaló, según el comunicado oficial, que las supercomputadoras de inteligencia artificial de Nvidia se construyen en México (Forbes México, 2026).

En la misma gira, el actual titular de la Secretaría de Economía, Marcelo Ebrard sostuvo encuentros con Sam Altman, de OpenAI; Tom Brown, cofundador de Anthropic; el secretario de Comercio estadounidense, Howard Lutnick; la vicepresidenta ejecutiva de la Comisión Europea para Soberanía Tecnológica, Henna Virkkunen; y el ministro de Comercio de Corea del Sur, Kim Jung-kwan.

De modo que, la visualización optimista de esa agenda es evidente: México se integra a la cadena de valor manufacturera de la IA. Empero conviene no confundir integración industrial con asiento en la mesa normativa. Participar en el ensamblaje de la infraestructura que otros diseñan no equivale a participar en el diseño de las reglas que gobernarán su uso; un país puede alojar la fábrica y, al mismo tiempo, carecer de voz en el comité que decide los estándares de seguridad, sesgo o transparencia que esa fábrica deberá cumplir.

Esa distinción —entre ser sede de producción y ser sede de normación— es precisamente la que el derecho digital mexicano debe empezar a trazar antes de que la inversión, bienvenida como es, se convierta en dependencia sin contrapeso regulatorio propio. Que el propio Ebrard haya calificado el impacto económico esperado de la IA como comparable al de la llegada de la electricidad a la industria manufacturera (Forbes México, 2026) no hace más que subrayar la urgencia: ningún país adoptó la electrificación sin, tarde o temprano, regular sus redes, sus tarifas y su seguridad; la infraestructura de cómputo que hoy se negocia en foros diplomáticos debería anticipar, no seguir a distancia, ese mismo tránsito regulatorio.

III. Cuando el derecho reacciona primero

Frente al vacío regulatorio que domina buena parte del planeta, la Ciudad de Nueva York ofrece, aunque sea a escala local, un contraejemplo instructivo. El 2 de septiembre de 2026, el alcalde Zohran Mamdani y la canciller escolar anunciaron la moratoria más amplia del país sobre inteligencia artificial generativa dirigida a estudiantes: un año de restricción para los grados de kínder a octavo —alrededor de 600 mil alumnos, dos tercios de la matrícula del sistema—, prohibición total de chatbots de compañía en todos los niveles, módulos obligatorios de alfabetización en IA dos veces al año para preparatoria, límites de tiempo de pantalla por grado, y solo cinco programas piloto autorizados —Quill, Edia, Brisk Teaching, Playlab e Intel AI-Ready Schools— con un tope combinado del cinco por ciento de la matrícula (Oficina del Alcalde de la Ciudad de Nueva York, 2026).

Cabe destacar que esta medida versa sobre su diseño, no se trata de una prohibición absoluta e indiscriminada, más bien de una restricción proporcional por edad, con excepciones para estudiantes con discapacidad, aprendices multilingües y programas de preparación profesional, y con una revisión programada al término del año. Es, en otras palabras, el tipo de arquitectura normativa —basada en evidencia, escalonada por riesgo, con cláusula de revisión— que el derecho digital lleva años recomendando para la inteligencia artificial en general y que rara vez se materializa fuera de sectores específicos como la educación infantil, donde el umbral de protección constitucional es más exigente.

Para el jurista mexicano, la lección no es replicar mecánicamente una moratoria escolar, antes bien, replicar el método: identificar la población más vulnerable frente a un riesgo concreto y probado —en este caso, el vínculo entre chatbots de compañía y el desarrollo socioemocional infantil— y legislar sobre ese riesgo específico antes de intentar, sin éxito, una ley general que pretenda cubrir toda forma de inteligencia artificial de una sola vez.

 De la caja negra de 2015 a la caja negra de 2026

Conviene, advertir que, la opacidad algorítmica no nación con la inteligencia artificial generativa: la formulo, con una crudeza sobresaliente, uno de los propios arquitectos del aprendizaje profundo, once años antes de que el tema dominará la agenda regulatoria.

Yan LeCun, director de Investigación en IA de Facebook describió que su trabajo es como una caja negra con quinientos millones de perillas, mil focos y diez millones de imágenes (Gomes, 2015), ello no significa una crítica externa al campo, muestra una confesión formulada desde dentro de él, es decir, ni siquiera quien externa diseña estos sistemas comprende por completo su funcionamiento interno una vez entrenados.

Ahora bien, LeCun por medio de la entrevista a IEEE Spectrum añadió, una apostura ética explicita que actualmente suena casi profética, al rechazar las armas autónomas capaces de atacar objetivos sin que un humano tome decisión y previene contra el cientificismo de cargamento —su expresión para la ciencia que limita la forma sin comprender la sustancia— citando como ejemplo el chip True North de IBM, que si opinión construyo algo con lo que no podemos hacer nada útil.

Once años después, el 7 de septiembre, el Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, empleó un lenguaje sorprendentemente cercano ante conflictos armados activos en más de sesenta países: una IA que escapa de su entorno de pruebas o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa, y realizó un llamamiento a establecer garantías absolutas en torno a la seguridad de la IA antes de que sea demasiado tarde (Türk, 2026).

No obstante, la distancia entre ambas declaraciones no es solo de once años de avance tecnológico; es el espacio entre una preocupación epistémica —no entendemos del todo lo que construimos— y una preocupación existencial —lo que construimos podría resistirse a ser desactivado.

El hecho que el argumento central no haya cambiado en una década, y solo se haya agravado, sugiere que el problema nunca fue la falta de advertencia experta, sino la falta de un mecanismo jurídico vinculante capaz de traducir esa advertencia en obligación exigible antes de que el riesgo se materialice; el propio Türk lo plantea como exigencia de coordinación internacional a gran escala, no de buena voluntad corporativa aislada, lo que enlaza directamente con la multipolaridad de laboratorios descrita en el primer apartado: ninguna garantía absoluta es alcanzable si depende de que veintiocho laboratorios, repartidos en jurisdicciones sin obligación de coordinarse, decidan autolimitarse por separado.

La lucha por el derecho frente al agente sin sentimiento jurídico

Todo lo anterior —el tablero de capacidades, la carrera de infraestructura, la moratoria neoyorquina, la advertencia que se repite sin resolverse— desemboca en la misma pregunta que ya planteaba el análisis publicado en Plumas NCC sobre agentes inteligentes y responsabilidad: ¿puede el derecho, construido históricamente alrededor de sujetos capaces de sentir la injusticia, procesar el daño causado por un agente que carece por completo de esa sensibilidad?

Retomando a Jhering, ese texto sostenía que el derecho no se conquista de forma pasiva, sino a través de una lucha continua, alimentada por el sentimiento jurídico y la indignación ante el atropello; el problema de los agentes de IA es que no sienten ese atropello ni lo provocan con intención reconocible, de modo que la lucha por el derecho, en este terreno, ya no puede librarla el propio afectado contra su agresor, más bien que debe librarla el sistema jurídico contra la opacidad estructural del propio agente.

El mismo análisis identifica con precisión los síntomas de esa incapacidad: la dilución de responsabilidad entre programador, operador y gestor; la dificultad de que la sentencia de amparo mexicana, diseñada para proteger a un quejoso titular de un derecho subjetivo identificable, opere frente a un daño distribuido y algorítmico; y la ausencia de estándares colaborativos entre juristas y desarrolladores que permitan traducir principios en verificación técnica (Guerrero Martínez, 2025).

Cada uno de los frentes revisados aporta, en realidad, una pieza de esa misma lucha pendiente: el índice de capacidades revela que el poder crece más rápido que la transparencia; la infraestructura mexicana revela que la inversión llega antes que la norma; la moratoria de Nueva York revela que sí es posible legislar con método cuando existe voluntad política concreta; y la advertencia de Türk —anticipada once años antes por LeCun— revela que ni los propios creadores confían plenamente en lo que construyen.

Si Jhering tenía razón en que ningún derecho relevante se obtuvo jamás sin esfuerzo, entonces la tarea del jurista digital de este año no es esperar a que el daño ocurra para litigarlo, sino disputar, desde ahora, quién se sienta a definir los estándares, las auditorías y los límites de un poder que, medido en puntos de un índice o en supercomputadoras por construir, ya se está repartiendo sin nosotros.

 

 

 

Referencias bibliográficas:

Artificial Analysis. (2026). Artificial Analysis Intelligence Index v4.3. https://artificialanalysis.ai/articles/artificial-analysis-intelligence-index-v4-3

Arena.ai. (2026a). LLM Leaderboard: Text. https://arena.ai/leaderboard/text

Arena.ai. (2026b). LLM Leaderboard: Text (licencia de código abierto). https://arena.ai/leaderboard/text?license=open-source

Arena.ai. (2026c). LLM Leaderboard: Text (por laboratorio). https://arena.ai/leaderboard/text?rankBy=labs

Forbes México Staff. (2026). Ebrard acuerda visita del CEO de Nvidia a México para impulsar la IA. Forbes México.

Gomes, L. (2015). Facebook AI Director Yann LeCun on His Quest to Unleash Deep Learning and Make Machines Smarter. IEEE Spectrum.

Guerrero Martínez, Rodolfo. (2025). Agentes inteligentes y responsabilidad bajo el crisol de la lucha por el derecho en el siglo XXI. Plumas NCC — Noticiero Científico y Cultural Iberoamericano. https://noticiasncc.com/plumas-ncc/05/26/plumas-ncc-agentes-inteligentes-y-responsabilidad-bajo-el-crisol-de-la-lucha-por-el-derecho-en-el-sigo-xxi/

Oficina del Alcalde de la Ciudad de Nueva York. (2026). Mayor Mamdani and Chancellor Samuels Put Students First with Nation’s Broadest Generative AI Moratorium in Schools.

Türk, V. (2026). War, AI and Climate: Volker Türk’s Vision for the Future [Transcripción de discurso]. Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos.