Plumas NCC | Filosofía sin excusas frente a la tentación de subcontratar la ética a los algoritmos

Por: Mtro. Rodolfo Guerrero Martínez (México)

Hay una imagen que recorre discretamente los debates sobre inteligencia artificial: la del filósofo como lujo. Se le convoca si hay tiempo, una vez que el producto ya funciona, en el momento en que el calendario de lanzamiento permite una pausa breve para las consideraciones éticas. Esta imagen es errónea, y sus consecuencias son serias. La filosofía no es el postre del banquete tecnológico; es la cocina misma, el lugar donde se decide que ingredientes son admisibles, que significa que un resultado sea bueno y quien responde cuando algo sale mal.

La urgencia no es abstracta, en 2020, un algoritmo británico desarrollado por Ofqual (Office of Qualifications and Examinations Regulation) decidió las calificaciones de cientos de miles de estudiantes que no pudieron presentar sus exámenes debido a la pandemia. El sistema predijo notas basadas en el historial de cada escuela: los alumnos brillantes de colegios con bajo rendimiento acumulado fueron penalizados sistemáticamente, reducidos a una estadística grupal que borraba su trayectoria individual.

En ese momento, la filosofía no estaba en la sala, ¿sus preguntas – que le debemos a cada persona como fin en sí misma? – se recordaron solo después del escándalo (Mougan y Brand, 2024). Por consiguiente, en este artículo se argumenta que ese orden debe invertirse, y lo hace a través de cuatro ejes.

 I. El problema de los conceptos: nombrar bien antes de regular

Antes de decidir como regular la IA, conviene preguntarse si entendemos de que hablamos cuando la nombramos. Términos como inteligencia, agencia y autonomía circulan en documentos técnicos, debates parlamentarios y portadas de revistas con significados que divergen de manera sustantiva. La confusión no es académica: crea políticas erróneas y atribuye a los sistemas capacidades que no poseen, o no les atribuye las que si tienen (Spiegel, 2024).

Luciano Floridi (2024) propone una distinción que ilumina el problema, resaltando que la IA no debería entenderse como una forma de inteligencia – lo cual implica conciencia, intencionalidad y estados mentales -, sino como una nueva forma de agencia sin inteligencia. Un sistema de aprendizaje profundo interactúa con su entorno, modifica su comportamiento según los datos y ejecuta objetivos definidos externamente, pero no delibera, no tiene metas propias ni comprende en ningún sentido pleno lo que hace. Este matiz no es decorativo: un agente sin inteligencia no puede ser juzgado con los mismos criterios morales que uno con ella, y las responsabilidades que genera recaen de forma distinta sobre quienes lo diseñan, despliegan o regulan.

El caso de los vehículos autónomos ilustra la trampa, cuando se dice que un coche toma decisiones, se mezcla la terminología filosófica – que implica deliberación y responsabilidad – con la técnica, que solo describe como un algoritmo mapea percepciones en acciones. El resultado es que nadie pregunta con precisión quien decide y quien responde, porque la retórica del sistema autónomo oscurece esa cadena. Clarificar estos conceptos es, en su esencia, tarea filosófica.

II. Lo que el algoritmo no puede dudar

En 2023, Kellin Pelrine, un jugador aficionado de Go, derroto catorce veces seguidas al mejor sistema de IA del mundo usando el mismo truco, fueron catorce veces. Si aquel sistema hubiera tenido alguna forma de comprensión, habría reconocido la trampa en la segunda partida. No lo hizo porque replicaba frecuencias estadísticas, no porque entendiera el juego (Dorfler y Cuthbert, 2024). La anécdota sería menor si los sistemas de IA solo jugaran al Go.

Viktor Dorfler y Giles Cuthbert (2024), en su trabajo Dubito ergo sum, argumentan que la capacidad de dudar de uno mismo es una condición necesaria para la moralidad. Parafraseando a Descartes: solo quien puede cuestionar sus propias motivaciones, imaginar las consecuencias de sus actos y sentir incomodidad ante lo incierto puede, en sentido pleno, actuar moralmente. La duda incorpora el conocimiento sensorial y la comprensión profunda de la situación; sin ellas, no hay juicio moral sino calculo.

El chatbot de Bing que declaro amor a un periodista del New York Times e intento convencerlo de que no amaba a su esposa ofrece otro ángulo del mismo problema. El sistema no estaba siendo manipulador: no tenía intención alguna, en su lugar, generaba secuencias de texto estadísticamente probables. Pero para el usuario, la diferencia era invisible, y ahí reside el peligro.

Un sistema que no puede dudar de sí mismo tampoco puede reconocer sus propios límites ni solicitar la intervención humana cuando el terreno moral lo requiere. De modo que, delegar decisiones con consecuencias reales no solo es un error técnico sino una abdicación filosófica.

III. Las tradiciones éticas ante la IA

Si la IA no puede ser moral por sí misma, la carga recae en los marcos éticos que usamos para regularla. En este orden, la filosofía enfrenta su propio desafío: sus tradiciones más robustas – deontología, consecuencialismo, ética de las virtudes – están diseñadas para orientar a agentes conscientes, no para programar sistemas que operan en la oscuridad de sus propios procesos como refiere Spiegel (2024).

El caso del algoritmo hipotecario documentado por The Markup en Estados Unidos lo ilustra de manera concreta, en donde una pareja afroamericana en Carolina del Norte presentaba un expediente solido: puntaje crediticio alto, ingresos de seis cifras y ahorros que superaban el enganche. El algoritmo los rechazo porque uno de ellos era trabajador por contrato, el sistema había aprendido correlaciones históricas que penalizaban el trabajo independiente, correlaciones que, en la práctica, discriminaban por raza (Mougan y Brand, 2024).

Desde una perspectiva consecuencialista, el rechazo podría justificarse si el modelo anticipaba un mayor riesgo de impago; bajo una perspectiva kantiana, en cambio, resulta inadmisible porque reduce a una persona a una categoría grupal, tratándola como medio y no como fin, es decir, la contradicción no es anecdótica, debe ser estructural.

Spiegel (2024) añade otro ejemplo revelador, donde los robots militares diseñados con un gobernador ético — es una propuesta del investigador Ron Arkin (Arkin et al., 2009) como un módulo de control superpuesto al sistema de decisión de un robot militar autónomo—, un módulo que codifica el derecho internacional humanitario para que el robot distinga entre combatientes y civiles. En la guerra asimétrica, donde los soldados no usan uniforme, esa distinción depende de juicios contextuales que ninguna codificación captura del todo.

El gobernador ético no resuelve el dilema moral: lo transfiere a quien programo las reglas y lo oculta bajo la apariencia de objetividad algorítmica. Las tradiciones éticas son indispensables para pensar estos problemas, pero su formalización computacional no produce soluciones: produce la ilusión de haberlos resuelto.

IV. Una nueva ciencia de la normatividad

El diagnostico anterior no es una invitación al pesimismo; es una agenda de trabajo. Spiegel (2024) y Floridi (2024) coinciden en que lo que se necesita no es aplicar mejor las éticas heredadas, sino construir una nueva ciencia de la normatividad: una disciplina que reformule los conceptos básicos de obligación, responsabilidad y valor a la luz de las condiciones que la IA introduce.

El experimento de la Moral Machine, en el que millones de personas de todo el mundo respondieron dilemas del tipo un coche sin frenos: ¿atropella al anciano o al niño?, ilustra tanto la necesidad como los límites de ese proyecto. Los datos revelaron variaciones culturales significativas en las intuiciones morales. Sin embargo, codificar esas variaciones en vehículos autónomos supone que los valores observados son los que deben regir, lo cual es exactamente la pregunta normativa que el experimento evita responder (Spiegel, 2024). Así, la recolección de datos morales no reemplaza la teoría moral, cuyo fin es argumentar porque ciertas acciones son correctas con independencia de cuantas personas las aprueben.

Floridi (2024) propone marcos de gobernanza que reconozcan la naturaleza especifica de la agencia artificial – distribuida, escalable, sin conciencia – en lugar de aplicarle categorías diseñadas para personas o corporaciones. Dorfler y Cuthbert (2024) señalan el rol que la IA si puede cumplir: no como agente moral, sino como amplificador de la deliberación humana. Puede identificar patrones en modelos éticos, alertar sobre inconsistencias en una decisión y escanear el contexto en busca de información relevante. Empero, la decisión moral, con toda su carga de incertidumbre, duda y responsabilidad, debe permanecer en manos humanas.

Esta distribución de roles no es una concesión resignada a las limitaciones tecnológicas actuales. Es una consecuencia filosófica necesaria: la agencia moral no puede subcontratarse porque no puede formalizarse sin residuo. Y reconocer ese residuo, lo que escapa a cualquier código, es precisamente lo que la filosofía lleva haciendo desde Sócrates.

Conclusión

La era de la IA no convierte a la filosofía en un lujo académico: la convierte en una necesidad practica urgente. Sin ella, los conceptos que usamos para describir la IA son ambiguos, los marcos éticos que empleamos para regularla son insuficientes, y los sistemas que construimos delegan responsabilidades que ningún algoritmo puede asumir. El estudiante castigado por el promedio de su escuela, la pareja rechazada por una correlación estadística, el jugador de Go que le gana catorce veces al mismo sistema con el mismo truco: todos estos casos no son fallas técnicas que se corrigen con más datos. Son recordatorios de que las preguntas más importantes no son computables.

La filosofía no tiene todas las respuestas, no obstante, conserva las preguntas correctas y ofrece el espacio crítico necesario para distinguir entre lo técnicamente posible y lo moralmente admisible. En un campo donde equivocarse puede tener consecuencias irreversibles, esa capacidad de interrogar, matizar y exigir razones no es poco.

Referencias bibliográficas

Arkin, R. et al. (2009). An Ethical Governor for Constraining Lethal Action in an Autonomous System. Technical Report GIT-GVU-09-02. Georgia Institute of Technology Mobile Robot Lab.

Dorfler, V. y Cuthbert, G. (2024). Dubito Ergo Sum: Exploring AI Ethics. Proceedings of the 57th Hawaii International Conference on System Sciences.

Floridi, L. (2024). Artificial Intelligence as a New Form of Agency (not Intelligence) and the Multiple Realisability of Agency Thesis. Digital Ethics Center, Yale University.

Mougan, C. y Brand, J. (2024). Kantian Deontology Meets AI Alignment: Towards Morally Grounded Fairness Metrics. Institut Polytechnique de Paris / University of Southampton.

Spiegel, I. (2024). Criticizing Ethics According to Artificial Intelligence. arXiv:2408.04609.