Plumas NCC | Hacia una tipificación efectiva de la violencia digital con IA

Por: Mtro. Rodolfo Guerrero Martínez (México).

La regulación de la inteligencia artificial (IA) en el marco jurídico mexicano presenta un desafío complejo que exige un enfoque multidisciplinario, combinando conocimientos de diferentes áreas del derecho tales como constitucional, penal, parlamentario, así como la integración de las tecnologías disruptivas, especialmente la IA.

En ese sentido, la incorporación de la IA en diversas esferas de la vida cotidiana, desde la prestación de servicios hasta la toma de decisiones, plantea importantes interrogantes sobre su impacto en los derechos fundamentales, la seguridad jurídica y el orden social. Conforme a esto, se vuelve imperativo establecer un marco normativo que promueva el desarrollo y uso responsable de la IA, al tiempo que prevenga y sancione sus posibles efectos perjudiciales.

Precisamente, el 28 de febrero del año 2024 se presentó por el entonces senador de la República Ricardo Monreal Ávila, hoy Diputado Federal, la iniciativa con proyecto de decreto por el que se expide la LEY FEDERAL QUE REGULA LA INTELIGENCIA ARTIFICIAL que propone el uso ético y responsable de la IA, por ejemplo, donde los desarrolladoras y usuarios estén comprometidos de los materiales que crean y difunden; también evite y denuncie la propagación de discursos de odio, incitación a la violencia y noticias falsas.

Ahora bien, en la línea de lo expresado, uno de los ámbitos donde la IA proyecta mayores inquietudes es en la violencia digital, donde su capacidad para generar deepfakes, suplantar identidades y difundir información falsa puede ocasionar daños irreparables a la dignidad, la intimidad y la reputación de las personas.

De esta manera, la tipificación efectiva de la violencia digital con IA se convierte en piedra angular, y requiere una comprensión profunda de las nuevas formas en que se manifiesta este fenómeno, así también de los instrumentos jurídicos necesarios para combatirlo.

Por tanto, se sostiene que, para lograr una tipificación efectiva, es necesario definir con precisión los elementos que configuran la violencia digital con inteligencia artificial, incluyendo el uso de algoritmos, el grado de autonomía de los sistemas de IA y la intencionalidad de los agentes involucrados. Asimismo, es importante establecer criterios claros para la atribución de responsabilidad penal, ubicando tanto a los programadores y fabricantes de los sistemas de IA como a quienes los utilizan para cometer actos ilícitos.

Se deben analizar las posibles figuras de autoría mediata, participación y omisión, así como la responsabilidad de las personas jurídicas en el desarrollo y comercialización de tecnologías que faciliten la violencia digital.

Por otra parte, para efectos de una tipificación efectiva es menester adoptar medidas preventivas que reduzcan el riego de los actos de violencia digital, considerando para esto, campañas de sensibilización, programas de educación en tecnologías y bloqueo de contenidos falsos o maliciosos. Adicional, al fortalecimiento para la cooperación internacional en el intercambio de información y de buenas prácticas, entendiendo también, la persecución de los delitos transfronterizos.

Conforme a lo establecido líneas arriba, el presente artículo establecerá por medio de acciones recientes compartidas y desarrolladas en el Estado Mexicano tal como el pronunciamiento de la Suprema Corte de Justicia de la Nación sobre la Acción de Inconstitucionalidad 66/2024, además de casos críticos en materia de violencia digital con el fin de lograr una ruta para la tipificación efectiva en el escenario de la inteligencia artificial.

 

Protección de la Intimidad Sexual ante la evolución tecnológica

La Suprema Corte de Justicia de la Nación (SCJN) validó la definición de inteligencia artificial (IA) establecida en el Código Penal del Estado de Sinaloa. La decisión surge de la Acción de Inconstitucionalidad 66/2024, donde el Poder Ejecutivo Federal demandó la invalidez del artículo 185 Bis C del Código Penal de Sinaloa, específicamente los párrafos quinto y sexto, adicionados mediante decreto publicado el 12 de febrero de 2024.

Se localiza a través del artículo 185 Bis C que sanciona a quien, haciendo uso de la IA, manipule imágenes, audios o videos de contenido íntimo sexual de una persona, para crear hechos falsos con apariencia real, con el propósito de difundirlos sin su consentimiento. Para estos efectos, el legislador local definió la IA como «las aplicaciones, programas o tecnología que analicen fotografías, audios o videos y ofrezcan ajustes automáticos para hacerles alteraciones o modificaciones».

No obstante, el Ejecutivo Federal argumentó que esta definición violaba el principio de taxatividad en materia penal, que exige que las disposiciones sean claras y exactas. Sin embargo, el Pleno de la SCJN desestimó este argumento, señalando que:

(I) Es imposible que el legislador defina de manera unívoca y exacta todas las palabras contenidas en un tipo penal, dadas las características del lenguaje.

(II) No existe una definición única del concepto de IA, dada la constante evolución de la tecnología.

De esta forma, la Corte concluyó que la definición de IA en el Código Penal de Sinaloa resulta adecuada, en virtud que permite a la ciudadanía comprender el núcleo esencial del delito sin necesidad de un lenguaje técnico especializado. La SCJN reconoció la validez de la norma, pero algunos ministros hicieron observaciones sobre la necesidad de proteger a grupos vulnerables y la importancia de la taxatividad.

 

Aspectos fundamentales sobre violencia digital y alteración de imágenes con IA por medio del caso Diego N

Recordemos el suceso de Diego N, acusado de violencia digital por editar fotografías con inteligencia artificial (IA) de alumnas del Instituto Politécnico Nacional (IPN), el cual plantea varios desafíos legales y éticos que requieren un análisis exhaustivo desde una perspectiva del derecho penal en el escenario de las tecnologías disruptivas, concretamente de la inteligencia artificial. 

El caso de delito contra la intimidad sexual mediante manipulación de imágenes con IA comprende entre sus elementos probatorios que (I) se encontraron aproximadamente 166,000 fotografías de mujeres en su posesión; (II) las imágenes fueron presuntamente modificadas con Inteligencia Artificial para simular desnudos; y (3) se presume la comercialización de dichas imágenes

Con respecto al proceso judicial, se ejecuto la orden de cateo en domicilio ubicado en la alcaldía Álvaro Obregón, la autoridad judicial dictó prisión preventiva como medida cautelar y durante la audiencia de cumplimentación: (1) La Fiscalía formuló imputación; (2) Solicitó vinculación a proceso; y (3) la defensa solicitó duplicidad del término constitucional.

Adicionalmente, se desempeñaron diferentes medidas institucionales como que el IPN procediera a dar de baja al estudiante, la investigación activa de la Fiscalía de la Ciudad de México y que la Policía Cibernética no ha detectado casos similares según declaraciones oficiales.

Cabe destacar que, la relevancia jurídica del caso en comento sienta un precedente en materia de delitos contra la intimidad sexual utilizando nuevas tecnologías, específicamente la IA como medio para vulnerar la dignidad y privacidad de las víctimas.

A continuación, se compartirán desde diferentes ejes temáticos de forma general más no limitativa la propuesta para la tipificación efectiva de la violencia digital con IA.

En primer término, para el derecho penal esto implica que la legislación debe reconocer y definir claramente las acciones que constituyen este tipo de violencia, incluyendo la alteración de imágenes con IA para fines sexuales y su difusión sin consentimiento. Recientemente, la titular del Ejecutivo Federal en México, Claudia Sheinbaum, ha expresado la necesidad de tipificar este delito, ya que representa una nueva forma de violencia que debe ser atendida por los jueces y el Ministerio Público.

Por otra parte, como segundo aspecto localizamos la equiparación de delitos, donde, por ejemplo, para el caso de Diego N se debe analizar si las acciones pueden ser equiparadas a otros delitos ya existentes, como la violación a la intimidad sexual, el ciberacoso o la difusión de contenido sexual no consentido.

Debido a que, si bien la IA introduce nuevos elementos en la comisión de estos delitos, el objetivo final es el mismo: vulnerar la dignidad y la integridad de las víctimas. Por lo tanto, se debe buscar una interpretación que permita aplicar las sanciones correspondientes, adaptándolas a las particularidades del caso.

Para un tercer punto, juega un papel crucial para la investigación de este tipo de ilícito, la aplicación de la informática forense. En esa lógica, es necesario recopilar y analizar las pruebas digitales presentes en los dispositivos de Diego N, como su iPad, para determinar el alcance de sus acciones y la cantidad de imágenes alteradas. Además, se debe investigar la existencia de redes de venta y distribución de este tipo de contenido, como la que se identificó en Telegram.

Ahora bien, para tratar y sancionar el caso en cuestión, consideraremos tanto el Código Penal para el Distrito Federal como el Código Penal Federal, y la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia (LGAMVLV) para poner en relieve los siguientes aspectos:

(1) La LGAMVLV define la violencia digital como toda acción dolosa realizada mediante el uso de tecnologías de la información y la comunicación, por la que se exponga, distribuya, difunda, exhiba, transmita, comercialice, oferte, intercambie o comparta imágenes, audios o videos reales o simulados de contenido íntimo sexual de una persona sin su consentimiento, causándole daño psicológico o emocional.

(2) Para el Código Penal para el Distrito Federal se comprende el delito de violencia vicaria, que se refiere a quien mantenga o haya mantenido una relación de matrimonio, concubinato o de hecho con una mujer, y que por sí o por interpósita persona, ejerza violencia física, psicológica, sexual, económica o patrimonial contra ella, utilizando como medio a sus descendientes, ascendientes, personas con discapacidad o enfermedad que se encuentren bajo su cuidado, mediante amenazas, intimidación puesta en peligro o cualesquier acto de violencia.

Aunque este delito no es directamente equiparable al caso de Diego N, se puede argumentar que la alteración de imágenes con IA y su difusión constituyen un acto de violencia psicológica contra las mujeres, utilizando como medio las tecnologías de la información y la comunicación.

(3) El Código Penal Federal establece sanciones para diversos delitos relacionados con la violación de la intimidad sexual y la difusión de contenido sexual no consentido. Es necesario analizar si las acciones de Diego N pueden ser subsumidas en alguno de estos delitos, considerando el uso de la IA como un agravante.

(4) Las Órdenes de protección entienden que cuando una mujer o una niña víctima de violencia soliciten esta medida a la autoridad administrativa, ministerial y/o judicial, se le deberá brindar toda la información disponible sobre el procedimiento relacionado con la propia orden. La autoridad deberá informar con un lenguaje claro, sencillo y empático a la mujer víctima de violencia sobre su derecho a solicitar las órdenes de protección, y evitará cualquier información tendiente a inhibir o desincentivar la solicitud.

(5) El Registro Nacional de Medidas u Órdenes de Protección. Para garantizar el derecho a una vida libre de violencias se crea dicho registro nacional; como un instrumento de política pública tendiente a la erradicación de las violencias en contra de las mujeres, adolescentes, niñas y niños.

(6) Las sanciones. Es esencial aclarar que pese a ser considerada dicha petición como un punto de partida, es necesario analizar cada caso en particular y determinar la sanción adecuada en función de la gravedad de los hechos, el daño causado a las víctimas y la existencia de agravantes o atenuantes. Además, como hemos señalado en el cuerpo de este trabajo, se debe entender el impacto psicológico y emocional que este tipo de violencia puede tener en las víctimas, y ofrecerles el apoyo necesario para su recuperación.

 

Propuestas presentadas para combatir la violencia digital

Con respecto a la expresado en el rubro precedente, se reconocen algunas propuestas como la presentada por un grupo de senadores del Partido del Trabajo (PT) para reformar el Código Penal Federal en noviembre de 2023, con el objetivo de combatir la violencia digital mediante la creación de un nuevo capítulo denominado «Violación a la Intimidad Sexual mediante Inteligencia Artificial». Esta iniciativa busca proteger especialmente a mujeres, niñas, niños y adolescentes de la creciente amenaza de la manipulación digital de contenido íntimo.

La propuesta establece sanciones específicas para quienes videograben, audiograben o fotografíen a personas sin su consentimiento, así como para aquellos que modifiquen este material mediante inteligencia artificial para crear contenido pornográfico. Las penas contempladas son de cinco a nueve años de prisión y multas de 700 a 1,200 días, duplicándose cuando las víctimas son menores de edad o personas sin capacidad para comprender o resistir el acto.

Se enfatiza la gravedad del problema a través de las cifras del INEGI, donde el 22.4% de las mujeres usuarias de Internet han sido víctimas de ciberacoso. Añadiendo en ese hilo, como los deepfakes o «falsedades profundas» representan una forma especialmente dañina de violencia digital, ya que pueden crear contenido que parece auténtico, pero está diseñado para desinformar, manipular o dañar la reputación de las personas.

De tal modo que la iniciativa reconoce que el impacto de esta forma de violencia sexual es profundo y multifacético, afectando no solo la privacidad de las víctimas, sino también su seguridad emocional y su capacidad para participar plenamente en la vida digital y física. Los legisladores enfatizan la urgencia de establecer medidas preventivas y punitivas, especialmente considerando el creciente consumo de contenido pornográfico en Internet.

Como segundo aporte actual, ubicamos la propuesta hecha el día 12 de noviembre de 2024 por la diputada Rocío Alexia Dávila Sánchez en el Congreso del Estado de México, que señala penas de 8 a 15 años de prisión para quienes usen IA para crear contenido falso. Dicha iniciativa busca proteger la integridad de las personas frente al mal uso de la inteligencia artificial.

Se sostiene que las conductas relacionadas con la generación de información falsa se equiparan al delito de fraude. La reforma al Código Penal estatal está impulsada también por el diputado Pablo Fernández de Carvallos González.

Además, se contemplan sanciones por el uso de software para espiar o manipular documentos y medios. Debido a que, estas técnicas permiten crear representaciones realistas que falsifican noticias y afectan la percepción pública. Enmarcando que el uso de IA puede facilitar la clonación de voces, permitiendo crear audios falsos con solo unos segundos de grabación.

En suma, el presente artículo desea demostrar la importancia de regular idóneamente la IA en México, y en particular de la tipificación de la violencia digital que exige un enfoque integral y multidisciplinario que combine la riqueza de las fuentes del derecho, así como de las ciencias sociales, humanidades y de las ciencias exactas e ingenierías. De esta forma, demandando la obtención de una legislación clara y precisa que defina los tipos delictivos, estableciendo criterios de responsabilidad, prevención y de cooperación internacional.

Esto será la ruta para garantizar que la inteligencia artificial se utilice de forma ética y responsable, protegiendo los derechos fundamentales de las personas y promoviendo un entorno digital seguro y libre de violencia.

 

Fuentes de consulta

(1) Acción de inconstitucionalidad 66/2024, promovida por el Poder Ejecutivo Federal, demandando la invalidez del artículo 185 bis C del Código Penal para el Estado de Sinaloa, publicado en el Periódico Oficial de esa entidad federativa el 12 de febrero de 2024. Véase en: https://www.supremacorte.gob.mx/sites/default/files/versiones-taquigraficas/documento/2025-02-20/20%20de%20febrero%20de%202024%20-%20Versión%20definitiva.pdf

(2) Aprueba Congreso sancionar manipulación de imágenes con Inteligencia artificial que afecte intimidad sexual – H. Congreso del Estado de Sinaloa. (2024). https://www.congresosinaloa.gob.mx/comunicados/aprueba-congreso-sancionar-manipulacion-de-imagenes-con-inteligencia-artificial-que-afecte-intimidad-sexual/

(3) Rodríguez, Andrés. (2024). Absuelto el joven acusado de alterar con IA miles de fotos de alumnas del IPN para fines sexuales. El País México. https://elpais.com/mexico/2024-12-05/absuelto-el-joven-acusado-de-alterar-con-ia-miles-de-fotos-de-alumnas-del-ipn-para-fines-sexuales.html

(4) Código Penal Federal. https://www.diputados.gob.mx/LeyesBiblio/pdf/CPF.pdf

(5) Ley General de Acceso de las mujeres a una vida libre de violencia. https://www.diputados.gob.mx/LeyesBiblio/pdf/LGAMVLV.pdf

(6) Código Penal para el Distrito Federal. https://www.congresocdmx.gob.mx/media/documentos/1756a3b9d0689d278e4578e9bcb6c7591cc9b983.pdf

(7) Coordinación de Comunicación Social – Buscan sancionar a quien haga uso de inteligencia artificial para vulnerar intimidad sexual de personas. (2023). https://comunicacionsocial.senado.gob.mx/informacion/comunicados/7392-buscan-sancionar-a-quien-haga-uso-de-inteligencia-artificial-para-vulnerar-intimidad-sexual-de-personas

(8) Poder Legislativo del Estado de México. (2024). https://legislativoedomex.gob.mx/boletin/41bac8ae-a142-41a0-af1e-1344a197f405

 

***

Ro­dol­fo Gue­rre­ro es abo­ga­do por la Be­ne­mé­ri­ta Uni­ver­si­dad de Gua­da­la­ja­ra y maes­tro en de­re­cho con orien­ta­ción en ma­te­ria Cons­ti­tu­cio­nal y ad­mi­nis­tra­ti­vo por la mis­ma casa de es­tu­dios. Es So­cio Fun­da­dor y Re­pre­sen­tan­te Le­gal de la So­cie­dad Ci­vil Cof­fee Law “Dr. Jor­ge Fer­nán­dez Ruiz”. So­cio fun­da­dor de la Aca­de­mia Me­xi­ca­na de De­re­cho “Juan Ve­lás­quez” A.C. Ti­tu­lar de la Co­mi­sión de Le­gal­tech del Ilus­tre y Na­cio­nal Co­le­gio de Abo­ga­dos de Mé­xi­co A.C. Ca­pí­tu­lo Oc­ci­den­te. Vi­ce­pre­si­den­te de la Aca­de­mia Me­xi­ca­na de De­re­cho In­for­má­ti­co, Ca­pí­tu­lo Ja­lis­co.