Congreso busca endurecer penas por contenido sexual creado con IA
Por: Agencia Informativa UDEM
Entre 8 y 12 años de cárcel podrían ser aprobados por los diputados para personas que utilicen la Inteligencia Artificial para crear contenido íntimo falso, afectando así la reputación, la dignidad y el derecho al buen nombre de las personas involucradas.
La iniciativa, presentada este miércoles, 22 de noviembre, ante el Congreso de la Ciudad de México por la diputada María Guadalupe Morales Rubio, de Morena, será debatida y sometida próximamente a votación.
La propuesta busca castigar penalmente la práctica que se conoce como «deepfake sexual», que consiste en utilizar la inteligencia artificial para generar contenido sexual falso de personas reales.
Hay herramientas tecnológicas que permiten crear imágenes y videos sexuales usando rostros de personas reales con cuerpos falsos creados por la tecnología. Quien hace esta práctica, superpone los rostros con los cuerpos y crea imágenes sexuales falsas, explicó la congresista.
El proyecto de ley, que busca reformar el artículo 181 Quintus del Código Penal de la Ciudad de México, afirma que estos contenidos falsos pueden causar un daño irreparable a la reputación y a la vida de las personas afectadas porque las difama al hacer circular videos o imágenes falsas de carácter pornográfico sin su consentimiento, las cuales pueden llegar a viralizarse.
La legislación actual de la Ciudad de México ya prohíbe el intercambio de contenido sexual, real o simulado, y lo castiga hasta con seis años de cárcel, pero esta iniciativa de la diputada Morales busca ampliar la pena a ocho años mínimo y elevarla hasta 12 años de prisión cuando el delito se comete contra menores de edad o la conducta sea cometida por servidores públicos.
En octubre, el país registró el primer caso conocido de este delito usando la inteligencia artificial cuando se conoció que un estudiante de Mercadotecnia Digital del Instituto Politécnico Nacional (IPN) había tomado de redes sociales más de 50 mil fotos de alumnas de ese Instituto, las había modificado sin su consentimiento logrando generar con ellas más de 160 mil imágenes íntimas con inteligencia artificial, las cuales comercializó y vendió como contenido íntimo.
El alumno Diego «N» fue denunciado por sus compañeras, expulsado de la institución por violencia digital y detenido el 26 de octubre por la Fiscalía General de Justicia de la Ciudad de México acusado de, presuntamente, haber cometido el delito contra la intimidad.
En México existe la Ley Olimpia, aprobada en 2018 y que agrupa a un conjunto de reformas a la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia y al Código Penal Federal, que buscan reconocer la violencia digital y sancionar los delitos que violen la intimidad sexual de las personas a través de medios digitales, también conocida como ciberviolencia.
La Ley Olimpia castiga el acoso digital y tipifica como delito contra la intimidad sexual grabar, tomar fotos o difundir imágenes o mensajes de contenido sexual sin consentimiento, pero los diputados quieren extender el alcance de las penas incluyendo los casos cuando el delito se comete usando la inteligencia artificial.
Con el objetivo de motivar la participación ciudadana y para garantizar un tratamiento informativo adecuado frente a los contenidos presentados, los invitamos a escribir a [email protected] en caso de dudas, aclaraciones, rectificaciones o comentarios.