El gobierno de Alemania prepara un proyecto de ley para penalizar la creación, posesión y distribución de videos pornográficos generados mediante inteligencia artificial, conocidos como deepfakes, con el objetivo de cerrar vacíos legales en el código penal ante el incremento de la violencia digital y la suplantación de identidad en entornos en línea. Los deepfakes son contenidos audiovisuales manipulados mediante inteligencia artificial que permiten alterar rostros, voces o cuerpos de personas para colocarlos en escenas que no ocurrieron, generalmente sin consentimiento y con fines sexuales o de daño a la reputación.

La iniciativa contempla sanciones penales para quienes produzcan o difundan este tipo de materiales sin autorización, además de medidas para facilitar la identificación de responsables y el bloqueo de cuentas en plataformas digitales que permitan su circulación, en un escenario donde autoridades alemanas han advertido que estas prácticas afectan principalmente a mujeres y se han convertido en una forma creciente de violencia digital.

De acuerdo con el Ministerio de Justicia alemán, la legislación vigente no contempla de forma suficiente la creación y difusión de este tipo de contenidos en todos los supuestos, por lo que la reforma busca actualizar el marco jurídico para responder al desarrollo acelerado de la inteligencia artificial y a sus usos indebidos en la generación de material íntimo falso.

El proyecto también incluye ajustes en materia civil para reforzar los derechos de las víctimas y agilizar procesos de denuncia, además de establecer mecanismos más rápidos para la eliminación de contenido en redes sociales, especialmente en casos de cuentas con alta capacidad de difusión.

La medida se suma a las discusiones regulatorias en la Unión Europea sobre el uso de inteligencia artificial, donde distintos países han impulsado iniciativas para limitar la creación de contenido sexual no consentido generado por sistemas automatizados.