La disposición “prohíbe los servicios de IA para la generación de imágenes sexuales e íntimas no consentidas”. La medida también alcanza a la pornografía infantil y el Parlamento Europeo trabaja en una enmienda similar, que podría aprobarse próximamente.
Los países de la Unión Europea (UE) prohibirán los sistemas de Inteligencia Artificial (IA) que generan ‘deepfakes’ de carácter sexual, tras el escándalo provocado por las imágenes de este tipo producidas por Grok, el modelo propiedad del magnate Elon Musk. El proyecto hace foco en el consentimiento de las personas usadas en el contenido y en prevenir la pornografía infantil.
Los representantes de los 27 países del bloque en Bruselas aprobaron una enmienda a un proyecto de ley sobre inteligencia artificial, cuyo objetivo es prohibir estos servicios en toda la UE.
La disposición aprobada “prohíbe los servicios de IA para la generación de imágenes sexuales e íntimas no consentidas o pornografía infantil”, según un comunicado del Consejo Europeo, el órgano de la UE que reúne a los Estados miembros.
El Parlamento Europeo trabaja en una enmienda similar, que podría ser aprobada en comisión la próxima semana. El objetivo es prohibir los servicios de IA y otras aplicaciones que permiten a los usuarios “desnudar” a adultos o menores, o crear imágenes sexualmente explícitas de ellos sin su consentimiento, utilizando fotos o vídeos reales.
Hace unos meses Grok introdujo una función que permite a los usuarios crear imágenes de personas simulando desnudez a partir de fotos reales, lo que provocó indignación en muchos países y dio lugar a una investigación de la UE.
X, la plataforma donde está disponible Grok, declaró en enero su política de “tolerancia cero” ante los deepfakes sexualizados de niños y mujeres y afirmó haber tomado medidas para detener la creación de estas imágenes.
“No se trata de tomar medidas contra escándalos individuales como el de Grok, sino de limitar el poder que otorgamos a la IA”, subrayó el eurodiputado alemán Sergey Lagodinsky, una de las figuras clave de esta iniciativa.
Ámbito