La Unión Europea busca prohibir la inteligencia artificial que crea imágenes sexuales falsas

Los países de la Unión Europea están tomando medidas enérgicas para prohibir los sistemas de Inteligencia Artificial que generan ‘deepfakes’ de carácter sexual. Esta decisión surge tras la controversia provocada por imágenes producidas por Grok, el chatbot de Elon Musk. Los representantes de los 27 países del bloque han aprobado una enmienda para prohibir estos servicios en toda la Unión Europea, incluyendo la generación de imágenes sexuales e íntimas no consentidas, así como la pornografía infantil.

El Parlamento Europeo se encuentra trabajando en una enmienda similar que podría ser aprobada la próxima semana. El objetivo principal es prohibir el uso de sistemas de IA y otras aplicaciones que permitan crear imágenes sexualmente explícitas de adultos o menores sin su consentimiento, utilizando fotos o videos reales. Esta medida busca proteger la privacidad y la dignidad de las personas frente al uso indebido de la tecnología.

Hace algunos meses, Grok introdujo una función que permitía a los usuarios crear imágenes simulando desnudez a partir de fotos reales, lo que generó indignación a nivel internacional y desencadenó una investigación por parte de la Unión Europea. Ante esto, la plataforma X, donde opera Grok, ha declarado su política de “tolerancia cero” frente a los deepfakes sexualizados de niños y mujeres, asegurando haber tomado medidas para evitar la creación de estas imágenes.

El eurodiputado alemán Sergey Lagodinsky, miembro de Los Verdes y figura clave en esta iniciativa, destaca que esta prohibición no se trata solo de abordar casos específicos como el de Grok, sino de limitar el poder que se otorga a la Inteligencia Artificial. Es fundamental regular el uso de esta tecnología para prevenir su abuso y proteger a la sociedad de posibles consecuencias negativas.

La Unión Europea está dando pasos importantes hacia la protección de la integridad y la seguridad de las personas en el entorno digital, estableciendo normativas claras para combatir el uso inapropiado de la Inteligencia Artificial en la creación de deepfakes. Es fundamental estar atentos a estas regulaciones y promover un uso ético y responsable de la tecnología en beneficio de todos. ¡Sigamos de cerca estos avances en la protección de nuestra privacidad en línea!