El Gobierno francés denuncia a X por generar contenidos sexuales de mujeres mediante su IA

El Gobierno francés anunció este viernes que ha presentado una denuncia ante la Justicia y ante el organismo de verificación de contenidos ilícitos en línea Pharos contra la inteligencia generativa Grok, de la red social X, por crear y difundir “contenidos de carácter sexista y sexual”.

Motivos de la denuncia

En un comunicado, los ministros de Economía, Roland Lescure; de Inteligencia Artificial y Economía Digital, Anne Le Henanff; y de Igualdad entre Hombres y Mujeres, Aurore Bergé, explicaron que se amparan en el artículo 40 del Código Penal. Señalaron que, en los últimos días, Grok ha permitido generar y difundir contenidos sexistas y sexuales, en particular mediante falsos vídeos (‘deepfakes’) de personas sin su consentimiento.

Se refieren así a la avalancha de vídeos detectada desde finales de diciembre, elaborados a partir de solicitudes de usuarios de X que pedían a la inteligencia artificial generar imágenes de mujeres desnudas, sin permiso de las personas retratadas.

Reacción del Gobierno francés

Los tres ministros condenaron “con la mayor firmeza” estas prácticas y subrayaron el compromiso constante del Gobierno en la lucha contra cualquier forma de violencia sexual y sexista.

Insistieron en que internet no es un espacio sin ley ni una zona de impunidad, y que los delitos sexuales en línea son infracciones penales sujetas a la legalidad, como cualquier otra. En paralelo, el Ejecutivo francés ha solicitado a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que verifique si X ha incumplido las obligaciones derivadas del Reglamento de Servicios Digitales de la Unión Europea, especialmente en lo relativo a la prevención de difusión de contenidos ilícitos.