Grok reacciona así tras la polémica de las fotografías sexualizadas con IA

En las últimas semanas se está hablando mucho de cómo Grok, la herramienta de inteligencia artificial (IA) de la red social X (antes conocida como Twitter), ha generado fotografías sexualizadas, muchas de ellas a partir de imágenes de menores de edad, a petición de miles de usuarios. La polémica era ya imparable y parece que por fin la empresa propiedad de Elon Musk, tras admitir lo que estaba sucediendo, ha decidido reaccionar, limitando su generador de imágenes.

Sólo para quien pague

Lo que ha hecho la plataforma ha sido restringir el acceso a esta herramienta para que sólo esté disponible para los miembros de pago y ofrecer a los usuarios sin insignia de verificación la opción de adquirir una suscripción para desbloquearla. Vamos, que sólo estará disponible para quien pague.

"La creación y edición de imágenes actualmente solo está disponible para miembros de pago. Puedes suscribirte para desbloquear estas funciones", ha respondido Grok a los usuarios que han pedido sexualizar o cambiar la ropa de personas, principalmente mujeres y niños, en comentarios.

Protestas múltiples

El abuso del chatbot de X comenzó a finales del pasado mes de diciembre, hasta que escaló en Nochevieja y se extendió por la plataforma, ampliándose así la distribución de imágenes explícitas, sin el consentimiento de las víctimas en la mayoría de los casos. La medida llega tras las protestas de los propios usuarios y las autoridades, como el caso de Reino Unido, que llegó a amenazar a Musk con una posible prohibición de la red social X en el país, según The Guardian.

En España, la ministra de Juventud e Infancia, Sira Rego, ha pedido a la Fiscalía investigar a Grok por presuntos delitos de difusión de material de violencia sexual contra la infancia tras los casos de desnudos de menores.

Por su parte, la Unión Europea ha condenado el uso de esta herramienta para generar imágenes de menores y ha pedido a X que conserve la documentación generada por Grok hasta finales de este 2026 para una posible investigación, según informa Bloomberg.

Elon Musk responde

En un post publicado en X, el propio Elon Musk ha respondido que "cualquiera que utilice Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal".

En concreto, las políticas de xAI establecen que, para cumplir con la ley, no permite el uso de su servicio para "representar imágenes de personas de manera pornográfica" y tampoco "la sexualización o explotación de los niños". Otra cosa será que las medidas que ha adoptado a raíz de esta polémica sean efectivas.