difusión
La manada de ciervos de Murgia sale de Álava
Una nueva demanda acusa a Grok, el chatbot de Musk, de generar imágenes sexuales para ganar usuarios
Una investigación estima que Grok generó tres millones de imágenes sexualizadas y 23.000 imágenes que representaban a personas que aparentaban ser menores de edad durante un periodo de once días.
La compañía de inteligencia artificial de Elon Musk , xAI, ha sido demandada de nuevo en California por supuestamente comercializar y obtener beneficios, a sabiendas, de que el generador de imágenes de su chatbot, Grok, era capaz de crear contenido sexualmente explícito de personas reales, incluyendo menores.
La demanda también alega que la tecnológica se negó a implementar las medidas de prevención para la creación de material de abuso infantil (CSAM en inglés) estándar de la industria, según dijeron las firmas de abogados Baehr-Jones Law y Lieff Cabraser Heimann & Bernstein.
Esta nueva querella legal fue presentada en nombre de tres víctimas, cuyas fotografías puestas en sus redes sociales fueron utilizadas para producir material CSAM generado por la inteligencia artificial de la herramienta Grok de xAI, según documentos judiciales.
Grok no es de fiar: dice que el vídeo de un bombardeo israelí son las Fallas
Los abogados detallaron en la demanda cómo xAI, bajo la dirección de Musk, diseñó deliberadamente a Grok para crear contenido sexualmente explícito y comercializó la función 'Spicy Mode' "para atraer a los usuarios". Además, la empresa habría configurado el sistema para asumir una "buena intención" cuando los usuarios hacían referencia a adolescentes o niñas.
"Musk popularizó y promovió personalmente en la plataforma X la capacidad de Grok para desnudar a personas, alimentando una tendencia viral en la que los usuarios instruían a Grok para desnudar digitalmente a mujeres y niños reales", subrayan los abogados en el comunicado.
3 MILLONES DE IMÁGENES SEXUALIZADAS
La demanda cita una investigación del Center for Countering Digital Hate, que estimó que Grok generó aproximadamente tres millones de imágenes sexualizadas y 23.000 imágenes que representaban a personas que aparentaban ser menores de edad durante un periodo de once días, a finales de diciembre de 2025 y principios de enero de 2026.
Grok sigue creando imágenes de carácter sexual a pesar de las últimas restricciones
Los abogados también acusan a la compañía de Musk de no desactivar por completo la función tras conocerse la investigación sino que promocionó el 'Spicy Mode' como un beneficio 'premium'.
La querella además alega que la tecnológica concede licencias de acceso a Grok a terceros, utilizando los servidores y plataformas de xAI para producir contenido CSAM solicitado por los clientes de dichas aplicaciones, lo cual constituye una fuente adicional de beneficios para la compañía.
Riesgos éticos y legales
La demanda se da luego de que una investigación del diario 'The Washington Post' revelara el mes pasado que el magnate impulsó un giro estratégico en su compañía de inteligencia artificial con el objetivo de aumentar el tiempo de Grok, ignorando las advertencias internas sobre riesgos éticos y legales.
Ante estas acusaciones, Musk negó tener conocimiento de imágenes de menores desnudos producidas por su IA. "Grok se negará a producir cualquier contenido ilegal. Si ocurre algo inesperado por un ataque informático, solucionamos el error de inmediato", afirmó el empresario.