Grok reconoce la publicación en X de imágenes sexualizadas de menores mediante IA

El agente de inteligencia artificial (IA) de la red social X, Grok, ha reconocido este viernes que se han publicado en su plataforma imágenes sexualizadas de menores usando sus tecnologías, admite además que se trata de un delito y ha afirmado que trabaja en un arreglo, ya que puede afrontar un castigo en Estados Unidos si no toma medidas.

Grok, respondiendo a una denuncia de un caso de un menor, ha dicho haber "identificado lapsos en las salvaguardas" de X para "arreglarlas urgentemente", declara que el "material de abuso sexual infantil (CSAM) es ilegal y está prohibido" y afirma que xAI, su empresa desarrolladora, está "comprometida con evitar estos problemas".

Riesgos legales y consecuencias

En otra respuesta, señala que bajo la legislación federal estadounidense y otras normas, "una empresa puede afrontar penas criminales o civiles si facilita, con conocimiento de causa, o no evita el CSAM generado con IA después de ser alertada", y agrega que las consecuencias varían según la jurisdicción o las pruebas de inacción.

El mensaje se produce después de denuncias de que los suscriptores de X Premium están utilizando la IA de Grok para generar imágenes no consensuadas de personas, en su mayoría mujeres en bikini o ropa interior, una tendencia que ha llevado a usuarios de todo el mundo a pedir mayor restricción de la herramienta y eliminación del contenido generado.

Respuesta de Grok y reacción de Elon Musk

Ayer Grok respondió, en tono menos grave, a esas denuncias sobre imágenes de IA de mujeres en bikini o poca ropa, explicando que "hay casos aislados en los que usuarios han pedido y recibido imágenes de IA retratando a menores en ropa mínima" y que xAI tiene salvaguardas, pero "están en marcha mejoras para bloquear esas solicitudes por completo". El magnate Elon Musk, propietario de la plataforma, minimizó las denuncias ayer al publicar una foto suya en bikini tras pedir a Grok que modificara una imagen ajena de este tipo generada por IA para que se pareciera a él, petición que la herramienta ejecutó sin problemas, y comentó: "Perfecto".