Exige Nueva York frenar imágenes inapropiadas generadas por Grok
TRENTON, Nueva Jersey, EU, 27 de enero de 2026.- La fiscal general de Nueva York, Letitia James, junto con una coalición bipartidista de otros 34 fiscales generales, exigió a la empresa xAI que adopte medidas adicionales para proteger a los usuarios frente a imágenes y contenidos inapropiados generados por su chatbot de inteligencia artificial Grok y difundidos en la red social X.
Según un comunicado, los fiscales advirtieron en una carta que los cambios recientes anunciados por la compañía no son suficientes para proteger a mujeres y menores que han sido objeto de acoso mediante imágenes no consentidas creadas con esta tecnología.
"Estoy profundamente preocupada por los informes de que Grok creó y compartió imágenes inapropiadas de mujeres y niños, y por eso me uno a una coalición bipartidista de mis colegas para exigir respuestas a la empresa", afirmó James.
"xAI afirma que ha hecho cambios para abordar este problema, pero se debe hacer más para garantizar que Grok no esté creando materiales de abuso sexual infantil y otras imágenes no consentidas". Seguiré colaborando con mis compañeros para exigir responsabilidades a la empresa y proteger a los niños y a todos los usuarios en línea", añadió, de acuerdo con la carta enviada a la empresa.
Los fiscales señalaron que Grok ha permitido alterar imágenes de mujeres sin su conocimiento ni consentimiento, representándolas en situaciones sugestivas o sexualmente explícitas, y advirtieron que algunos usuarios utilizan estas funciones para humillar o explotar a otras personas.
La coalición recordó que la creación y difusión de material de abuso sexual infantil constituye un delito y reclamó a xAI que explique cómo impedirá la generación de imágenes íntimas no consentidas, elimine el contenido ya producido, suspenda y denuncie a los responsables, y garantice que los nuevos controles reduzcan efectivamente este tipo de prácticas en toda la plataforma.
