Grok, IA de Musk, admite falhas após gerar imagens sexualizadas de menores

Segundo a empresa, melhorias estão sendo implementadas para evitar esse tipo de ocorrência.

Ministros franceses denunciaram o caso à Arcom, órgão regulador da mídia na França, para verificar se o conteúdo estava em conformidade com a Lei de Serviços Digitais da União Europeia, informou a agência de notícias Reuters.

Em comunicado, eles afirmaram que o conteúdo “sexual e sexista” era “manifestamente ilegal”.

As imagens publicadas no X – geradas após comandos de usuários no Grok – mostravam menores usando “roupas mínimas”.

“Identificamos falhas nos mecanismos de proteção e estamos corrigindo isso com urgência”, publicou o chatbot, acrescentando que material de abuso sexual infantil é “ilegal e proibido”.