Grok, IA de Musk, agora diz que limita edição de imagens após polêmica com fotos de mulheres e crianças

Em buscas feitas pelo g1 na rede social, foram encontradas interações em que usuários pedem alterações em imagens de mulheres.

Nesses casos, o Grok agora está respondendo: "A geração e edição de imagens atualmente são limitadas a assinantes pagantes. Você pode se inscrever para desbloquear estes recursos". A mensagem vem acompanhada de um link para a página de assinatura.

Procurado, o X informou que está verificando a resposta da IA e que passará mais detalhes "assim que tiver alguma atualização".

"Eu fiquei em choque quando vi (...). É um sentimento horrível. Eu me senti suja, sabe?", disse Giovanna*, ao ser informada pelo g1 que uma foto sua de biquíni estava na rede social X, na última segunda-feira (7). "Na foto original, do meu story, eu estava de calça."

A imagem de Giovanna* que foi manipulada tinha sido publicada recentemente em seu perfil público no Instagram. Uma conta no X identificada como "@endricklamar__" repostou essa imagem no X e pediu que o Grok a retratasse de biquíni.

Criado em junho de 2025, o perfil reunia imagens de outras mulheres, cuja identidade não foi possível confirmar (veja os prints abaixo). Não foram encontradas, porém, manipulações semelhantes envolvendo homens.

Ao ser contatada, Giovanna* disse que ficou assustada ao saber do uso da própria imagem sem consentimento e afirmou não conhecer o perfil em questão.

"Eu nunca imaginei que isso aconteceria comigo, porque normalmente isso é feito mais com artistas e influenciadores", completou a vítima, que disse já ter denunciado o post e afirmou que pretende registrar um Boletim de Ocorrência.

No próprio X, o g1 tentou contato com o responsável pela conta @endricklamar__, mas recebeu apenas a resposta "??". Algumas horas depois, ele excluiu as fotos e o perfil (veja na imagem abaixo).

Em sua Política de Uso, a xAI, empresa de Musk responsável pelo Grok, afirma que proíbe o uso da IA para "tomar ações não autorizadas em nome de terceiros", "retratar imagens de pessoas de forma pornográfica" e para "a sexualização ou exploração de crianças".

"Isso gera ainda mais responsabilidade por parte da plataforma, porque há uma política, mas ela não é cumprida", diz Patrícia Peck, advogada especialista em direito digital.