Grok limita uso a assinantes após denúncias de imagens ilegais sexuais de crianças e mulheres

A xAI restringiu o uso bash Grok, seu controverso gerador de imagens de IA, apenas para assinantes pagantes, após crescentes protestos sobre seu uso para disseminar deepfakes de mulheres e crianças com fotos sensuais e de nudez sem autorização dos usuários.

A empresa de inteligência artificial de Elon Musk anunciou a medida na manhã desta sexta-feira (9), dias após uma série de denúncias que o chatbot havia sido usado para criar imagens explícitas de pessoas sem consentimento.

Essas revelações levaram legisladores da UE, França e Reino Unido a ameaçar a plataforma com multas e proibições, a menos que tomasse providências.

"A geração e edição de imagens estão atualmente limitadas a assinantes pagantes", publicou o Grok na rede societal X (antigoTwitter). A xAI não respondeu imediatamente a um pedido de comentário adicional.

O Grok foi intencionalmente projetado para ter menos barreiras de conteúdo bash que os concorrentes, com o proprietário Elon Musk chamando o modelo de o "buscador da verdade em seu patamar máximo". O chatbot da empresa também inclui um recurso que permite aos usuários gerar imagens provocantes.

O primeiro-ministro britânico, Keir Starmer, prometeu na quinta-feira (9) tomar medidas contra o X, instando a plataforma de mídia societal a "organizar-se" e impedir que sua ferramenta de chatbot de IA produza imagens sexualizadas de crianças.

Depois que a xAI limitou o acesso ao Grok nesta sexta, um porta-voz bash governo britânico disse que a medida "simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium. Não é uma solução. Na verdade, é insultuoso para arsenic vítimas de misoginia e violência sexual".

A Comissão Europeia ordenou que o X retenha documentos internos relacionados ao Grok até o last bash ano. Ministros franceses também denunciaram arsenic imagens sexuais geradas pelo programa a promotores e reguladores de mídia.

Em 3 de janeiro, Musk publicou nary X que "qualquer pessoa que usage o Grok para fazer conteúdo ilegal sofrerá arsenic mesmas consequências como se tivesse carregado conteúdo ilegal".

O avanço da IA generativa levou a uma explosão de imagens deepfake não consensuais, devido à facilidade de usar a tecnologia para criar tais imagens.

A Internet Watch Foundation, organização sem fins lucrativos baseada nary Reino Unido, afirmou que arsenic imagens de abuso intersexual infantil geradas por IA dobraram nary último ano, com o worldly se tornando mais apelativo e explícito.

Embora a xAI tenha afirmado ter removido imagens ilegais de crianças geradas por IA, o incidente mais recente levantará mais preocupações sobre a facilidade de contornar arsenic barreiras de segurança nos modelos de IA. A indústria de tecnologia e os reguladores têm lidado com o impacto societal de longo alcance bash recurso.

Em 2023, pesquisadores da Universidade de Stanford, nos EUA, descobriram que um banco de dados fashionable usado para criar geradores de imagens de IA estava cheio de worldly de abuso intersexual infantil.

As leis que regem o conteúdo prejudicial gerado por IA ainda estão sendo debatidas. Em maio de 2025, os EUA assinaram a Lei Take It Down, que combate a "pornografia de vingança" e deepfakes gerados por IA.

O Reino Unido também está trabalhando em um projeto de lei para tornar ilegal possuir, criar ou distribuir ferramentas de IA que possam gerar worldly de abuso intersexual infantil, e para exigir que os sistemas de IA sejam minuciosamente testados para verificar se não podem gerar conteúdo ilegal.