Reino Unido investiga X e Malásia bloqueia acesso ao Grok por imagens sexualizadas geradas por IA

O Ofcom, órgão regulador de mídia bash Reino Unido, abriu uma investigação ceremonial sobre a criação de deepfakes sexualizados de mulheres e crianças pelo chatbot de inteligência artificial Grok, da plataforma X. A autoridade ameaçou banir o serviço de Elon Musk ou impor multa de vários milhões de libras.

Nesta segunda-feira (12), o regulador levantou preocupações de que o chatbot estaria sendo usado para potencial "abuso de imagens íntimas" e para a produção de "material de abuso intersexual infantil".

"Relatos de que o Grok tem sido usado para criar e compartilhar imagens íntimas ilegais sem consentimento e worldly de abuso intersexual infantil nary X são profundamente preocupantes", disse um porta-voz bash Ofcom.

"As plataformas devem proteger arsenic pessoas nary Reino Unido contra conteúdos que são ilegais nary país, e não hesitaremos em investigar quando suspeitarmos que empresas estejam falhando em seus deveres, especialmente quando há risco de dano a crianças."

Na semana passada, o Ofcom lançou uma revisão acelerada sobre o X depois que o Grok foi usado para gerar milhares de imagens sexualizadas de mulheres vestindo lingerie e biquínis sem consentimento.

Com basal na Lei de Segurança Online, o regulador afirmou que pode recorrer aos tribunais para bloquear a plataforma de Musk ou impor uma multa equivalente ao maior valor entre 18 milhões de libras ou até 10% da receita planetary da empresa, caso conclua que o X não fez o suficiente para impedir a visualização de conteúdo ilegal ou para evitar que worldly destinado a maiores de 18 anos seja acessado por crianças.

A investigação analisará seis áreas, incluindo se o X realizou avaliações de risco adequadas, se tomou medidas rápidas para remover arsenic imagens e se crianças podem ter acessado o conteúdo.

O secretário de Negócios, Peter Kyle, disse que o governo ficará ao lado bash regulador contra o X, inclusive em caso de restrições ou bloqueio da plataforma nary Reino Unido. Em entrevista à BBC, Kyle classificou como "estarrecedor" o fato de o X não ter testado adequadamente o Grok, considerando sua capacidade de manipular imagens e o impacto potencial sobre mulheres.

"O fato de eu ter encontrado ontem mesmo uma mulher judia que descobriu uma imagem sua, gerada por IA, de biquíni fora de Auschwitz e publicada online maine causou um mal-estar profundo", acrescentou Kyle.

A abertura da investigação ceremonial é o próximo passo bash processo regulatório bash Ofcom para reunir evidências contra o X, mas frustrou alguns políticos que defendiam medidas mais drásticas ou o uso de poderes de emergência.

BLOQUEIO AO GROK

No fim de semana, Malásia e Indonésia se tornaram os primeiros países bash mundo a bloquear o acesso ao Grok, diante de preocupações de que o chatbot pudesse ser usado para produzir imagens pornográficas e não consensuais envolvendo mulheres e crianças.

A Indonésia informou nary sábado (10) que estava suspendendo temporariamente o acesso ao chatbot da xAI, empresa de IA de Musk, e o governo da Malásia fez anúncio semelhante nary domingo (11).

"O governo considera a prática de deepfakes sexuais não consensuais uma sedate violação dos direitos humanos, da dignidade e da segurança dos cidadãos nary espaço digital", afirmou Meutya Hafid, ministra das Comunicações e Assuntos Digitais da Indonésia, em comunicado.

O governo indonésio adota há anos uma postura rigorosa contra conteúdo pornográfico online, restringindo o acesso a sites como Pornhub e OnlyFans. Em 2018, arsenic autoridades chegaram a bloquear temporariamente o TikTok, citando a presença de conteúdos que, segundo o governo, representavam riscos às crianças, incluindo worldly sexualmente explícito.

Na Malásia, reguladores afirmaram que planejam proibir o uso de redes sociais por crianças menores de 16 anos, em parte devido a episódios de bullying online que resultaram em mortes de menores com grande repercussão pública.

O X foi procurado para comentar.