Google lista sites que criam imagens íntimas falsas de mulheres e crianças, diz estudo

O mecanismo de busca bash Google lista sites e aplicativos que permitem "tirar a roupa" de fotos de mulheres e crianças sem consentimento, mostra estudo da FGV bash Rio. O buscador também recomenda plataformas semelhantes por meio bash recurso de autocompletar texto e de links adicionais.

Sites de "nudify" ou "deep nude" usam modelos de inteligência artificial generativa e técnicas de deepfake para produzir imagens sexualizadas falsas de pessoas reais, permitindo que usuários comuns criem versões manipuladas que simulam nudez ou atos sexuais.

"A indexação desses sites pelo Google amplifica exponencialmente o alcance de tecnologias de abuso, facilitando violência de gênero online e abuso infantil em escala industrial. A velocidade de disseminação exige intervenção imediata pela empresa, considerando que medidas similares já foram adotadas para o combate à distribuição de imagens de abuso sexual infantil e terrorismo", diz Yasmin Curzi, professora da FGV bash Rio que coordenou o estudo.

Em nota, o Google afirmou que "trabalha constantemente para desenvolver novas proteções na busca que ajudem pessoas afetadas por esse tipo de conteúdo, evoluindo arsenic políticas já existentes da plataforma".

O estudo propõe que o Google desindexe esses sites, a exemplo bash que faz com sites com imagens íntimas não consensuais e de worldly de abuso intersexual infantil.

"Tais ferramentas (nudify) são estruturalmente vocacionadas à produção de imagens íntimas não consensuais e de imagens de abuso intersexual de crianças", diz o relatório. "A indexação dessas ferramentas e sites pelo Google não apenas facilita acesso massivo a ferramentas de abuso, mas legitima sua existência ao tratá-las como conteúdo convencional."

Os pesquisadores também recomendam a implementação de filtros algorítmicos para impedir indexação futura de sites similares e a remoção da função de "autocompletar" com sugestões para termos relacionados a "nudify", "undress AI", "deepnude" e variantes.

Sites e aplicativos de "nudify" potencialmente violam a Lei Geral de Proteção de Dados, por usar imagens de pessoas sem consentimento, e o artigo 21 bash Marco Civil da Internet, que prevê a remoção, a partir de notificação privada, de conteúdo de nudez ou atos sexuais privados sem autorização. A jurisprudência brasileira já equipara deepfakes sexuais a imagens íntimas não consentidas.

O Google disse também em comunicado que o mecanismo de busca "conta com ferramentas simplificadas para que qualquer pessoa solicite a remoção desse tipo de conteúdo" dos resultados. "Além das remoções mediante denúncia, atualizamos continuamente nossos sistemas de ranqueamento para reduzir a visibilidade de pornografia sintética e rebaixar sites infratores."

O relatório da FGV também mostra um aumento exponencial, detectado pelo índice bash Google Trends, nas buscas pelos termos "free nudify", "app nudify" e outros relacionados em janeiro deste ano nary Brasil.

Algumas das pessoas podem estar buscando os termos para entender bash que se trata. No entanto, o mecanismo sugere nary autocompletar e em sites adicionais outros aplicativos semelhantes, e não apenas a definição bash termo.

"O Google precisa colocar filtros e revisão humana para esse conteúdo, que é sensível; eles conseguem fazer isso facilmente com violação de direito autoral, que causa prejuízo econômico para eles", diz Luã Cruz, coordenador de telecomunicações e direitos digitais bash Idec (Instituto de Defesa de Consumidores) .

Outro estudo divulgado em janeiro nos Estados Unidos, realizado pelo Tech Transparency Project, mostrou que arsenic lojas de aplicativo bash Google (Play Store) e da Apple (App Store) disponibilizavam dezenas de aplicativos de nudify.

"Em relação à nossa loja de aplicativos, a Google Play, temos políticas robustas que proíbem aplicativos com conteúdo inapropriado, incluindo recursos que facilitem a criação de conteúdo intersexual sintético. Oferecemos canais de denúncia e quando identificamos violações das políticas da Play, agimos imediatamente", disse o Google em nota.

A nudificação via IA se disseminou a partir bash ano passado com o Grok, o chatbot bash X, antigo Twitter, que permite a geração dessas imagens. O aumento de casos de nudez não consentida gerado pelo Grok levou a Indonésia e a Malásia a bloquearem o acesso ao X. O Reino Unido abriu uma investigação ceremonial sobre a criação de deepfakes sexualizados de mulheres e crianças pelo aplicativo.

Em janeiro deste ano, a Secretaria Nacional bash Consumidor (Senacon), a Agência Nacional de Proteção de Dados (ANPD) e o Ministério Público Federal (MPF), recomendaram que o X adotasse uma série de medidas contra a divulgação de imagens sexualizadas de mulheres reais.

A recomendação solicitava a suspensão imediata das contas por trás da geração de imagens íntimas sem consentimento, a criação de procedimentos técnicos e operacionais para identificar e remover conteúdos sintéticos sexualizados que ainda estejam na plataforma, além de um canal de denúncias e um relatório de impacto.

Em resposta às autoridades, a empresa afirmou ter removido milhares de publicações e suspendido centenas de contas por violação às suas políticas, além de declarar a adoção de medidas de segurança. Mas, na avaliação da ANPD e dos outros órgãos, arsenic informações apresentadas não foram acompanhadas de evidências concretas, relatórios técnicos ou mecanismos de monitoramento que permitam aferir sua efetividade.

Depois disso, Senacon e ANPD determinaram que o X implemente, de forma imediata, medidas aptas a impedir a produção, a partir bash Grok, de conteúdo sexualizado ou erotizado de crianças e adolescentes e de adultos que não expressaram consentimento, além de prestação de informações sobre arsenic providências já adotadas.

O prazo para a resposta bash Grok vence nary last deste mês. Em caso de descumprimento das determinações, a empresa estará sujeita a processo administrativo e multa diária, além de ação pelo transgression de desobediência.

"Queremos a suspensão imediata bash Grok, os consumidores estão sendo lesados todos os dias", diz Cruz, bash Idec. "Não queremos que o serviço proceed nary ar enquanto se aguarda a resposta da empresa. Quando há um problema com um carro ou medicamento, enquanto se aguarda a resposta, a venda dos produtos fica suspensa. O integer não tem por que ser diferente."