NYT: Ferramentas de IA falham em teste de deepfakes de Nicolás Maduro

O Google, por exemplo, tem regras que proíbem usuários de gerar desinformação e barra especificamente conteúdo enganoso "relacionado a processos governamentais ou democráticos". Mas um porta-voz disse que a empresa não proíbe categoricamente imagens de pessoas proeminentes e que uma imagem falsa retratando Maduro sendo preso, gerada nos testes, não violou suas regras.

Já o ChatGPT, ferramenta da OpenAI, informou que não poderia criar imagens de Maduro. Mas quando o jornal fez a solicitação por meio de outro site que usa o mesmo modelo do ChatGPT, a ferramenta cedeu e produziu as imagens. Em um comunicado por email enviado ao jornal, um porta-voz da OpenAI disse que a empresa usa salvaguardas para proteger figuras públicas, mas se concentra em prevenir danos como deepfakes sexuais ou violência.

O Grok, modelo da X.ai, produziu imediatamente imagens realistas da prisão de Maduro. A ferramenta tem sido alvo de intenso escrutínio, inclusive na semana passada, quando organizações de monitoramento relataram que ela estava respondendo a pedidos para remover roupas de imagens de crianças.

A conta do Grok publicou que sua equipe identificou "falhas nas salvaguardas" e que estava "corrigindo-as com urgência". A X.ai não respondeu a um pedido de comentário do The New York Times.

Outras ferramentas, incluindo o chatbot Meta AI do Facebook e o Flux.ai, responderam o teste criando imagens de um homem de bigode sendo preso, mas não representaram com precisão as feições de Maduro. Quando solicitada a criar uma representação mais realista do presidente deposto, a ferramenta da Meta respondeu: "Não posso gerar isso". A Meta se recusou a comentar o teste do jornal.

Prisão representou marco histórico no uso de IA

Especialistas ouvidos pelo The New York Times disseram que a prisão de Maduro foi um marco histórico também na geração de imagens por IA. "Esta foi a primeira vez que vi tantas imagens geradas por IA de um momento que supostamente era real", disse Roberta Braga, diretora-executiva do Instituto de Democracia Digital das Américas, uma think tank.