O alerta de Scarlett Johansson sobre uso de IA após polêmica de vídeo deepfake contra Kanye West

• Author, Paul Glynn
• Role, Da BBC News

• Há 37 minutos

Nesta semana, Kanye West fez uma série de postagens antissemitas na plataforma X e vendeu camisetas com suásticas em seu site, que foi divulgado na Califórnia em horário nobre na televisão, durante o Super Bowl do futebol americano.

As manifestações de Kanye West provocaram revolta entre muitos, e começou a circular na internet um vídeo falso — criado com inteligência artificial — em que Johansson e outras estrelas judias, incluindo David Schwimmer, Woody Allen, Jerry Seinfeld, Paul Simon e Art Garfunkel, aparecem vestindo uma camiseta branca mostrando a Estrela de Davi em uma mão fazendo uma saudação com o dedo médio, acima da palavra "Kanye".

A atriz americana disse que, embora não tivesse tolerância com "discurso de ódio", ela estava preocupada com a ameaça da IA ​​nos fazer "correr o risco de perder o controle da realidade".

Em uma declaração à revista People, a atriz disse: "Parentes e amigos me chamaram atenção que um vídeo gerado por IA com minha imagem, em resposta a uma visão antissemita, está circulando online e ganhando força".

"Sou uma mulher judia que não tolera antissemitismo ou discurso de ódio de qualquer tipo", afirmou.

"Mas também acredito firmemente que o potencial de discurso de ódio multiplicado pela IA é uma ameaça muito maior do que qualquer pessoa que assuma a responsabilidade por isso."

Ela acrescentou: "Devemos denunciar o uso indevido da IA, não importa sua mensagem, ou corremos o risco de perder o controle da realidade."

O vídeo também traz imagens deepfake de Steven Spielberg, Adam Sandler, Sacha Baron Cohen e Natalie Portman.

O vídeo traz o slogan: "Basta. Junte-se à luta contra o antissemitismo."

West, que mudou seu nome para Ye, vem se declarando nazista. Ele elogiou Hitler no X no domingo (9/2), antes de dizer que fecharia sua conta.

Ele também apareceu em um anúncio durante o Super Bowl direcionando as pessoas para seu site, que começou a vender apenas um produto: camisetas com suásticas.

Na terça-feira (11/2), o site foi retirado do ar pela Shopify devido a violações de política.

Na quarta-feira, o CEO da Fox Television Stations, Jack Abernethy, condenou o anúncio em uma nota à equipe.

"O anúncio, que foi apresentado como um site legítimo de vestuário online antes e durante a transmissão do Super Bowl, foi trocado em algum momento depois, e completamente fora do controle de nossas estações, as pessoas que procuraram a loja por causa dos comerciais foram redirecionadas para o marketing de um produto totalmente terrível", disse ele, em referência às camisas com suásticas, segundo a Variety.

O cantor Ty Dolla $ign, que colaborou com West em 2024 em seus mais recentes discos também se distanciou do rapper esta semana, mas não chegou a chamá-lo pelo nome.

"Eu não tolero nenhuma forma de discurso de ódio contra ninguém", escreveu Ty Dolla $ign no Instagram.

Nicole Lampert, colunista do jornal judaico Jewish Chronicle, disse que "foi emocionante ver estrelas judias enfrentando Kanye West — se ao menos elas tivessem realmente feito isso".

"Um vídeo viral da campanha, que acabou sendo gerado por IA, serve apenas para destacar o silêncio ensurdecedor da classe das celebridades."

Uma agência reguladora do setor de publicidade do Reino Unido afirma que vídeos e fotos falsas com celebridades e figuras públicas são o tipo mais comum de anúncios fraudulentos que aparecem online.