'Minha novinha': governo pede para Meta excluir robôs no Instagram que promovem erotização infantil

O governo acionou a empresa por meio de uma notificação extrajudicial, que serve como um aviso antes de uma ação formal na Justiça.

A notificação é baseada em uma reportagem do site Núcleo Jornalismo que mostra que o modelo de IA da Meta foi usada por terceiros para criar robôs com nomes como "Safadinha", "Bebezinha" e "Minha novinha".

Esses robôs que simulam perfis femininos podem trocar mensagens com usuários por meio do Instagram e são sugeridos pela rede social, que permite a qualquer pessoa criar uma inteligência artificial própria.

No documento, a AGU também pede para a Meta esclarecer quais medidas são adotadas para garantir a proteção de crianças e adolescentes, incluindo ações para que eles não tenham acesso a conteúdo sexual ou erótico nas redes sociais da empresa.

O órgão afirma que os assistentes de IA podem alcançar um público amplo, "ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso".

O órgão também cita a reportagem da agência de notícias Reuters que revela que os padrões da Meta permitiram conversas "sensuais" entre IA e crianças. A Meta disse que, após receber perguntas da agência, removeu essa autorização.

Ainda segundo a Reuters, o documento também permitia que os assistentes de inteligência artificial gerassem informações médicas falsas e ajudassem usuários a dizer que negros são "mais burros do que os brancos".