Idec pede ao governo suspensão do 'Grok', IA de Musk, por violações de direitos de crianças, adolescentes e mulheres

Esse tipo de manipulação, conhecido como deepfake (quando imagens reais são alteradas por inteligência artificial), não é novidade, mas se espalhou no X no mês passado e virou uma espécie de "trend" tanto no Brasil quanto em outros países.

O Idec encaminhou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.

Essa instância reúne o Ministério da Justiça e da Segurança Pública, o Ministério dos Direitos Humanos e da Cidadania, a Secretaria de Comunicação Social da Presidência da República e o Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).

Segundo o instituto, o Grok tem sido utilizado para difundir 'imagens sexualizadas não consentidas", "inclusive menores de idade", "sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos."

Para o instituto, "trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos."

O Idec também aponta violações à Lei Geral de Proteção de Dados (LGPD), ao Marco Civil da Internet, ao Estatuto da Criança e do Adolescente (ECA) e ao recém-aprovado ECA Digital.

O ofício também ressalta que o caso da Grok já gerou reações internacionais relevantes, com investigações e exigências de retirada de conteúdo por autoridades da União Europeia, Reino Unido, França e Índia.