Falha em chatbot do Instagram destaca riscos de segurança da automação

Desde ⁠então, a empresa anunciou que oferecerá mais controle aos pais de adolescentes para evitar que usuários mais jovens acessem conteúdo inadequado em suas plataformas.

Analistas e especialistas afirmaram que o problema não se limita à Meta, alertando que é provável que haja mais explorações desse tipo à medida que os hackers transformam a IA em arma.

"A preocupação não é necessariamente a IA em si, mas se existem salvaguardas adequadas em ​torno do que a IA está autorizada ​a fazer", disse Cliff Steinhauer, diretor de segurança da informação e engajamento da National Cybersecurity Alliance.

Desde que o lançamento do ChatGPT no final de 2022 estimulou uma corrida de chatbots de IA, hackers têm explorado ataques contra eles. Em um desses casos, o invasor enganou o bot de uma concessionária Chevrolet nos Estados Unidos para que vendesse um utilitário esportivo Tahoe por US$1.

"Não se trata de um problema específico da Meta. As pessoas estão usando esses agentes de IA para fazer muitas coisas. O que estamos vendo, na verdade, são problemas inesperados que estão surgindo com o uso da IA", disse Engin Kirda, professor do Departamento de Engenharia Elétrica ⁠e de Computação da Northeastern University.

"No passado, as pessoas eram alvo de golpes. Agora, estamos vendo agentes sendo alvo de golpes", disse ele, referindo-se ​a agentes de IA ou assistentes digitais autônomos habilitados a realizar tarefas complexas.