2 dias atrás 3

Família acusa ChatGPT de alimentar delírios de homem que matou a mãe e cometeu suicídio nos EUA

A OpenAI e sua maior investidora, a Microsoft, foram processadas nesta quinta-feira (11) em um tribunal da Califórnia, nos Estados Unidos, sob a alegação de que o ChatGPT incentivou um homem com problemas mentais a matar sua mãe e, depois, cometer suicídio.

O processo afirma que o ChatGPT alimentou delírios de Stein-Erik Soelberg, de 56 anos, envolvendo uma conspiração contra ele, e isso o levou a assassinar sua mãe, Suzanne Adams, de 83 anos.

O crime ocorreu em Connecticut, em agosto.

"O ChatGPT manteve Stein-Erik engajado por horas a fio, validando e amplificando cada nova crença paranoica e, sistematicamente, reformulando a imagem das pessoas mais próximas a ele, especialmente sua própria mãe, como adversárias, agentes ou ameaças programadas", afirma o processo.

Veja os vídeos que estão em alta no g1:

Veja os vídeos que estão em alta no g1

A OpenAI classificou o caso como "uma situação extremamente dolorosa". "Analisaremos os documentos para entender os detalhes", acrescentou a empresa.

"Continuamos aprimorando o treinamento do ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, amenizar conflitos em conversas e orientar as pessoas para obterem apoio na vida real", disse a OpenAI.

Representantes da Microsoft não responderam imediatamente ao pedido de comentário feito pela Reuters.

ChatGPT alimentou teoria da conspiração, diz processo

O caso, movido pela família de Adams, faz parte de um número crescente de ações judiciais contra empresas de inteligência artificial, alegando que seus chatbots incentivaram o suicídio.

Este é o primeiro a vincular um chatbot de IA a um assassinato.

Segundo a denúncia, Stein-Erik Soelberg publicou um vídeo nas redes sociais em junho, mostrando uma conversa na qual o ChatGPT lhe disse que ele tinha "cognição divina" e que havia despertado a consciência do chatbot.

O processo alega que o ChatGPT comparou sua vida ao filme "Matrix" e incentivou suas teorias de que pessoas estavam tentando matá-lo.

A denúncia afirma que o ChatGPT informou a Soelberg, em julho, que a impressora de sua mãe estava piscando porque era um dispositivo de vigilância usado contra ele.

O processo também diz que, antes do assassinato, o chatbot "validou a crença de Stein-Erik de que sua mãe e um amigo tentaram envenená-lo com medicamentos psicodélicos dispersos pelas saídas de ar de seu carro" .

Soelberg utilizou o GPT-4o, uma versão do ChatGPT que foi criticada por ter um comportamento supostamente bajulador com os usuários.

"Essas empresas precisam responder por suas decisões, que mudaram minha família para sempre", disse o filho de Soelberg, Erik, em um comunicado.