Google e empresa de IA devem enfrentar ação judicial movida por uma mãe sobre suicídio do filho, decide tribunal dos EUA

O processo é um dos primeiros nos Estados Unidos contra uma empresa de IA por supostamente não proteger menores de danos psicológicos. Ela alega que o adolescente se matou depois de ficar obcecado por um chatbot alimentado por IA.

Um porta-voz da Character.AI disse que a empresa continuará a lutar contra o caso e emprega recursos de segurança em sua plataforma para proteger menores, incluindo medidas para evitar "conversas sobre automutilação".

O porta-voz do Google, José Castañeda, disse que a empresa discorda totalmente da decisão. Castañeda também disse que o Google e a Character.AI são "totalmente separados" e que o Google "não criou, projetou ou gerenciou o aplicativo da Character.AI ou qualquer componente dele".

A advogada de Garcia, Meetali Jain, disse que a decisão "histórica" "estabelece um novo precedente para a responsabilidade legal em todo o ecossistema de IA e tecnologia".

A Character.AI foi fundada por dois ex-engenheiros do Google, que o Google posteriormente recontratou como parte de um acordo que lhe concedeu uma licença para a tecnologia da startup. Garcia argumentou que o Google era um cocriador da tecnologia.

Garcia processou as duas empresas em outubro, após a morte de seu filho, Sewell Setzer, em fevereiro de 2024.