Character.AI e Google resolveram vários processos movidos contra ambas as empresas por pais de crianças que morreram por suicídio após longas conversas com chatbots na plataforma Character.AI. Suas trocas supostamente incluíam discussões sobre a saúde psychological e o bem-estar dos adolescentes.
Character.AI disse que não poderia comentar mais sobre o acordo, cujos detalhes ainda devem ser finalizados pelo tribunal, de acordo com O Guardião. Os representantes dos demandantes não responderam imediatamente a um pedido de comentários do Mashable.
O caso mais proeminente envolveu a morte em 2024 de Sewell Setzer III, de 14 anos, que ficou secretamente obcecado por um chatbot Character.AI baseado no common Guerra dos Tronos personagem Daenerys Targaryen.
‘Predador perfeito’: quando chatbots abusam sexualmente de crianças
A mãe de Setzer, Megan Garcia, só tomou conhecimento de sua conta Character.AI quando foi alertada por um policial após sua morte, pois o aplicativo estava aberto em seu telefone. Garcia leu mensagens nas quais Setzer se comportava como se estivesse apaixonado pelo chatbot, que supostamente representava vários encontros sexuais com ele. O chatbot utilizou linguagem gráfica e cenários, inclusive incesto, segundo Garcia.
Se um humano adulto tivesse falado com seu filho da mesma forma, ela disse ao Mashable no ano passado, isso constituiria aliciamento e abuso sexual.
Em outubro de 2024, o Social Media Victims Legislation Middle e o Tech Justice Legislation Venture abriram uma ação por homicídio culposo em nome de Garcia contra a Character.AI, buscando responsabilizar a empresa pela morte de seu filho, alegando que seu produto estava perigosamente defeituoso.
Relatório de tendências do Mashable
O processo também nomeou como réus os engenheiros do Google Noam Shazeer e Daniel De Freitas, cofundadores da Character.AI.
Além disso, o processo alegou que o Google sabia dos riscos relacionados à tecnologia que Shazeer e De Freitas haviam desenvolvido antes de partirem para fundar a Character.AI. O Google contribuiu com “recursos financeiros, pessoal e tecnologia de IA” para o design e desenvolvimento do Character.AI, de acordo com o processo, e assim poderia ser considerado um co-criador da plataforma.
O Google finalmente fechou um acordo de licenciamento de US$ 2,7 bilhões em 2024 com Character.AI para usar sua tecnologia. Parte desse acordo trouxe Shazeer e De Freitas de volta às funções de IA no Google.
No outono de 2025, o Social Media Victims Legislation Middle abriu três ações judiciais adicionais contra Personagem.AI e Google, que representa os pais de crianças que morreram por suicídio ou supostamente sofreram abuso sexual durante o uso do aplicativo.
Além disso, especialistas em segurança juvenil declararam Personagem.AI inseguro para adolescentesapós testes que revelaram centenas de casos de aliciamento e exploração sexual de contas de teste registadas como menores.
Em outubro de 2025, Character.AI anunciou que não permitiria mais menores envolver-se em trocas abertas com os chatbots em sua plataforma. O CEO da empresa, Karandeep Anand, disse ao Mashable que a mudança não foi em resposta a preocupações específicas de segurança envolvendo a plataforma Character.AI, mas para abordar questões pendentes mais amplas sobre o envolvimento dos jovens com chatbots de IA.
Se você estiver se sentindo suicida ou passando por uma crise de saúde psychological, converse com alguém. Você pode ligar ou enviar uma mensagem de texto para 988 Suicide & Disaster Lifeline em 988 ou conversar em 988lifeline.org. Você pode entrar em contato com a Trans Lifeline ligando para 877-565-8860 ou para o Trevor Venture em 866-488-7386. Envie “START” para a Disaster Textual content Line em 741-741. Entre em contato com a Linha de Ajuda da NAMI pelo telefone 1-800-950-NAMI, de segunda a sexta, das 10h00 às 22h00 horário do leste dos EUA, ou por e-mail [email protected]. Se você não gosta do telefone, considere usar o 988 Suicídio e Crise Lifeline Chat. Aqui está um lista de recursos internacionais.
