Google e Character.AI, que têm trabalharam juntos em chatbots de IAconcordaram em resolver cinco ações judiciais em quatro estados relacionados a menores prejudicados por interações com chatbots Character.AI.
Embora o acordo não esteja finalizado, incluiria a resolução de casos em Flórida, Texas, Nova Iorque e Colorado sobre o uso de serviços de chatbot. Em um caso de grande repercussão, um adolescente de Orlando de 14 anos, Sewell Setzer III, morreu por suicídio em fevereiro de 2024, após interagir com um dos chatbots da Character.AI. A mãe do adolescente, Megan L. Garcia, entrou com uma ação no Tribunal Distrital dos EUA na Flórida no closing daquele ano.
Não perca nenhum de nossos conteúdos técnicos imparciais e análises baseadas em laboratório. Adicionar CNET como fonte preferencial do Google.
Um representante do Google não respondeu imediatamente aos pedidos de comentários. Um representante da Character.AI referiu-se aos registros estaduais, mas não pôde comentar os acordos.
No ano passado, Character.AI fez grandes mudanças em sua plataformaproibindo menores de 18 anos de participar de bate-papos abertos com seus chatbots. Em vez disso, os adolescentes podem construa histórias com personagens de IA utilizando as ferramentas da empresa.
Antes dessas mudanças no ano passado, o CEO da Character.AI, Karandeep Anand, disse à CNET: “Há uma maneira melhor de atender usuários adolescentes.
A empresa também começou a usar software program de detecção de idade para determinar quem tem 18 anos ou mais.
Google e Character.AI não são os únicos gigantes da tecnologia que enfrentaram críticas e ações legais por causa de chatbots e suas interações com crianças. A OpenAI também fez alterações em seu standard ChatGPT diante de ações judiciais sobre suicídios e danos a crianças.
(Divulgação: Ziff Davis, empresa controladora da CNET, entrou com uma ação judicial contra a OpenAI em abril, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
