Meta hits pausam seus personagens de IA para adolescentes

Eles chamam isso de Despejo de notícias de sexta-feira — empresas que publicam notícias embaraçosas num dia em que é menos provável que os meios de comunicação se preocupem em cobri-las. Mas Meta levou as notícias de sexta-feira a um nível totalmente novo com este anúncio: desativou seus personagens de IA para contas de adolescentes, pelo menos até que os personagens possam se comportar bem.

A notícia não foi divulgada apenas na sexta-feira – foi divulgada uma atualização para uma postagem do blog desde outubro passado.

“Começamos a construir uma nova versão de personagens de IA, para oferecer às pessoas uma experiência ainda melhor”, diz agora a nota de Adam Mosseri, chefe do Instagram e Alexandr Wang, diretor de IA – uma atualização que a Meta prometeu há muito tempo. Então veio a parte que daria a muitas crianças uma Black Friday nada Rebecca.

“Enquanto nos concentramos no desenvolvimento desta nova versão, estamos pausando temporariamente o acesso dos adolescentes aos personagens de IA existentes em todo o mundo. A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta. tecnologia de previsão de idade.”

O criador do Instagram e do Fb quer enfatizar “não está abandonando seus esforços” em personagens de IAde acordo com o TechCrunch. Ainda assim, isto é claramente uma admissão de que algo tem potencial para dar certo. muito errado com a versão atual de seus personagens de IA, no que diz respeito à segurança e saúde psychological dos adolescentes.

Meta não está sozinho nesta descoberta. Character.AI e Google resolveram ações judiciais este mês, movidas por vários pais de crianças que morreram por suicídio. Um deles period um menino de 14 anos que foi, na verdade, preparado e abusado sexualmente, diz sua mãe, por um chatbot baseado no Guerra dos Tronos personagem Daenerys Targaryen.

Atingido por um relatório de especialistas em segurança on-line, Character.AI encerrou todos os chats para usuários menores de 18 anos em outubro, dois meses depois que Meta simplesmente decidiu começar a treinar seus chatbots adolescentes para não “se envolver com usuários adolescentes em automutilação, suicídio, alimentação desordenada ou conversas românticas potencialmente inadequadas”. Evidentemente, esse treinamento não foi suficiente.

Esta não é a primeira vez que a Meta teve que voltar atrás em suas ambições para contas de personagens de IA. Em 2024, removeu personas de IA baseadas em celebridades. Em janeiro do ano passado, retirou todos os perfis de seus personagens de IA após uma reação contra o suposto racismo.

O problema do uso entre adolescentes também não é pequeno. Mais da metade dos adolescentes de 13 a 17 anos pesquisado pela Common Sense Media no ano passado disseram que usaram companheiros de IA mais de uma vez por mês. Por enquanto, eles terão que fazer isso em outro lugar que não seja Meta.