A Meta disse hoje que está pausando o acesso dos adolescentes aos seus personagens de IA em todo o mundo em todos os seus aplicativos. A empresa mencionou que não está abandonando seus esforços, mas deseja desenvolver uma versão atualizada de personagens de IA para adolescentes, disse a empresa com exclusividade ao TechCrunch.
A medida ocorre dias antes de um caso contra a Meta ir a julgamento no Novo México, no qual a empresa é acusada de não fazer nenhum esforço para proteger as crianças da exploração sexual em seus aplicativos. Com fio informou na quinta-feira que Meta procurou limitar as descobertas relacionadas ao impacto das mídias sociais na saúde psychological dos adolescentes.
Em outubro, a empresa apresentou uma prévia dos controles parentais para personagens de IA, permitindo que pais e responsáveis monitorem tópicos e bloqueiem o acesso a determinados personagens. Meta disse que os pais poderão desligar completamente os bate-papos com personagens de IA. Esses recursos foram programados para serem lançados este ano, mas a empresa agora está desativando totalmente os personagens de IA para adolescentes enquanto atualiza os personagens de IA para uma versão mais recente.
Meta disse que ouviu dos pais que eles queriam mais insights e controle sobre as interações de seus filhos adolescentes com personagens de IA, e é por isso que decidiu fazer essas mudanças.
A empresa tem reprimido o acesso de adolescentes ao conteúdo de IA em seus aplicativos. Também em outubro, a Meta lançou recursos de controle parental no Instagram, com foco em personalizar a experiência dos adolescentes de interagir com IA em seus aplicativos. Esses recursos, que foram inspirados na classificação de filmes PG-13, restringiam o acesso dos adolescentes a certos tópicos como violência extrema, nudez e uso explícito de drogas.
“A partir das próximas semanas, os adolescentes não poderão mais acessar personagens de IA em nossos aplicativos até que a experiência atualizada esteja pronta. Isso se aplicará a qualquer pessoa que nos tenha dado um aniversário de adolescente, bem como a pessoas que afirmam ser adultas, mas que suspeitamos serem adolescentes com base em nossa tecnologia de previsão de idade”, disse a empresa em uma postagem atualizada no weblog.
Meta acrescentou que quando lançar os novos personagens de IA, eles terão controles parentais integrados. A empresa disse que os novos personagens darão respostas adequadas à idade e se limitarão a tópicos como educação, esporte e hobbies.
As empresas de mídia social estão sob forte escrutínio dos reguladores. Além do caso mencionado no Novo México, Meta também enfrentará um julgamento na próxima semana, onde a plataforma é acusada de causar dependência em mídias sociais. Espera-se que o CEO Mark Zuckerberg preste depoimento nesse caso assim que o julgamento começar.
Além das plataformas sociais, as empresas de IA tiveram de modificar a sua experiência para os adolescentes depois de enfrentarem ações judiciais que alegavam desempenhar um papel no auxílio à automutilação. Em outubro, Character.AI, a startup que permite aos usuários conversar com vários avatares de IA, proibiu conversas abertas com chatbots para usuários menores de 18 anos. Em novembro, a startup disse que criaria histórias interativas para crianças. Nos últimos meses, a OpenAI adicionou novas regras de segurança para adolescentes ao ChatGPT e começou a prever a idade do usuário para aplicar restrições de conteúdo.
Correção: Esta postagem foi atualizada para esclarecer que a nova versão dos personagens de IA estará acessível a todos, não apenas aos adolescentes, quando for lançada. Incluirá controles dos pais.
