Poucos dias depois No lançamento, o tão elogiado sistema de verificação de idade baseado em IA da Roblox é uma bagunça completa.
O sistema de digitalização facial da Roblox, que estima a idade das pessoas antes de poderem acessar as funções de bate-papo da plataforma, foi lançado nos EUA e em outros países ao redor do mundo na semana passada, após lançamento inicial em alguns locais em dezembro. Roblox diz está implementando o sistema para permitir que os usuários conversem com segurança com usuários de idades semelhantes.
Mas os jogadores já estão em revolta porque eles não podem mais conversar com seus amigos, desenvolvedores estão exigindo Roblox reverter a atualização e, o que é mais importante, os especialistas dizem que não só a IA está envelhecendo os jovens jogadores como adultos e vice-versa, o sistema faz pouco para ajudar a resolver o problema que foi projetado para resolver: a enxurrada de predadores que usam a plataforma para preparar crianças pequenas.
Na verdade, a WIRED encontrou vários exemplos de pessoas anunciando contas com idade verificada para menores de 9 anos no eBay por apenas US$ 4.
Depois que a WIRED sinalizou as listagens, a porta-voz do eBay, Maddy Martinez, disse que a empresa as estava removendo por violar as políticas do website.
Por e-mail, Matt Kaufman, diretor de segurança da Roblox, disse à WIRED que uma mudança dessa magnitude em uma plataforma com mais de 150 milhões de usuários diários leva tempo.
“Você não pode apertar um botão enquanto constrói algo que não existia antes”, disse ele. “Esperar que o sistema seja perfeito da noite para o dia é ignorar a escala deste empreendimento.”
Kaufman disse que a empresa estava satisfeita com a aceitação, acrescentando que “dezenas de milhões de utilizadores” já verificaram a sua idade, o que, segundo ele, prova que “a grande maioria da nossa comunidade valoriza um ambiente mais seguro e adequado à idade”.
A empresa também respondeu a algumas das críticas em uma atualização na sexta-feira, escrevendo: “Estamos cientes de casos em que os pais verificam a idade em nome de seus filhos, fazendo com que as crianças tenham mais de 21 anos. Estamos trabalhando em soluções para resolver isso e compartilharemos mais aqui em breve.”
Roblox anunciou o requisito de verificação de idade em julho passado como parte de uma série de novos recursos projetados para tornar a plataforma mais segura. A empresa tem estado sob intensa pressão nos últimos meses, depois de vários processos alegarem que a empresa não conseguiu proteger os seus utilizadores mais jovens e facilitou que predadores preparassem crianças.
Os procuradores-gerais de Luisiana, Texase Kentucky também entrou com ações judiciais contra a empresa no ano passado fazendo reivindicações semelhantes, enquanto o procurador-geral da Flórida emitiu intimações criminais para avaliar se Roblox está “ajudando predadores a acessar e prejudicar crianças”.
Roblox afirma que exigir que as pessoas verifiquem suas idades antes de permitir que conversem com outras pessoas impedirá que os adultos possam interagir livremente com crianças que não conhecem.
Embora o processo seja opcional, recusar fazê-lo significa que uma pessoa não terá mais acesso às funções de chat da plataforma, um dos principais motivos pelos quais a maioria das pessoas usa o Roblox.
Para verificar a idade, as pessoas são solicitadas a gravar um pequeno vídeo com a câmera do aparelho, que é processado por uma empresa chamada Persona, que estima sua idade. Como alternativa, os usuários podem fazer add de um documento de identidade com foto emitido pelo governo se tiverem 13 anos ou mais.
Roblox diz que todas as informações pessoais são “excluídas imediatamente após o processamento”. No entanto, muitos usuários on-line dizem que não estão dispostos a realizar a verificação de idade por questões de privacidade.
Pessoas que verificaram suas idades só podem conversar com um pequeno grupo de outros jogadores da mesma idade. Por exemplo, aqueles verificados como menores de 9 anos só podem conversar com jogadores de até 13 anos. Jogadores com 16 anos podem conversar com jogadores entre 13 e 20 anos.
