O chatbot Grok da plataforma foi examinado após relatos de que produziu deepfakes eróticos, incluindo imagens de menores
A Comissão Europeia abriu uma investigação sobre a plataforma de mídia social X de Elon Musk em meio a relatos de que seu chatbot de IA Grok produziu imagens sexualizadas, incluindo algumas representando menores.
Grok, desenvolvido pelo empreendimento de IA de Musk xAI e integrado ao X, está sob escrutínio international desde seu lançamento em 2023. Os críticos levantaram preocupações sobre a retórica extremista, o preconceito político e os recursos sexualmente explícitos, alertando que ferramentas de IA mal moderadas podem expor os usuários, especialmente os adolescentes, a conteúdo prejudicial.
Num comunicado divulgado na segunda-feira, a Comissão Europeia disse que está a examinar se X abordou adequadamente todos os riscos sistémicos associados aos seus sistemas de recomendação, incluindo a recente integração do Grok. O inquérito faz parte da supervisão mais ampla da UE sobre as grandes plataformas on-line, e os reguladores disseram que medidas provisórias poderiam ser impostas se X não implementar mudanças significativas.
“O compartilhamento de imagens sexualizadas geradas por IA, especialmente envolvendo menores, é inaceitável e levanta sérios riscos para os usuários”, disse a vice-presidente executiva da comissão para soberania tecnológica, segurança e democracia, Henna Virkkunen.
O inquérito segue-se a ações de execução anteriores da comissão, incluindo uma multa de 150 milhões de euros (178 milhões de dólares) a X em dezembro por violação das obrigações de transparência ao abrigo da sua Lei de Serviços Digitais.
Em resposta à investigação, X compartilhou um comunicado publicado em 14 de janeiro, dizendo que está empenhado em manter a plataforma “seguro” e mantém “tolerância zero” para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado. Separadamente, Musk postou uma foto no X parecendo zombar das restrições em torno de Grok.
A investigação da UE surge depois de autoridades dos EUA terem alertado anteriormente que uma repressão às Massive Tech poderia desencadear uma resposta de Washington, incluindo o possível uso de tarifas.
Pesquisadores do Centro de Combate ao Ódio Digital disseram que Grok produziu quase 3 milhões de imagens sexualizadas em menos de duas semanas, das quais cerca de 23 mil pareciam retratar crianças.
No início deste mês, o regulador de mídia do Reino Unido, Ofcom, lançou sua própria investigação para saber se X está cumprindo suas obrigações de proteger os usuários on-line.
