A Comissão Europeia lançou uma investigação no X de Elon Musk devido a preocupações de que sua ferramenta de IA Grok foi usada para criar imagens sexualizadas de pessoas reais.
Segue um anúncio semelhante em janeiro do órgão de vigilância do Reino Unido, Ofcom.
Regina Doherty, membro do Parlamento Europeu que representa a Irlanda, disse que a Comissão avaliaria se “imagens sexualmente explícitas manipuladas” foram mostradas a utilizadores na UE.
UM declaração anterior da conta Security de X disse que a plataforma de mídia social impediu Grok de alterar digitalmente fotos de pessoas para tirar suas roupas em “jurisdições onde tal conteúdo é ilegal”.
Mas os ativistas e as vítimas disseram que a capacidade de gerar imagens sexualmente explícitas usando a ferramenta deveria ter “nunca acontecido” em primeiro lugar, e o Ofcom disse que sua investigação continuaria em andamento.
O regulador da UE disse que pode “impor medidas provisórias” se X se recusar a implementar ajustes significativos.
Afirmou que também estendeu a investigação em curso lançada em dezembro de 2023 sobre os riscos associados aos sistemas de recomendação do X – o algoritmo que recomenda publicações específicas aos utilizadores.
Antes do anúncio da Comissão, Elon Musk postou uma foto no X na segunda-feira parecendo fazer pouco caso das novas restrições em vigor em torno de Grok.
O proprietário do X já criticou aqueles que examinam a função de edição de imagens do aplicativo – especialmente o governo do Reino Unido – chamando-o de “qualquer desculpa para censura”.
No domingo, a conta Grok no X reivindicou mais de 5,5 bilhões de imagens foram geradas pela ferramenta em apenas 30 dias.
Em comunicado à Reuters, Doherty disse que havia “sérias questões” sobre se plataformas como X estavam cumprindo as obrigações legais “para avaliar os riscos adequadamente e impedir a propagação de conteúdo ilegal e prejudicial”.
“A União Europeia tem regras claras para proteger as pessoas on-line”, disse ela.
“Essas regras devem significar algo na prática, especialmente quando tecnologias poderosas são implementadas em grande escala.
“Nenhuma empresa que opera na UE está acima da lei.”
Um porta-voz do Coimisiún na Meán, regulador de mídia da Irlanda, disse que acolheu com satisfação a notícia.
“Não há lugar em nossa sociedade para abuso não consensual de imagens íntimas ou materials de abuso sexual infantil”, disseram eles.
A mudança ocorre um mês depois de a UE multado em X € 120 milhões (£ 105 milhões) por seus emblemas azuisdizendo que eles “enganam os usuários” porque a empresa não está “verificando de forma significativa” quem está por trás da conta.
Em resposta, o secretário de Estado dos EUA, Marco Rubio, e a Comissão Federal de Comunicações (FCC) acusaram o regulador da UE de atacar e censurar empresas norte-americanas.
“A multa da Comissão Europeia não é apenas um ataque a X, é um ataque a todas as plataformas tecnológicas americanas e ao povo americano por parte de governos estrangeiros”, disse ele.
Suas observações foram republicadas por Musk, que acrescentou “absolutamente”.
