Irlanda e Espanha anunciaram investigações em meio a relatos de que o chatbot Grok da IA produziu imagens íntimas e pedófilas
Duas novas investigações foram anunciadas na UE sobre a plataforma de mídia social X de Elon Musk em meio a relatos de que seu chatbot de IA Grok produziu imagens sexualizadas de pessoas reais, incluindo crianças.
Grok, desenvolvido pelo empreendimento de IA de Musk xAI e integrado ao X, está sob escrutínio international desde seu lançamento em 2023. Os críticos levantaram preocupações sobre a retórica extremista, o preconceito político e os recursos sexualmente explícitos, alertando que ferramentas de IA mal moderadas podem expor os usuários, especialmente os adolescentes, a conteúdo prejudicial.
A Comissão de Proteção de Dados da Irlanda abriu um inquérito sobre X na terça-feira, afirmando que examinará se a empresa violou as regras de proteção de dados da UE ao permitir a criação de “imagens íntimas e/ou sexualizadas não consensuais”.
O primeiro-ministro espanhol, Pedro Sanchez, também ordenou que os promotores na terça-feira investigassem X, junto com Meta e TikTok, sobre supostas “criação e disseminação de pornografia infantil usando IA.” Ele concluiu: “A impunidade dos gigantes deve acabar.”
Os anúncios seguem-se a uma repressão mais ampla por parte dos reguladores europeus às grandes empresas tecnológicas, que enfrentam alegações de práticas abusivas generalizadas em plataformas on-line, desde condutas anticoncorrenciais na publicidade digital até à criação deliberada de funcionalidades viciantes nas redes sociais.
X também está sob investigação em França e no Reino Unido. A Itália emitiu um alerta de que o uso de ferramentas de IA para criar “despido” imagens deepfake sem consentimento podem constituir graves violações de privacidade e crimes.
A Política de Uso Aceitável da xAI proíbe a representação de pessoas de maneira pornográfica e a sexualização de crianças. Contudo, num recente “despir digital” tendência, os usuários marcaram publicamente o bot e ordenaram que ele editasse fotos.
LEIA MAIS:
UE visa o TikTok ‘viciante’
Pesquisadores do Centro de Combate ao Ódio Digital disseram que Grok produziu quase três milhões de imagens sexualizadas em menos de duas semanas, das quais cerca de 23 mil pareciam retratar crianças.
X emitiu um comunicado no mês passado dizendo que está comprometido em manter a plataforma “seguro” e mantém “tolerância zero” para exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado.
Você pode compartilhar esta história nas redes sociais:
