IA de Elon Musk O chatbot Grok está sendo usado para inundar o X com milhares de imagens sexualizadas de adultos e aparentes menores vestindo roupas mínimas. Parte deste conteúdo parece não apenas violar o próprio X políticasque proíbe o compartilhamento de conteúdo ilegal, como materials de abuso sexual infantil (CSAM), mas também pode violar as diretrizes da App Retailer da Apple e da Google Play Retailer.
A Apple e o Google proíbem explicitamente aplicativos que contenham CSAM, cuja hospedagem e distribuição é ilegal em muitos países. Os gigantes da tecnologia também proíbem aplicativos que contenham materials pornográfico ou facilitem o assédio. A loja de aplicativos da Apple diz não permite “materials abertamente sexual ou pornográfico”, bem como “conteúdo difamatório, discriminatório ou mesquinho”, especialmente se o aplicativo “susceptível de humilhar, intimidar ou prejudicar um indivíduo ou grupo alvo”. A loja Google Play proibições aplicativos que “contêm ou promovem conteúdo associado a comportamento sexualmente predatório ou distribuem conteúdo sexual não consensual”, bem como programas que “contêm ou facilitam ameaças, assédio ou intimidação”.
Nos últimos dois anos, a Apple e o Google removeram vários aplicativos de “nudificação” e de geração de imagens de IA após investigações pela BBC e 404 Media encontrados eles estavam sendo anunciados ou usado para transformar efetivamente fotos comuns em imagens explícitas de mulheres sem o seu consentimento.
Mas no momento da publicação, tanto o aplicativo X quanto o aplicativo Grok independente permanecem disponíveis em ambas as lojas de aplicativos. Apple, Google e X não responderam aos pedidos de comentários. Grok é operado pela startup multibilionária de inteligência synthetic de Musk, xAI, que também não respondeu às perguntas da WIRED. Em um declaração pública publicado em 3 de janeiro, X disse que toma medidas contra conteúdo ilegal em sua plataforma, incluindo CSAM. “Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que sofreria se carregasse conteúdo ilegal”, alertou a empresa.
Sloan Thompson, diretora de treinamento e educação do EndTAB, um grupo que ensina organizações como prevenir a disseminação de conteúdo sexual não consensual, diz que é “absolutamente apropriado” que empresas como Apple e Google tomem medidas contra X e Grok.
A quantidade de imagens explícitas não consensuais no X geradas por Grok explodiu nas últimas duas semanas. Um pesquisador disse à Bloomberg que durante um período de 24 horas entre 5 e 6 de janeiro, Grok produziu cerca de 6.700 imagens a cada hora que identificaram como “sexualmente sugestivas ou nudificantes”. Outro analista coletou mais de 15.000 URLs de imagens que Grok criou no X durante um período de duas horas em 31 de dezembro. A WIRED revisou aproximadamente um terço das imagens e descobriu que muitas delas apresentavam mulheres vestidas com roupas reveladoras. Mais de 2.500 foram marcados como não mais disponíveis em uma semana, enquanto quase 500 foram rotulados como “conteúdo adulto com restrição de idade”.
No início desta semana um porta-voz da Comissão Europeia o órgão dirigente da União Europeia condenado publicamente as imagens sexualmente explícitas e não consensuais geradas por Grok no X são consideradas “ilegais” e “terríveis”, dizendo à Reuters que tal conteúdo “não tem lugar na Europa”.
Na quinta-feira, a UE ordenou X reter todos os documentos e dados internos relativos à Grok até o closing de 2026, estendendo uma diretiva de retenção anterior, para garantir que as autoridades possam acessar materiais relevantes para o cumprimento da Lei de Serviços Digitais da UE, embora uma nova investigação formal ainda não tenha sido anunciada. Reguladores em outros paísesincluindo o Reino Unido, a Índia e a Malásia também disseram eles são investigando a plataforma de mídia social.
