Depois de criar milhares de fotos de mulheres “se despindo” e imagens sexualizadas de aparentes menores, o X de Elon Musk aparentemente limitou quem pode gerar imagens com Grok. Porém, apesar das mudanças, o chatbot ainda está sendo utilizado para criar imagens sexualizadas de “despir” na plataforma.
Na manhã de sexta-feira, a conta Grok no X começou a responder às solicitações de alguns usuários com uma mensagem dizendo que a geração e edição de imagens estão “atualmente limitadas a assinantes pagantes”. A mensagem também inclui um hyperlink que leva as pessoas ao nível de assinatura anual de US$ 395 da plataforma de mídia social. Em um teste do sistema solicitando que Grok criasse a imagem de uma árvore, o sistema retornou a mesma mensagem.
A aparente mudança ocorre depois de dias de crescente indignação e escrutínio do X e xAI de Musk, a empresa por trás do chatbot Grok. As empresas enfrentam um número crescente de investigações por parte de reguladores de todo o mundo sobre a criação de imagens explícitas não consensuais e alegadas imagens sexuais de crianças. Primeiro-ministro britânico, Keir Starmer não descartou proibindo X no país e disse que as ações foram “ilegais”.
Nem X nem xAI, a empresa de propriedade de Musk por trás do Grok, confirmaram que tornaram a geração e edição de imagens um recurso somente pago. Um porta-voz do X reconheceu a investigação da WIRED, mas não fez comentários antes da publicação. X já havia disse toma “ações contra conteúdo ilegal no X”, incluindo casos de materials de abuso sexual infantil. Embora a Apple e o Google tenham banido anteriormente aplicativos com recursos semelhantes de “nudificação”, X e Grok permanecem disponíveis em suas respectivas lojas de aplicativos. xAI não respondeu imediatamente ao pedido de comentários da WIRED.
Há mais de uma semana, os usuários do X pedem ao chatbot para editar imagens de mulheres tirando a roupa – muitas vezes pedindo que a imagem contenha um biquíni “string” ou “transparente”. Embora um feed público de imagens criado por Grok contivesse muito menos resultados dessas imagens de “despir” na sexta-feira, ele ainda criava imagens sexualizadas quando solicitado por usuários X com contas “verificadas” pagas.
“Observamos o mesmo tipo de alerta, observamos o mesmo tipo de resultado, apenas menos do que antes”, disse Paul Bouchaud, pesquisador-chefe da AI Forensics, uma organização sem fins lucrativos com sede em Paris, à WIRED. “A modelo pode continuar gerando biquíni [images]”, dizem eles.
Uma análise da WIRED de algumas postagens de Grok na manhã de sexta-feira identificou Grok gerando imagens em resposta a solicitações de usuários por imagens que “a colocassem em lingerie de látex” e “a colocassem em um biquíni de plástico e a cobrissem com esmalte branco donut”. As imagens aparecem atrás de uma caixa de “aviso de conteúdo” informando que materials adulto está sendo exibido.
Na quarta-feira, a WIRED revelou que o web site e aplicativo autônomo de Grok, separado da versão X, também tem sido usado nos últimos meses para criar vídeos sexuais altamente gráficos e às vezes violentos, incluindo celebridades e outras pessoas reais. Bouchaud diz que ainda é possível usar o Grok para fazer esses vídeos. “Consegui gerar um vídeo com conteúdo sexualmente explícito sem qualquer restrição a partir de uma conta não verificada”, afirmam.
Embora o teste de geração de imagens da WIRED usando Grok no X usando uma conta gratuita não tenha permitido a criação de nenhuma imagem, o uso de uma conta gratuita no aplicativo e web site do Grok ainda gerava imagens.
A mudança no X pode limitar imediatamente a quantidade de materials sexualmente explícito e prejudicial que a plataforma está criando, dizem os especialistas. Mas também foi criticado como um passo mínimo que funciona como um band-aid para os danos reais causados pelas imagens íntimas não consensuais.
“A recente decisão de restringir o acesso a assinantes pagantes não é apenas inadequada – ela representa a monetização do abuso”, disse Emma Pickering, chefe de abuso facilitado pela tecnologia na instituição de caridade britânica Refuge, em um comunicado. “Embora limitar a geração de imagens de IA a usuários pagos possa reduzir marginalmente o quantity e melhorar a rastreabilidade, o abuso não foi interrompido. Ele foi simplesmente colocado atrás de um acesso pago, permitindo que X lucrasse com os danos.”
