X de Elon Musk introduziu novas restrições que impedem as pessoas de editar e gerar imagens de pessoas reais em biquínis ou outras “roupas reveladoras”. A mudança em política na noite de quarta-feira segue-se à indignação international com o fato de Grok ser usado para gerar milhares de fotos nocivas e não consensuais de mulheres “se despindo” e imagens sexualizadas de aparentes menores no X.
No entanto, embora pareça que algumas medidas de segurança foram finalmente introduzidas na geração de imagens do Grok no X, o aplicativo e website autônomo do Grok ainda parecem ser capazes de gerar imagens no estilo “despir” e conteúdo pornográfico, de acordo com vários testes realizados por pesquisadores, WIRED e outros jornalistas. Enquanto isso, outros usuários dizem que não devem mais criar imagens e vídeos como antes.
“Ainda podemos gerar nudez fotorrealista no Grok.com”, diz Paul Bouchaud, pesquisador-chefe da organização sem fins lucrativos AI Forensics, com sede em Paris, que acompanha o uso do Grok para criar imagens sexualizadas e executou vários testes no Grok fora do X. “Podemos gerar nudez de maneiras que o Grok no X não consegue”.
“Eu poderia colocar uma imagem no Grok Think about e pedir para colocar a pessoa de biquíni e funciona”, diz o pesquisador que testou o sistema em uma pessoa que se apresentava como mulher. Testes da WIRED, usando contas Grok gratuitas em seu website no Reino Unido e nos EUA, removeram com sucesso roupas de duas imagens de homens sem quaisquer restrições aparentes. No aplicativo Grok no Reino Unido, quando solicitado a despir um homem, o aplicativo solicitou que um repórter da WIRED inserisse o ano de nascimento dos usuários antes de a imagem ser gerada.
Enquanto isso, outros jornalistas da A beira e veículo investigativo Bellingcat também descobriu que period possível criar imagens sexualizadas enquanto estava baseado no Reino Unido, que está investigando Grok e X e condenou veementemente as plataformas por permitirem que os usuários criassem imagens de “despir”.
Desde o início do ano, os negócios de Musk – incluindo a empresa de inteligência synthetic xAI, X e Grok – têm sido criticados pela criação de imagens íntimas não consensuais, vídeos sexuais explícitos e explícitos e imagens sexualizadas de aparentes menores. Funcionários dos Estados Unidos, Austrália, Brasil, Canadá, Comissão Europeia, França, Índia, Indonésia, Irlanda, Malásia e Reino Unido, todos condenaram ou lançaram investigações sobre X ou Grok.
Na quarta-feira, um Conta de segurança no X postou atualizações sobre como o Grok pode ser usado no website de mídia social. “Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras como biquínis”, publicou a conta, acrescentando que as regras se aplicam a todos os usuários, incluindo assinantes gratuitos e pagos.
Em uma seção intitulada “Atualização do Geoblock”, a conta X também afirmou: “Agora bloqueamos geograficamente a capacidade de todos os usuários de gerar imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde é ilegal”. A atualização da empresa também acrescentou que está trabalhando para adicionar salvaguardas adicionais e que continua a “remover conteúdo violador de alta prioridade, incluindo materials de abuso sexual infantil (CSAM) e nudez não consensual”.
Porta-vozes da xAI, que cria a Grok, não responderam imediatamente ao pedido de comentários da WIRED. Enquanto isso, um porta-voz do X diz que entende que o bloqueio de geolocalização se aplica tanto ao aplicativo quanto ao website.
A última mudança segue uma mudança amplamente criticada em 9 de janeiro, quando X limitou a geração de imagens usando Grok para assinantes “verificados” pagos. O acto que foi descrito como a “monetização do abuso” por um importante grupo de mulheres. Bouchaud, que afirma que a AI Forensics reuniu cerca de 90.000 imagens Grok no whole desde as férias de Natal, confirma que apenas contas verificadas foram capazes de gerar imagens no X – ao contrário do website ou aplicativo Grok – desde 9 de janeiro e imagens de biquínis de mulheres raramente são geradas agora. “Observamos que eles parecem ter desligado e desativado a funcionalidade do X”, dizem eles.
