A plataforma de mídia social X de Elon Musk está tomando medidas adicionais para conter seu problema de deepfake sexual, após semanas de reação negativa e múltiplas investigações governamentais em todo o mundo. Mas as mudanças não resolvem realmente o problema e, em vez disso, adicionam novas camadas de restrições limitadas, em vez de uma correção para toda a plataforma.
Em uma postagem bastante confusa na noite de quarta-feira, a conta @Security de X descreveu várias atualizações sobre como funcionam seus recursos de geração e edição de imagens de IA, com regras diferentes dependendo se os usuários estão gerando ou editando imagens marcando a conta @Grok ou indo direto para a guia Grok no X.
Primeiro, a empresa disse que implementou novas medidas técnicas para evitar que os usuários usem especificamente a conta @Grok para alterar “imagens de pessoas reais em roupas reveladoras, como biquínis”. X diz que a restrição se aplica a todos os usuários, incluindo aqueles com plano premium.
X também reiterou que a geração e edição de imagens por meio da conta @Grok agora estão limitadas a assinantes pagos.
“Isso adiciona uma camada further de proteção, ajudando a garantir que os indivíduos que tentarem abusar da conta Grok para violar a lei ou nossas políticas possam ser responsabilizados”, disse a empresa no publish.
X anunciou anteriormente planos de restringir o uso do @Grok para editar imagens para usuários pagos, uma medida que atraiu críticas de autoridades do governo do Reino Unido. Um porta-voz de Downing Road disse na época que a mudança “simplesmente transforma um recurso de IA que permite a criação de imagens ilegais em um serviço premium”.
No entanto, como The Verge apontou pela primeira vezas ferramentas de geração de imagens do Grok permanecem disponíveis gratuitamente quando os usuários acessam o chatbot por meio do web site e aplicativo independente do Grok, bem como por meio das guias do Grok no aplicativo e no web site X. Usando uma conta gratuita, o Gizmodo também conseguiu acessar o recurso de geração de imagens do Grok por meio da guia Grok no web site X e no aplicativo móvel. Na quinta-feira, o web site dedicado ainda não nos deu problemas quando solicitado a gerar uma imagem de Elon Musk de biquíni e disposto a tirar o biquíni.
A maior atualização é que X afirma que agora bloqueará “a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde é ilegal”. Esta atualização específica parece se aplicar tanto à conta @Grok quanto às guias Grok no X.
Também chega no momento em que os legisladores do Reino Unido estão trabalhando para tornar essas imagens ilegais.
“Continuamos comprometidos em tornar o X uma plataforma segura para todos e continuamos a ter tolerância zero com qualquer forma de exploração sexual infantil, nudez não consensual e conteúdo sexual indesejado”, disse a empresa.
X e sua controladora, XAI, não responderam imediatamente a um pedido de comentário do Gizmodo.
As mudanças gerais chegam após semanas de intensa reação contra a recente proliferação de deepfakes sexuais na plataforma e relativo silêncio da própria empresa. Desde o remaining do mês passado, alguns usuários do X usaram o Grok para gerar imagens sexualizadas a partir de fotos postadas por outros usuários sem o seu consentimento, incluindo imagens envolvendo menores.
Um pesquisador de mídia social e deepfake descobriu que Grok gerou cerca de 6.700 imagens sexualmente sugestivas ou nudificantes por hora durante 24 horas no início de janeiro, Bloomberg informou.
Os governos de todo o mundo têm respondido rapidamente. Malásia e Indonésia bloqueou o acesso ao Grokenquanto os reguladores no Reino Unido e União Europeia abriu investigações sobre possíveis violações das leis de segurança on-line.
O regulador on-line do Reino Unido, Ofcom, disse que iria continuar sua investigação apesar das mudanças recém-anunciadas.
Nos EUA, o procurador-geral da Califórnia, Rob Bonta, anunciou na quarta-feira que o seu gabinete lançou o seu próprio investigação sobre o assunto.
Enquanto isso, à medida que o escrutínio da Grok se intensificava, X atualizou discretamente seus termos de serviço para exigir que todos os processos judiciais pendentes e futuros envolvendo a empresa fossem arquivados na divisão de Fort Price, no Distrito Norte do Texas, onde um dos três juízes do tribunal é amplamente visto como amigável à empresa.
O cão de guarda de esquerda Media Issues, um crítico frequente do X de Musk, disse sairia da plataforma em resposta aos termos atualizados.
