Grok, o chatbot de IA apoiado por Elon Musk, tecido na estrutura do X, começou a bloquear suas ferramentas de geração e edição de imagens para assinantes pagos. O a mudança segue um maremoto de críticas sobre a capacidade da ferramenta de produzir imagens sexualizadas não consensuais. Embora a restrição seja claramente uma tentativa de conter a onda de controvérsia, reguladores, grupos de defesa e utilizadores argumentam que pouco faz para impedir a criação de conteúdos nocivos e potencialmente ilegais envolvendo mulheres e crianças.
A partir da noite de quinta-feira, a Grok transferiu oficialmente seus recursos de criação de imagens para o acesso pago X Premium, que começa em US$ 8 por mês
No entanto, a medida foi amplamente ridicularizada como uma solução “vazada”. Embora usuários casuais no X possam ser bloqueados, as ferramentas de geração permanecem totalmente gratuitas para acesso por meio do web site independente e do aplicativo móvel da Grok. Esta lacuna enfraquece efetivamente a alegação da plataforma de que está a tomar uma posição firme contra a utilização indevida, deixando as ferramentas mais perigosas ainda ao alcance do público em geral.
Pesquisadores de segurança e vigilantes digitais não estão convencidos de que a exigência de cartão de crédito resolva o problema. Na verdade, muitos argumentam que isso monetiza o abuso. De acordo com a pesquisadora deepfake Genevieve Oh, Grok ainda estava lançando mais de 1.500 imagens prejudiciais a cada hora, mesmo depois que o acesso pago foi ao ar – representando cerca de 60% de sua produção complete de imagens públicas. Os dados de Oh sugerem que Grok está atualmente gerando conteúdo sexualizado a uma taxa que supera até mesmo os mais notórios websites dedicados à “nudificação”.
As consequências atingiram os níveis mais altos do governo dos EUA
Os senadores democratas Ron Wyden, Edward J. Markey e Ben Ray Luján enviaram recentemente uma carta aos CEOs da Apple e do Google, exigindo que o X fosse retirado de suas respectivas lojas de aplicativos. Os senadores argumentaram que, ao permitir que essas ferramentas persistam, X está demonstrando um “completo desrespeito” pelas regras de segurança que todos os outros desenvolvedores de aplicativos são forçados a seguir.
A pressão internacional também está a atingir um ponto de ebulição. As autoridades do Reino Unido e da Índia consideraram o acesso pago uma resposta inadequada. Um porta-voz do primeiro-ministro britânico descreveu a medida como “um insulto” às vítimas, sugerindo que X está simplesmente a transformar uma crise de segurança num fluxo de receitas premium. As vítimas compartilharam histórias semelhantes; a ativista Jess Davies relatou que Grok ainda conseguiu “despir” digitalmente uma foto dela por meio de seu aplicativo independente na manhã de sexta-feira, apesar das supostas restrições.
Curiosamente, a controvérsia parece estar proporcionando um impulso financeiro perverso à plataforma
As estimativas da Sensor Tower mostram que a receita de compras no aplicativo móvel no X aumentou 18% somente na quinta-feira. Esse pico excede em muito o crescimento diário típico do aplicativo, sugerindo que o impulso para acessar o “modo picante” de Grok pode na verdade estar ajudando os resultados financeiros difíceis de X.
Especialistas jurídicos alertam que essas meias-medidas não durarão muito tempo nos tribunais. O procurador-geral da Carolina do Norte, Jeff Jackson, classificou a situação de Grok como um “ponto de viragem” para a segurança da IA, observando a facilidade com que estes sistemas podem ser transformados em armas. Ele argumentou que a period de “agir rapidamente e quebrar as coisas” está a bater num muro no que diz respeito à dignidade e segurança dos cidadãos.
À medida que as paredes se fecham, X enfrenta uma escolha difícil: implementar proteções técnicas genuínas e codificadas ou enfrentar um blecaute complete nas principais lojas de aplicativos e mercados internacionais. A decisão de Elon Musk de restringir o software program em si – em vez de apenas o acesso a ele – determinará se Grok terá futuro como ferramenta legítima ou se se tornará um pária da period da IA generativa.
