Já se passou mais de uma semana desde que os usuários do X começaram a usar em massa o modelo de IA Grok para despir pessoas, incluindo crianças, e a plataforma de propriedade de Elon Musk não fez quase nada para resolver isso. Parte da razão para isso é o fato de que, atualmente, a plataforma não é obrigada a fazer muita coisa a respeito do problema.
No ano passado, o Congresso promulgou a Lei Take It Down, que, entre outras coisas, criminaliza materials sexualmente explícito não consensual e exige que plataformas como X forneçam uma opção para as vítimas solicitarem que conteúdo que make the most of a sua imagem seja removido dentro de 48 horas. A senadora democrata Amy Klobuchar, co-patrocinadora da lei, postado em X“Ninguém deve encontrar on-line imagens sexuais criadas pela IA, especialmente crianças. X deve mudar isso. Se não o fizerem, minha lei bipartidária TAKE IT DOWN emblem exigirá que o façam.”
Observe o “em breve” nessa frase. A exigência da lei para que as plataformas criem sistemas de notificação e remoção não entra em vigor até 19 de maio de 2026. Atualmente, nem X (a plataforma onde as imagens estão sendo geradas por meio de prompts postados e hospedados) nem xAI (a empresa responsável pelo modelo Grok AI que está gerando as imagens) possui sistemas formais de solicitação de remoção. X tem um procedimento formal de solicitação de remoção de conteúdo para autoridades policiaismas os usuários em geral são aconselhados a acessar a Central de Ajuda, onde parece que os usuários só podem denunciar uma postagem como violando as regras de X.
Se você está curioso para saber qual a probabilidade de o usuário médio ter uma dessas imagens removida, pergunte a Ashley St. Clair quão bem foram suas tentativas quando ela sinalizou uma imagem sexualizada não consensual dela que foi compartilhada no X. St. “É engraçado, considerando a linha mais direta que tenho e eles não fazem nada”, ela disse ao The Guardian. “Reclamei com X e eles nem tiraram uma foto minha de quando eu period criança, que foi despida por Grok.”
A imagem de St. Clair acabou sendo removida, aparentemente depois de ter sido amplamente divulgada por seus seguidores e receber atenção da imprensa. Mas St. Clair agora afirma que foi agradecida por seus esforços para levantar esta questão por sendo impedido de se comunicar com Grok e ter sua assinatura X Premium revogada. Premium permite que ela seja paga com base no engajamento. Grok, que se tornou a fonte padrão de informação sobre toda esta situação, apesar de ser um modelo de IA incapaz de falar por alguém ou por alguma coisa, explicado em uma postagem, “A marca de seleção X e Premium de Ashley St. Clair provavelmente foram removidos devido a possíveis violações de termos, incluindo suas acusações públicas contra Grok por gerar imagens inadequadas e possível atividade semelhante a spam”.
A aplicação fora da Lei Take It Down é possível, embora menos direta. O senador democrata Ron Wyden sugeriu que o materials gerado por Grok não seria protegido pela Seção 230 da Lei de Decência nas Comunicações, que normalmente concede às plataformas tecnológicas imunidade de responsabilidade pelo comportamento ilegal dos usuários. É claro que é improvável que o Departamento de Justiça da administração Trump inicie um processo contra as empresas de Musk, deixando as tentativas de aplicação da lei para os estados.
Fora dos EUA, alguns governos estão a levar o assunto muito mais a sério. Autoridades em França, Irlandao Reino Unidoe Índia todos começaram a investigar as imagens sexuais não consensuais geradas por Grok e podem eventualmente apresentar acusações contra X e xAI.
Mas certamente não parece que o chefe do X e do xAI esteja levando o assunto tão a sério. Enquanto Grok gerava imagens sexuais de crianças, Elon Musk, CEO de ambas as empresas envolvidas neste escândalo, repostava ativamente conteúdo criado como parte da tendência, incluindo imagens geradas por IA de uma torradeira e um foguete de biquíni. Até agora, a extensão do reconhecimento da situação por X começa e termina culpando os usuários. Em postagem da X Security, a empresa disse“Qualquer pessoa que use ou incentive Grok a criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”, mas não assumiu qualquer responsabilidade por habilitá-lo.
Na verdade, o que Grok tem feito nas últimas semanas parece estar provavelmente mais próximo do que Musk deseja da IA. De acordo com uma reportagem da CNNMusk tem estado “insatisfeito com a censura excessiva” em Grok, inclusive particularmente frustrado com as restrições ao gerador de imagem e vídeo de Grok. Publicamente, Musk tem repetidamente falou O “modo picante” de Grok e ridicularizou a ideia de “despertar” na IA.
Em resposta a um pedido de comentário do Gizmodo, xAI disse, “Legacy Media Lies”, a mais recente das mensagens automatizadas que a plataforma enviou desde que fechou seu departamento de relações públicas.
