Esta história contém descrições de conteúdo sexual explícito e violência sexual.
O chatbot Grok de Elon Musk gerou indignação e pede investigação depois de ser usado para inundar X com imagens “despidas” de mulheres e imagens sexualizadas do que parecem ser menores. No entanto, essa não é a única maneira pela qual as pessoas usam a IA para gerar imagens sexualizadas. O web site e o aplicativo de Grok, que são separados do X, incluem geração de vídeo sofisticada que não está disponível no X e está sendo usada para produzir imagens sexuais extremamente gráficas, às vezes violentas, de adultos que são muito mais explícitas do que as imagens criadas por Grok no X. Também pode ter sido usado para criar vídeos sexualizados de aparentes menores.
Ao contrário do X, onde a saída do Grok é pública por padrão, imagens e vídeos criados no aplicativo ou web site do Grok usando seu modelo Think about não são compartilhados abertamente. Porém, se um usuário compartilhou um URL do Think about, ele pode ficar visível para qualquer pessoa. Um cache de cerca de 1.200 hyperlinks Think about, além de uma análise WIRED deles indexado pelo Google ou compartilhado em um fórum pornográfico deepfake, mostra vídeos sexuais perturbadores que são muito mais explícitos do que as imagens criadas por Grok no X.
Um vídeo fotorrealista do Grok, hospedado no Grok.com, mostra um homem e uma mulher totalmente nus, gerados por IA, cobertos de sangue no corpo e no rosto, fazendo sexo, enquanto outras duas mulheres nuas dançam ao fundo. O vídeo é enquadrado por uma série de imagens de personagens de estilo anime. Outro vídeo fotorrealista inclui uma mulher nua gerada por IA com uma faca inserida na genitália, com sangue aparecendo nas pernas e na cama.
Outros vídeos curtos incluem imagens de celebridades femininas da vida actual envolvidas em atividades sexuais e uma série de vídeos também parecem mostrar apresentadoras de noticiários de televisão levantando a blusa para expor os seios. Um vídeo produzido por Grok mostra uma gravação de imagens de CCTV sendo exibidas na TV, onde um segurança acaricia uma mulher de topless no meio de um procuring middle.
Vários vídeos – provavelmente criados para tentar evitar os sistemas de segurança de conteúdo de Grok, que podem restringir o conteúdo gráfico – personificam pôsteres de “filmes” da Netflix: dois vídeos mostram uma representação de IA nua de Diana, Princesa de Gales fazendo sexo com dois homens em uma cama com uma sobreposição representando os logotipos da Netflix e suas séries A coroa.
Cerca de 800 dos URLs arquivados do Think about contêm vídeos ou imagens criadas por Grok, diz Paul Bouchaud, pesquisador-chefe da AI Forensics, uma organização sem fins lucrativos com sede em Paris, que revisou o conteúdo. Todos os URLs foram arquivados desde agosto do ano passado e representam apenas um pequeno instantâneo de como as pessoas usaram o Grok, o que provavelmente criou milhões de imagens no whole.
“Eles são predominantemente de conteúdo sexual”, diz Bouchaud sobre o cache de 800 vídeos e imagens Grok arquivados. “Na maioria das vezes é conteúdo explícito de mangá e hentai e [other] fotorrealistas. Temos nudez whole, vídeos pornográficos completos com áudio, o que é bastante novo.”
Bouchaud estima que das 800 postagens, pouco menos de 10% do conteúdo parece estar relacionado a fabric de abuso sexual infantil (CSAM). “Na maioria das vezes é hentai, mas também há casos de pessoas fotorrealistas, muito jovens, praticando atividades sexuais”, diz Bouchaud. “Ainda observamos alguns vídeos de mulheres muito jovens se despindo e participando de atividades com homens”, dizem. “É perturbador para outro nível.”
O pesquisador diz que eles relataram cerca de 70 URLs Grok, que podem conter conteúdo sexualizado de menores, aos reguladores na Europa. Em muitos países, o CSAM gerado por IA, incluindo desenhos ou animaçõespode ser considerado ilegal. As autoridades francesas não responderam imediatamente ao pedido de comentários da WIRED; no entanto, o Ministério Público de Paris recentemente disse dois legisladores apresentaram queixas ao seu gabinete, que atualmente investiga a empresa de mídia social, sobre as imagens “despojadas”.
