Milhões de relatos de abusos habilitados para IA não impediram a xAI, empresa-mãe da Grok, de lançar ferramentas de IA novas e mais poderosas. No domingo, xAI introduzido uma nova versão de seu modelo de vídeo generativo de IA no X, Grok Think about 1.0.
O novo modelo pode gerar videoclipes de 10 segundos a 720p com áudio, semelhante a concorrentes como Sora da OpenAI e Veo 3 do Google. O gerador de vídeo AI da Grok já criou mais de 1,2 bilhão de vídeos nos últimos 30 dias.
Por trás da popularidade de Grok está uma história sombria que revela os perigos da IA descontrolada. Do closing de dezembro até o início de janeiro, muitos usuários do X pediram a Grok para criar imagens que despiam ou nudificassem pessoas, principalmente mulheres, em fotos compartilhadas por outras pessoas na plataforma. Qualquer pessoa que postasse uma foto, tão inócua como uma selfie ou um passeio em grupo, na plataforma poderia se tornar alvo involuntário de assédio.
Solicitações de nudificação não são permitidas por outros modelos de IA, mas Grok não tem escrúpulos em relação a elas: seu “modo picante” pode criar imagens sugestivas e provocativas. O que aconteceu, porém, foi muito além disso. Foi um abuso sexual compartilhado publicamente, não filtrado e baseado em imagens.
Grok fez 1,8 milhão de imagens sexuais falsas em nove dias em janeiro, de acordo com um relatório da O jornal New York Timesrepresentando 41% do complete de imagens feitas por Grok. Um separado estudar do The Middle on Countering Digital Hate estimou que Grok fez aproximadamente 3 milhões de imagens sexualizadas em 11 dias, com 23.000 dessas imagens pornográficas falsas apresentando crianças.
Em 6 de janeiro, no meio do escândalo, a chefe de produto da X, Nikita Bier, compartilhado que o aplicativo estava registrando seu maior engajamento de todos os tempos. (Ele não atribuiu o noivado a nenhuma causa específica.)
Uma postagem de 8 de janeiro observou que a empresa colocou recursos de geração e edição de imagens atrás de um acesso pago. E no dia 14 de janeiro, a empresa disse melhorou as grades de proteção para evitar a criação de materials sexual abusivo.
No entanto, relatórios rapidamente mostrou essas grades de proteção não eram fortes o suficiente. A geração de imagens do Grok ainda está disponível gratuitamente em seu web site. Agora, o lançamento do Grok Think about 1.0 sinaliza uma grande atualização nas capacidades de vídeo generativo da plataforma, levantando ainda mais questões sobre a moderação de conteúdo após a reação às imagens sexualizadas de IA.
O procurador-geral da Califórnia e o governo do Reino Unido aberto investigações sobre xAI. Indonésia e Malásia bloquearam o aplicativo X. Três senadores e grupos de defesa dos EUA chamado Apple e Google removerão X de suas lojas de aplicativos por violar os termos de serviço.
xAI não respondeu imediatamente a um pedido de comentário.
O governo dos EUA aprovou Ato de derrubar em 2025, que criminaliza o compartilhamento de imagens íntimas não consensuais e deepfakes. Mas as plataformas têm até maio para configurar seus processos de remoção de imagens, o que não ajuda os usuários atuais do X.
Para mais informações, leia nosso relatório completo sobre Imagens sexuais não consensuais de Grok.
