O governo do Reino Unido começará a aplicar uma lei que proíbe a criação não consensual de fotos e vídeos sexuais, segundo a secretária de tecnologia, Liz Kendall. O anúncio ocorre depois que os reguladores do Reino Unido anunciaram que estavam lançando uma investigação sobre o chatbot Grok AI da xAI, que tem sido usado nas últimas semanas para criar imagens sexualizadas de crianças e também de adultos que nunca consentiram que suas imagens fossem usadas dessa forma.
“O conteúdo que circulou no X é vil. Não é apenas uma afronta à sociedade decente. É ilegal”, disse a secretária de tecnologia, Liz Kendall, ao Parlamento em Segunda-feira.
Kendall observou que o xAI limitou alguns recursos deepfake do Grok a assinantes pagantes, o que ela descreveu como um insulto às vítimas e uma forma de “monetizar o abuso”. De acordo com a Lei de Dados do Reino Unido, aprovada no ano passado, é ilegal criar ou solicitar a criação de imagens íntimas sem o consentimento de alguém. Essa lei começará a ser aplicada esta semana, segundo Kendall.
Os usuários do X começaram a assediar regularmente mulheres e meninas no aplicativo no remaining de dezembro, o que levou Grok a transformar fotos em imagens sexualizadas. Mais comumente, Grok transformava fotos reais em imagens de biquínis geradas por IA, mas outras táticas envolviam dizer a Grok para vestir as pessoas com nada além de fita adesiva, virar a pessoa em posições sexuais ou adicionar um “esmalte de donut”, um método de fazer parecer que as mulheres e meninas estavam cobertas de ejaculação.
“A Web Watch Basis relata imagens criminosas de crianças de até 11 anos, incluindo meninas sexualizadas e de topless. Isso é abuso sexual infantil”, disse Kendall na segunda-feira. “Vimos relatos de fotos compartilhadas de mulheres de biquíni, amarradas e amordaçadas, com hematomas cobertos de sangue e muito, muito mais. Vidas podem e foram devastadas por esse conteúdo, que tem como objetivo assediar, atormentar e violar a dignidade das pessoas.”
Kendall chamou as imagens de “armas de abuso dirigidas desproporcionalmente a mulheres e meninas” e enfatizou que não são apenas os usuários individuais que deveriam ser responsabilizados, mas também as empresas que fabricam ferramentas como a Grok, que inclui o xAI de Elon Musk. Musk já tentou desviar a culpa para os usuários, embora a maioria das grandes empresas de IA tente minimizar esse tipo de coisa com grades de proteção embutidas no próprio produto.
Ofcom, um regulador britânico com poder de supervisionar plataformas de mídia social, anunciou segunda-feira mais cedo que abriu uma investigação sobre Grok. Outros países também responderam, com a Malásia e a Indonésia anunciando proibições totais de Grok sobre a polêmica. A Comissão da UE também disse que está investigando o comportamento de Grok e das pessoas por trás do chatbot de IA.
“Estou chocado que uma plataforma tecnológica esteja permitindo aos usuários despir digitalmente mulheres e crianças on-line. Este é um comportamento impensável. E o dano causado por esses deepfakes é muito actual”, disse a presidente da Comissão Europeia, Ursula von der Leyen, de acordo com Político.
“Não iremos terceirizar a proteção e o consentimento infantil para o Vale do Silício. Se eles não agirem, nós o faremos”, continuou ela.
O presidente Donald Trump e o seu governo queixaram-se de que a Europa tem sido demasiado restritiva no que diz respeito ao policiamento do discurso nas plataformas das redes sociais. O Departamento de Estado dos EUA, liderado pelo Secretário de Estado Marc Rubio, impôs sanções mês passado sobre os funcionários de organizações europeias que combatem a desinformação. O Departamento de Estado disse que eles estavam praticando “censura”.
Quando Elon Musk comprou o Twitter (agora X) no remaining de 2022, ele acolheu de volta extremistas de extrema direita anteriormente banidos, numa tentativa de orientar o teor da discussão on-line e provar que poderia sustentar uma plataforma de mídia social apesar da presença de discurso de ódio. E agora parece que Musk está tentando fazer a mesma coisa com um tema ainda mais controverso: materials de abuso sexual infantil criado com ferramentas de inteligência synthetic.
Depois que um criador de direita compartilhou uma captura de tela em 2023 de um dos vídeos de abuso sexual infantil mais infames da história, Musk restabeleceu o criador após uma breve proibição. Mais tarde, quando legisladores na Austrália perguntaram sobre o incidente, incluindo a intervenção pessoal de Musk, um executivo do Twitter respondeu que talvez o criador estivesse compartilhando as imagens ilegais por indignação com o abuso infantil. Os legisladores australianos não aceitaram essa explicação, mas a plataforma foi autorizada a continuar a operar no país de qualquer maneira.
Ashley St. Clair, uma autora conservadora de livros infantis que é mãe de um dos filhos de Musk, reclamou no X sobre suas imagens terem sido transformadas em imagens sexualizadas, incluindo uma foto de quando ela period criança. Isso fez com que sua conta fosse retirada de sua marca de verificação azul e de toda monetização na plataforma, de acordo com as capturas de tela que ela postou em X. St. Clair também renunciou a suas crenças anti-trans anteriores, algo que levou Musk a twittar na segunda-feira que ele estaria procurando custódia exclusiva de seu filho. Musk tem pelo menos quatorze filhos diferentes com quatro mulheres diferentes.
É improvável que o governo dos EUA sob Trump reprima a criação de materials de abuso sexual infantil, embora o senador Ron Wyden, um democrata de Oregon, tenha dito ao Gizmodo na semana passada que a IA não recebe proteções sob a Seção 230. Wyden sugeriu que os estados comecem a responsabilizar plataformas como X se o governo federal não o fizer.
X, que é tecnicamente propriedade da xAI, não respondeu às perguntas enviadas por e-mail na segunda-feira. xAI respondeu com “Legacy Media Lies”, uma resposta automática para jornalistas que foi criada há algum tempo.
