O chatbot de IA de Elon Musk, Grok, está enfrentando uma reação negativa de governos de todo o mundo após um recente aumento de imagens sexualizadas de mulheres e crianças geradas sem consentimento pela ferramenta alimentada por inteligência synthetic.
Na terça-feira, o principal funcionário de tecnologia da Grã-Bretanha exigiu que a plataforma de mídia social X de Musk tomasse medidas urgentes, enquanto um legislador polonês citou isso como um motivo para promulgar leis de segurança digital.
O braço executivo da União Europeia denunciou Grok, enquanto autoridades e reguladores na França, Índia, Malásia e Brasil condenaram a plataforma e pediram investigações.
O crescente alarme de países diferentes aponta para o potencial de pesadelo dos aplicativos de nudificação que usam inteligência synthetic para gerar imagens falsas sexualmente explícitas.
Aqui está uma visão mais detalhada:
O problema surgiu após o lançamento, no ano passado, do Grok Think about, um gerador de imagens de IA que permite aos usuários criar vídeos e imagens digitando instruções de texto. Inclui o chamado “modo picante” que pode gerar conteúdo adulto.
A bola de neve cresceu no closing do mês passado, quando Grok, que está hospedado no X, aparentemente começou a atender um grande número de solicitações de usuários para modificar imagens postadas por outros. A partir de terça-feira, os usuários do Grok ainda poderiam gerar imagens de mulheres usando pedidos como “coloque-a em um biquíni transparente”.
O problema é amplificado porque Musk apresenta o seu chatbot como uma alternativa mais ousada aos rivais com mais salvaguardas, e porque as imagens de Grok são visíveis publicamente e, portanto, podem ser facilmente divulgadas.
O grupo sem fins lucrativos AI Forensics disse em um relatório que analisou 20.000 imagens geradas por Grok entre 25 de dezembro e 1º de janeiro e descobriu que 2% retratavam uma pessoa que parecia ter 18 anos ou menos, incluindo 30 de mulheres ou meninas jovens ou muito jovens, em biquínis ou roupas transparentes.
A empresa de inteligência synthetic de Musk, xAI, respondeu a um pedido de comentário com a resposta automática, “Legacy Media Lies”.
No entanto, X não negou a existência do conteúdo problemático gerado por Grok. No entanto, ainda afirmou numa publicação na sua conta de segurança que toma medidas contra conteúdos ilegais, incluindo materials de abuso sexual infantil, “removendo-os, suspendendo permanentemente as contas e trabalhando com os governos locais e as autoridades policiais, conforme necessário”.
A plataforma também repetiu um comentário de Musk, que disse: “Qualquer pessoa que use Grok para criar conteúdo ilegal sofrerá as mesmas consequências que se carregasse conteúdo ilegal”.
Uma lista crescente de países exige que Musk faça mais para controlar conteúdos explícitos ou abusivos.
X deve lidar “urgentemente” com o problema, disse a secretária de tecnologia Liz Kendall na terça-feira, acrescentando que apoiava um escrutínio adicional do regulador de comunicações do Reino Unido, Ofcom.
Kendall disse que o conteúdo é “absolutamente terrível e inaceitável em uma sociedade decente”.
“Não podemos e não permitiremos a proliferação destas imagens humilhantes e degradantes, que são desproporcionalmente dirigidas a mulheres e raparigas”.
A Ofcom disse na segunda-feira que fez “contato urgente” com X.
“Estamos cientes das sérias preocupações levantadas sobre um recurso do Grok on X que produz imagens de pessoas nuas e imagens sexualizadas de crianças”, disse o cão de guarda.
O cão de guarda disse que contatou X e xAI para entender quais medidas foram tomadas para cumprir as regulamentações britânicas.
De acordo com a Lei de Segurança On-line do Reino Unido, as plataformas de redes sociais devem prevenir e remover materials de abuso sexual infantil quando tomarem conhecimento disso.
Um legislador polonês usou Grok na terça-feira como uma razão para a legislação nacional de segurança digital que reforçaria a proteção para menores e tornaria mais fácil para as autoridades removerem conteúdo.
Num vídeo on-line, Wlodzimierz Czarzasty, presidente do parlamento, disse que queria tornar-se alvo de Grok para destacar o problema, bem como apelar ao presidente da Polónia para apoio à legislação.
O braço executivo do bloco está “bem ciente” de que Grok está sendo usado para “conteúdo sexual explícito com alguma produção gerada com imagens infantis”, disse o porta-voz da Comissão Europeia, Thomas Regnier.
“Isto não é picante. Isto é ilegal. Isto é terrível. Isto é nojento. É assim que vemos as coisas, e isto não tem lugar na Europa. Esta não é a primeira vez que Grok está a gerar tal produção”, disse ele aos jornalistas na segunda-feira.
Depois que Grok espalhou conteúdo de negação do Holocausto no ano passado, de acordo com Regnier, a Comissão buscou mais informações na plataforma de mídia social X de Musk. A resposta de X está atualmente sendo analisada, disse ele.
A promotoria de Paris disse que está ampliando uma investigação em andamento sobre X para incluir deepfakes sexualmente explícitos, depois que as autoridades receberam reclamações de legisladores.
Três ministros do governo alertaram os promotores sobre “conteúdo manifestamente ilegal” gerado por Grok e postado no X, de acordo com um comunicado do governo na semana passada.
O governo também sinalizou problemas com o regulador de comunicações do país sobre possíveis violações da Lei de Serviços Digitais da UE.
“A Web não é uma zona sem lei nem uma zona de impunidade: os crimes sexuais cometidos on-line constituem crimes por direito próprio e são totalmente abrangidos pela lei, tal como os cometidos offline”, afirmou o governo.
O governo indiano emitiu na sexta-feira um ultimato ao X, exigindo que retirasse todo o “conteúdo ilegal” e tomasse medidas contra usuários ofensores. O Ministério de Eletrônica e Tecnologia da Informação do país também ordenou que a empresa revisse a “estrutura técnica e de governança” da Grok e apresentasse um relatório sobre as ações tomadas.
O ministério acusou Grok de “uso indevido grosseiro” da IA e de graves falhas nas suas salvaguardas e aplicação, ao permitir a geração e partilha de “imagens ou vídeos obscenos de mulheres de forma depreciativa ou vulgar, a fim de denegri-las indecentemente”.
O ministério alertou que o não cumprimento do prazo de 72 horas exporia a empresa a problemas jurídicos maiores, mas o prazo expirou sem nenhuma atualização pública da Índia.
O órgão de vigilância das comunicações da Malásia disse no sábado que estava investigando usuários X que violaram as leis que proíbem a disseminação de “conteúdo grosseiramente ofensivo, obsceno ou indecente”.
A Comissão de Comunicações e Multimídia da Malásia disse que também está investigando danos on-line no X e convocaria um representante da empresa.
O órgão de fiscalização disse que tomou nota de reclamações públicas sobre as ferramentas de IA do X serem usadas para manipular digitalmente “imagens de mulheres e menores para produzir conteúdo indecente, grosseiramente ofensivo ou de outra forma prejudicial”.
A legisladora Erika Hilton disse que denunciou Grok e X ao Ministério Público Federal brasileiro e ao órgão de fiscalização da proteção de dados do país.
Numa publicação nas redes sociais, ela acusou ambos de gerarem e depois publicarem imagens sexualizadas de mulheres e crianças sem consentimento.
Ela disse que as funções de IA do X deveriam ser desativadas até que uma investigação fosse realizada.
Hilton, um dos primeiros legisladores transgêneros do Brasil, criticou como os usuários conseguiam fazer com que Grok alterasse digitalmente qualquer foto publicada, incluindo “trocar roupas de mulheres e meninas por biquínis ou torná-las sugestivas e eróticas”.
“O direito à imagem de alguém é particular person; não pode ser transferido através dos ‘termos de uso’ de uma rede social, e a distribuição em massa de pornografia infantil(asterisco)gr(asterisco)phy por uma inteligência synthetic integrada numa rede social ultrapassa todas as fronteiras”, disse ela.
