Chatbot de IA de Elon Musk Grok enfrenta intensas críticas – acusado de permitir que usuários da plataforma de mídia social X, de propriedade de Musk, gerassem imagens falsas e sexualmente explícitas de mulheres e crianças reais.
Ashley St. Clair, mãe de um dos filhos de Musk, é uma das supostas vítimas. Ela disse em uma entrevista ao “CBS Mornings” que foi ao ar na terça-feira que Grok permitiu que usuários gerassem e publicassem imagens sexuais falsas dela para X sem permissão, incluindo a manipulação de fotos dela quando menor.
“O pior para mim foi me ver sem roupa, curvado e depois a mochila do meu filho ao fundo”, disse o jovem de 27 anos. “Porque eu tive que ver isso, e me ver violada dessa forma em imagens tão horríveis e depois colocar a mesma mochila no meu filho no dia seguinte, porque é a que ele usa todos os dias para ir à escola.”
A mãe de dois filhos, que tem um filho de 1 ano com Musk, disse que pediu a Grok para tirar as fotos.
“Grok disse: ‘Confirmo que você não consente. Não produzirei mais essas imagens.’ E então continuou a produzir cada vez mais imagens, e imagens cada vez mais explícitas”, disse ela.
Clair disse que apresentou um relatório diretamente à empresa xAI de Musk, que opera a Grok. Algumas das imagens foram então removidas.
“Isso pode ser interrompido com uma mensagem singular para um engenheiro”, disse St. Clair.
Clair disse que seu problema é com o Chatbot, não com Musk – que recentemente disse que planeja solicitar a custódia exclusiva de seu filho devido a alegações de que St. Clair “poderia” fazer a transição de seu filho. Uma fonte próxima a St. Clair disse que isso é “absurdo e inequivocamente falso”.
“Se eles querem dizer que meu problema é… o chatbot despindo os menores e a mim mesmo e me despindo, sim. Você está certo. Eu tenho um problema a resolver com isso e não me importo com quem está fazendo isso. Então, Elon não é especial sobre eu falar sobre isso”, disse St.
A CBS Information entrou em contato com Musk e ainda não recebeu resposta. No início deste mês, a xAI disse que “toma medidas contra conteúdo ilegal no X, incluindo materials de abuso sexual infantil (CSAM), removendo-o, suspendendo permanentemente contas e trabalhando com governos locais e autoridades policiais conforme necessário”.
“Faça parar”
Um estudo recente da AI Forensics, uma organização sem fins lucrativos que investiga os algoritmos das principais plataformas, descobriu que 53% das imagens Grok que analisaram continham indivíduos com trajes mínimos, sendo 81% delas mulheres.
St. Clair disse que deseja que o governo dos EUA resolva o problema e “faça com que ele pare”.
“A necessidade de regulamentá-lo”, disse ela. “Não deveria ser permitido que a IA gerasse e despisse crianças e mulheres. É isso que precisa acontecer.”
Ela acredita que a chave é fazer cumprir as leis já existentes, dizendo: “quem é responsável por aplicá-las. Não eu.”
St. Clair disse que sua capacidade de ganhar dinheiro com X foi revogada desde que ela se manifestou e quando questionada se planeja tomar medidas legais, ela disse que está “considerando todas as opções disponíveis”.
Proibições de chatbot
Na semana passada, a Malásia e Indonésia baniu Grok em meio a preocupações crescentes sobre o chatbot.
Reguladores no Reino Unido iniciaram uma investigação. Na semana passada, o primeiro-ministro do Reino Unido, Keir Starmer, disse que quer “todas as opções em cima da mesa”, o que incluiria uma potencial proibição.
“Isso é vergonhoso, é nojento e não deve ser tolerado. X precisa controlar isso”, disse Starmer em entrevista a uma estação de rádio do Reino Unido. “É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa.”
