Indonésia e Malásia bloqueiam o acesso de Grok, Reino Unido ameaça proibir à medida que o problema explícito de deepfake cresce

O acesso ao Grok foi cortado para usuários na Indonésia e na Malásia devido a preocupações de que as salvaguardas do chatbot xAI eram ineficazes.

Ambos os países emitiram suspensões temporárias destinadas a permanecem em vigor até que xAI implemente salvaguardas que atendam às exigências dos reguladores.

“O governo vê a prática de deepfakes sexuais não consensuais como uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, escreveu O ministro das Comunicações e Assuntos Digitais da Indonésia, Meutya Hafid, em comunicado divulgado no sábado. A Indonésia tem varrido leis de censura na internet rege conteúdo considerado “obsceno”.

A Malásia lançou recentemente uma investigação sobre o “uso indevido de ferramentas de inteligência synthetic (IA) na plataforma X”, parte de uma onda de ações intervenientes tomadas pelos reguladores. Essa investigação seguiu-se a um aviso do ministério de TI indiano orientando X a tomar medidas imediatas sobre o alegado uso indevido de Grok. O aviso aludiu a possíveis violações da Lei de Tecnologia da Informação do país.

Autoridades francesas no Ministério Público de Paris e outros governos estrangeirosincluindo o Reino Unido e um Investigação da UEanunciaram investigações semelhantes sobre a tecnologia xAI e sua regulamentação sob as leis relevantes de segurança on-line. O primeiro-ministro australiano, Anthony Albanese, também emitiu uma declaração sobre os problemas de deepfake de Grok, reiterando a decisão do país de proibir as redes sociais para usuários menores de 16 anos. Centro Nacional de Exploração Sexual (NCOSE) apelou ao Departamento de Justiça e à Comissão Federal de Comércio para investigar X ao abrigo das leis existentes sobre materials de abuso sexual infantil (CSAM) e da recente Lei Take It Down.

A secretária de tecnologia do Reino Unido, Liz Kendall, disse recentemente que iria suporte ao bloqueio X imediatamente, caso o Escritório de Comunicações do Reino Unido (Ofcom) conclua que a plataforma viola a Lei de Segurança On-line. Kendall disse que espera que uma decisão seja tomada nos próximos dias.

Elon Musk, que já havia dito que os usuários deveriam enfrentar consequências por “carregar conteúdo ilegal” no X, respondeu às ameaças de proibição acusando o governo do Reino Unido de ser excessivamente ansioso para censurar a empresa. Em uma postagem no X, Musk escreveu: “Eles só querem suprimir a liberdade de expressão”. Musk também compartilhou vários posts X alegando que Grok está sendo alvo de funcionários do governo.

Um recente Investigação com fio descobriram que as versões para desktop e aplicativos do Grok Think about foram capazes de produzir materials sexualmente violento e gráfico, representações de celebridades em cenários sexuais e potencial CSAM gerado por IA, apesar das salvaguardas integradas. O chatbot tem um agora histórico bem documentado de produção de deepfakes sexualizadosinclusive a pedido de usuários que pedem a Grok para “despir” indivíduos de forma não consensual em fotos enviadas publicamente.