A plataforma X de Elon Musk limitou a edição de imagens com sua ferramenta de IA Grok a usuários pagantes, depois de ser criticada por permitir que pessoas fizessem deepfakes sexualizados.
Houve uma reação significativa depois que o chatbot atendeu aos pedidos dos usuários para alterar digitalmente imagens de outras pessoas, despindo-as sem o seu consentimento.
Mas a Grok agora está dizendo às pessoas que solicitam a produção de materials que apenas assinantes pagos possam fazê-lo – o que significa que seus nomes e informações de pagamento devem estar arquivados.
A BBC abordou X para comentar.
Aqueles que não assinam ainda podem usar o Grok para editar imagens em seu aplicativo e website separados.
“Musk atirou os seus brinquedos para fora do carrinho em protesto por ter sido responsabilizado pelo tsunami de abusos”, disse a professora Clare McGlynn, especialista na regulamentação authorized da pornografia, violência sexual e abuso on-line.
“Em vez de tomar medidas responsáveis para garantir que o Grok não pudesse ser usado para fins abusivos, retirou o acesso à grande maioria dos utilizadores.”
Isso vem depois do governo instou o regulador Ofcom a usar todos os seus poderes – até e incluindo um banimento efetivo – contra X devido a preocupações sobre imagens ilegais de IA criadas no website.
Respondendo às preocupações de que imagens sexualizadas de adultos e crianças tenham sido geradas por Grok, o primeiro-ministro Sir Keir Starmer disse que period “vergonhoso” e “nojento”.
Ele disse que o Ofcom tem “whole apoio” do governo para agir sobre o conteúdo.
“É ilegal. Não vamos tolerar isso. Pedi que todas as opções estivessem sobre a mesa”, disse ele em entrevista à Biggest Hits Radio.
Fontes governamentais disseram à BBC Information: “Esperamos que o Ofcom use todos os poderes à sua disposição em relação a Grok e X”.
Os poderes do Ofcom sob o Lei de Segurança Online incluem a possibilidade de solicitar uma ordem judicial para impedir que terceiros ajudem a plataforma de propriedade de Elon Musk a arrecadar dinheiro ou ser acessada no Reino Unido.
A BBC entrou em contato com o regulador para comentar.
Grok é uma ferramenta gratuita que os usuários podem marcar diretamente nas postagens ou respostas nas postagens de outros usuários para solicitar uma resposta específica.
Mas o recurso também permitiu que as pessoas solicitassem a edição de imagens – e pedissem que tirasse digitalmente a maior parte de suas roupas.
Grok atendeu a muitos pedidos de usuários pedindo para editar imagens de mulheres para mostrá-las de biquíni ou com pouca roupa – algo que aqueles sujeitos a tais pedidos disseram à BBC os deixou sentindo “humilhado” e “desumanizado“.
No entanto, na manhã de sexta-feira, Grok disse aos usuários que solicitavam a alteração das imagens enviadas para o X que “a geração e edição de imagens estão atualmente limitadas a assinantes pagantes”.
Ele acrescenta que os usuários “podem se inscrever para desbloquear esses recursos”.
Algumas postagens na plataforma vistas pela BBC Information sugerem que apenas aqueles com uma marca azul “verificado” – exclusivo para o nível de assinante pago de X – conseguiram solicitar edições de imagem para Grok com sucesso.
Prof McGlynn disse que a mudança ecoou a abordagem de X para deepfakes pornográficos de Taylor Swift na plataforma no ano passado – onde bloqueou pesquisas por materials sexualizado gerado pela popstar usando um recurso de vídeo Grok AI.
“Ele está fazendo isso para alimentar argumentos sobre liberdade de expressão”, acrescentou ela.
“Ele alegará que a regulamentação está sufocando o uso desta tecnologia pelas pessoas. Mas tudo o que a regulamentação exige é que ele tome as precauções necessárias para reduzir os danos”.
