O chatbot de IA de Elon Musk, Grok, anunciou uma mudança na política que pretende oferecer mais proteções contra deepfakes sexualizados, pelo menos no X. A nova política surge no momento em que a Califórnia inicia uma investigação sobre o assunto, enquanto o Reino Unido ameaça proibi-la.
“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras, como biquínis”, leia uma declaração da conta X Safety em Xum web site irmão de Grok, postado pouco antes das 18h ET/15h PT na quarta-feira. “Esta restrição se aplica a todos os usuários, incluindo assinantes pagos.”
A atualização do X Security também afirmou que leva a sério o materials de abuso sexual infantil (CSAM) e a nudez não consensual antes de reiterar outra mudança recente: a criação e edição de imagens por meio da conta Grok no X agora está limitada aos assinantes.
A conta X Security também anunciou que agora tem a capacidade de bloquear geograficamente “todos os usuários para [sic] gerar imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal.”
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
Grok e X enfrentaram uma onda de escrutínio no ano novo, à medida que imagens sexualizadas e não consensuais de celebridades e crianças, instigadas por usuários e criadas por sua IA, proliferaram em X. O procurador-geral da Califórnia, Rob Bonta, exigiu que Grok e seu desenvolvedor xAI tomassem medidas para remover e prevenir tais imagens, ameaçando usar “todas as ferramentas à nossa disposição” para manter seus moradores seguros.
Velocidade da luz mashável
“Este materials, que retrata mulheres e crianças em situações de nudez e sexualmente explícitas, tem sido usado para assediar pessoas na Web”, Bonta disse em um comunicado na quarta-feira.
Enquanto isso, o chefe do xAI/X/Grok, Elon Musk, parecia desafiar os usuários a “quebrar a moderação de imagem do Grok” no mesmo dia em que a X Security anunciou suas novas atualizações de segurança:
Este Tweet não está disponível no momento. Pode estar carregando ou foi removido.
Proibição de Grok: as nações que consideram bloquear o chatbot de IA por conteúdo sexual não consensual
O primeiro-ministro britânico, Keir Starmer, ameaçou na segunda-feira tomar medidas contra Musk, dizendo “se X não puder controlar Grok, nós o faremos”. de acordo com uma reportagem da BBC. A Indonésia e a Malásia já bloquearam o acesso ao Grok neste fim de semana.
Os políticos também visaram Grok e X, com três senadores pedindo à Apple que removesse os serviços de sua loja de aplicativos. Os aplicativos ainda estão disponíveis na app retailer da Apple na noite de quarta-feira.
As recentes alterações da X à sua política podem reflectir um reconhecimento por parte dos líderes da empresa de que não está protegida pela Secção 230 da Lei de Decência nas Comunicações dos EUA, de 30 anos, de acordo com a BBC. A seção 230 protege as empresas de tecnologia de ações judiciais relacionadas a conteúdo gerado por usuários, mas imagens e outros conteúdos criados pela própria tecnologia de um aplicativo podem ser menos imunes a essa imunidade authorized.
