O modelo de IA de Elon Musk, Grok, não será mais capaz de editar fotos de pessoas reais para mostrá-las em roupas reveladoras em jurisdições onde isso é ilegal, após preocupação generalizada com deepfakes sexualizados de IA.
“Implementamos medidas tecnológicas para evitar que a conta Grok permita a edição de imagens de pessoas reais em roupas reveladoras”, diz um anúncio no X.
Reagindo à proibição, o governo do Reino Unido alegou “justificação” depois que o primeiro-ministro, Sir Keir Starmer, pediu ao X para controlar sua ferramenta de IA.
A mudança foi anunciada horas depois que o principal promotor da Califórnia disse que o estado estava investigando a disseminação de deepfakes sexualizados de IA, inclusive de crianças, gerados pelo modelo de IA.
“Agora bloqueamos geograficamente a capacidade de todos os usuários gerarem imagens de pessoas reais em biquínis, roupas íntimas e trajes semelhantes por meio da conta Grok e no Grok in X nas jurisdições onde isso é ilegal”, X disse em um comunicado na quarta-feira.
Também reiterou que apenas usuários pagos poderão editar imagens usando Grok em sua plataforma.
Isto adicionará uma camada additional de proteção, ajudando a garantir que aqueles que tentam abusar de Grok para violar a lei ou as políticas de X sejam responsabilizados, de acordo com o comunicado.
Com as configurações NSFW (não seguras para o trabalho) habilitadas, Grok deve permitir “nudez da parte superior do corpo de humanos adultos imaginários (não reais)” consistente com o que pode ser visto em filmes censurados, escreveu Musk on-line na quarta-feira.
“Esse é o padrão de fato na América. Isso irá variar em outras regiões de acordo com as leis de país para país”, disse o multibilionário da tecnologia.
Musk já havia defendido X, postando que os críticos “só querem suprimir a liberdade de expressão”, juntamente com duas imagens geradas por IA do primeiro-ministro do Reino Unido, Sir Keir Starmer, de biquíni.
Nos últimos dias, líderes de todo o mundo criticaram o recurso de edição de imagens do Grok.
No fim de semana, a Malásia e a Indonésia se tornaram os primeiros países a proibir a ferramenta Grok AI depois que os usuários disseram que as fotos foram alteradas para criar imagens explícitas sem consentimento.
O regulador de mídia britânico, Ofcom, disse na segunda-feira que investigaria se X não cumpriu a lei do Reino Unido sobre as imagens sexuais.
Se for considerado que infringiu a lei, o Ofcom poderá aplicar a X uma multa de até 10% de sua receita mundial ou £ 18 milhões, o que for maior.
E se X não cumprir, o Ofcom poderá solicitar uma ordem judicial para forçar os provedores de serviços de Web a bloquear totalmente o acesso ao web site no Reino Unido.
Sir Keir alertou que X poderia perder o “direito à auto-regulação” em meio a uma reação negativa sobre as imagens de IA, mas no ultimate da semana disse que acolheu com satisfação relatos de que X estava tomando medidas para resolver o problema.
O primeiro-ministro disse que “tomaria as medidas necessárias” e reforçaria a legislação se X não agisse.
Ele já havia condenado as imagens criadas pela ferramenta como “nojentas e vergonhosas” e disse que a decisão de “transformar isso em um serviço premium é horrível”.
X disse mais tarde que as mudanças no Grok se aplicariam a “todos os usuários, incluindo assinantes pagos”.
O procurador-geral da Califórnia, Rob Bonta, disse na quarta-feira: “Este materials, que retrata mulheres e crianças em situações nuas e sexualmente explícitas, tem sido usado para assediar pessoas na Web”.
A pesquisadora de políticas Riana Pfefferkorn disse estar surpresa por X ter demorado tanto para implantar as novas proteções Grok e que os recursos de edição deveriam ter sido removidos assim que o abuso começou.
Permanecem dúvidas sobre como X aplicará suas novas políticas, como como o modelo de IA saberá se uma imagem é de uma pessoa actual e quais ações serão tomadas quando os usuários violarem as regras, disse Pfefferkorn.
Musk também não apresentou a empresa de maneira séria, disse ela, acrescentando que ajudaria se ele parasse de “fazer coisas como republicar uma imagem de IA de Keir Starmer de biquíni”.
