Senadores dos EUA pedem à Apple e ao Google que removam aplicativos X e Grok devido à geração de imagens sexualizadas

Em um carta ao CEO da Apple, Tim Cook, e ao CEO do Google, Sundar Pichaios senadores norte-americanos Ron Wyden, Ben Ray Lujan e Edward Markey solicitaram que a Apple e o Google removessem os aplicativos X e Grok da X Corp de suas lojas de aplicativos devido a incidentes recentes de “geração em massa de imagens sexualizadas não consensuais de mulheres e crianças”.

X foi criticado na semana passada em meio a relatos de que os recursos de geração de imagens de IA da Grok estavam sendo usados ​​para criar imagens representando mulheres e crianças em biquínis ou roupas íntimas. Em resposta, o X parece ter reduzido a capacidade do Grok de gerar imagens em resposta às postagens do X por usuários não pagantes, mas A beira notas que as ferramentas permaneçam disponíveis para assinantes pagantes e por meio da guia Grok dedicada no X e no aplicativo Grok independente.

Os senadores argumentam que as “representações prejudiciais e provavelmente ilegais” violam os termos da loja de aplicativos da Apple e do Google e que as duas empresas devem remover os aplicativos até que as violações da política sejam resolvidas.

. . . Os termos de serviço da Apple proíbem aplicativos de incluir conteúdo “ofensivo” ou “simplesmente assustador”, que sob qualquer definição deve incluir imagens sexualizadas de crianças e mulheres geradas não consensualmente. Além disso, os termos da Apple proíbem explicitamente que aplicativos incluam conteúdo que seja “[o]materials verdadeiramente sexual ou pornográfico”, incluindo materials “destinado a estimular sentimentos eróticos em vez de estéticos ou emocionais”.

Fechar os olhos ao comportamento flagrante de X seria uma zombaria de suas práticas de moderação. Na verdade, não tomar medidas prejudicaria suas reivindicações públicas e judiciais de que suas lojas de aplicativos oferecem uma experiência de usuário mais segura do que permitir que os usuários baixem aplicativos diretamente em seus telefones. Este princípio tem sido basic para a sua defesa contra as reformas legislativas para aumentar a concorrência nas lojas de aplicações e para as suas defesas contra alegações de que as suas lojas de aplicações abusam do seu poder de mercado através dos seus sistemas de pagamento.

Os senadores solicitam uma resposta por escrito à sua carta até 23 de janeiro.

Nota: Devido à natureza política ou social da discussão sobre este tema, o tópico de discussão está localizado em nosso Notícias Políticas fórum. Todos os membros do fórum e visitantes do web site são bem-vindos para ler e seguir o tópico, mas a postagem é limitada aos membros do fórum com pelo menos 100 postagens.