Padre Mike Schmitz, um padre católico e podcaster, dirigiu-se à sua congregação de mais de 1,2 milhão de assinantes do YouTube em novembro com um tipo incomum de homilia. Nem sempre period possível confiar nas palavras que saíam da boca dele, disse Schmitz, porque às vezes não eram realmente as palavras dele – ou a boca dele. Schmitz tornou-se alvo de golpes de identidade gerados por IA.
“Você está sendo observado por um humano demoníaco”, disse o falso Schmitz em um vídeo que o verdadeiro Schmitz, vestindo uma jaqueta LL Bean por cima do terno clerical, incluiu em seu anúncio de serviço público como exemplo. “Você deve agir rapidamente, porque as vagas para envio de orações já estão se esgotando”, disse outro falso Schmitz com uma ampulheta atrás dele. “E a próxima viagem só acontecerá daqui a quatro meses.” O falso Schmitz parecia um pouco robótico ao pedir aos espectadores que clicassem em um hyperlink e garantissem sua bênção antes que fosse tarde demais.
“Posso olhar para eles e dizer ‘Isso é ridículo, eu nunca diria isso’”, disse o verdadeiro Schmitz, que mora em Duluth, Minnesota, em seu vídeo de chamada. “Mas as pessoas não sabem necessariamente dizer. Isso é um problema. É um problema realmente grande.”
No vídeo actual de Schmitz, alguns dos principais comentários dos seus seguidores disseram ter visto outras figuras católicas proeminentes personificadas através de vídeos de IA, incluindo o papa. De acordo com a especialista em segurança cibernética Rachel Tobac, CEO da SocialProof Safety, isso ocorre porque os pastores se tornaram alvos extremamente populares de golpes de IA e outras mídias enganosas.
“Se você está no TikTok ou no Reels, eles provavelmente encontraram sua página For You”, diz Tobac. “Este é alguém que parece ser um padre, que está usando todas as vestimentas, que está de pé em um púlpito ou palco ou como você chamar, e parece estar falando à sua congregação de uma forma muito entusiasmada.”
Pastores e ministros em BirminghamAlabama, Porto LivreNova York e Fort LauderdaleFlórida, alertaram seus seguidores sobre golpes de IA que se fazem passar por eles na forma de mensagens diretas, chamadas e deepfakes. Alan Beauchamp, pastor em Ozarks, disse que sua conta no Fb foi hackeadocom o hacker postando um certificado falso, possivelmente gerado por IA, para negociação de criptomoedas com o nome de Beauchamp e uma legenda instando seus fiéis a se juntarem a ele. Uma megaigreja nas Filipinas relatórios recebidos de deepfakes apresentando seus pastores. Uma igreja evangélica em Nebraska emitiu um “alerta de golpista” de IA no Facebooke um frequentador da igreja nos comentários postou uma captura de tela de textos supostamente de um de seus pastores.
Não ajuda o fato de muitos pastores e ministros que conquistaram muitos seguidores on-line, muitas vezes, na verdade, solicitarem doações e venderem coisas, mas não as mesmas coisas que seus imitadores de IA. Com a ajuda das redes sociais, as autoridades religiosas conseguiram alcançar os crentes muito além dos seus bairros, mas a proliferação de conteúdos com as suas imagens e vozes também proporcionou a oportunidade perfeita para os burlões que utilizam ferramentas generativas de IA.
