Índia ordena que plataformas de mídia social eliminem deepfakes mais rapidamente

A Índia ordenou que as plataformas de mídia social intensifiquem o policiamento de deepfakes e outras imitações geradas por IA, ao mesmo tempo que reduzem drasticamente o tempo que têm para cumprir as ordens de remoção. É uma medida que poderá remodelar a forma como as empresas globais de tecnologia moderam o conteúdo num dos maiores e mais rápidos mercados de serviços de Web do mundo.

As mudanças, publicado (PDF) na terça-feira, como alterações às regras de TI de 2021 da Índia, trazem deepfakes sob uma estrutura regulatória formal, obrigando a rotulagem e rastreabilidade de conteúdo áudio e visible sintético, ao mesmo tempo que reduz os prazos de conformidade para plataformas, incluindo um prazo de três horas para ordens oficiais de remoção e uma janela de duas horas para certas reclamações urgentes de usuários.

A importância da Índia como mercado digital amplifica o impacto das novas regras. Com mais de mil milhões de utilizadores da Web e uma população predominantemente jovem, o país do Sul da Ásia é um mercado crítico para plataformas como Meta e YouTube, tornando provável que as medidas de conformidade adotadas na Índia influenciem as práticas globais de produtos e moderação.

De acordo com as regras alteradas, as plataformas de redes sociais que permitem aos utilizadores carregar ou partilhar conteúdo audiovisual devem exigir a divulgação sobre se o materials é gerado sinteticamente, implementar ferramentas para verificar essas alegações e garantir que os deepfakes sejam claramente rotulados e incorporados com dados de proveniência rastreáveis.

Certas categorias de conteúdo sintético – incluindo personificações enganosas, imagens íntimas não consensuais e materials ligado a crimes graves – são totalmente excluídas das regras. O incumprimento, especialmente em casos sinalizados pelas autoridades ou pelos utilizadores, pode expor as empresas a uma maior responsabilidade authorized, colocando em risco as suas protecções de porto seguro ao abrigo da legislação indiana.

As regras baseiam-se fortemente em sistemas automatizados para cumprir essas obrigações. Espera-se que as plataformas implementem ferramentas técnicas para verificar as divulgações dos utilizadores, identificar e rotular deepfakes e, em primeiro lugar, impedir a criação ou partilha de conteúdo sintético proibido.

“As regras de TI alteradas marcam uma abordagem mais calibrada para common os deepfakes gerados por IA”, disse Rohit Kumar, sócio fundador da empresa de consultoria política The Quantum Hub, com sede em Nova Delhi. “Os prazos de reclamação significativamente reduzidos – como as janelas de remoção de duas a três horas – aumentarão significativamente os encargos de conformidade e merecerão um exame minucioso, especialmente tendo em conta que o não cumprimento está ligado à perda de proteções de porto seguro.”

Aprajita Rana, sócia da AZB & Companions, um importante escritório de advocacia corporativo indiano, disse que as regras agora se concentram em conteúdo audiovisual gerado por IA, em vez de todas as informações on-line, ao mesmo tempo em que abrem exceções para usos rotineiros, cosméticos ou relacionados à eficiência da IA. No entanto, ela advertiu que a exigência de que os intermediários removam o conteúdo no prazo de três horas, uma vez que tomem conhecimento do mesmo, afasta-se dos princípios estabelecidos de liberdade de expressão.

“A lei, no entanto, continua a exigir que os intermediários removam o conteúdo ao terem conhecimento ou receberem conhecimento actual, também no prazo de três horas”, disse Rana, acrescentando que os requisitos de rotulagem se aplicariam a todos os formatos para conter a propagação de materials de abuso sexual infantil e conteúdo enganoso.

Grupo de defesa digital com sede em Nova Delhi, Web Freedom Basis disse as regras correm o risco de acelerar a censura ao comprimir drasticamente os prazos de remoção, deixando pouco espaço para revisão humana e empurrando as plataformas para a remoção excessiva automatizada. Num comunicado publicado no X, o grupo também levantou preocupações sobre a expansão de categorias de conteúdo proibido e disposições que permitem às plataformas divulgar as identidades dos utilizadores a reclamantes privados sem supervisão judicial.

“Esses prazos impossivelmente curtos eliminam qualquer revisão humana significativa”, disse o grupo, alertando que as mudanças poderiam minar as proteções à liberdade de expressão e o devido processo.

Duas fontes da indústria disseram ao TechCrunch que as alterações seguiram um processo de consulta limitado, com apenas um conjunto restrito de sugestões refletidas nas regras finais. Embora o governo indiano pareça ter aceitado propostas para restringir o âmbito da informação abrangida — concentrando-se em conteúdos audiovisuais gerados por IA e não em todo o materials on-line — outras recomendações não foram adotadas. A escala das mudanças entre o projeto e as regras finais justificou outra rodada de consultas para dar às empresas uma orientação mais clara sobre as expectativas de conformidade, disseram as fontes.

Os poderes de derrubada do governo já foram uma ponto de discórdia na Índia. As plataformas de mídia social e os grupos da sociedade civil há muito criticam o amplitude e opacidade dos pedidos de remoção de conteúdoe até mesmo o X de Elon Musk desafiou Nova Deli em tribunal por causa das directivas para bloquear ou remover postos de trabalho, argumentando que eram um exagero e careciam de salvaguardas adequadas.

Meta, Google, Snap, X e o ministério de TI indiano não responderam aos pedidos de comentários.

As últimas mudanças ocorrem poucos meses depois do governo indiano, em outubro de 2025, reduzido o número de funcionários autorizados a ordenar a remoção de conteúdo da Web em resposta a uma contestação authorized de X sobre o âmbito e a transparência dos poderes de remoção.

As regras alteradas entrarão em vigor em 20 de fevereiro, dando às plataformas pouco tempo para ajustar os sistemas de conformidade. O lançamento coincide com a realização do evento na Índia Cimeira de Impacto da IA ​​em Nova Deli de 16 a 20 de fevereiro, que deverá atrair ao país executivos seniores de tecnologia world e legisladores.