Em um novo Relatório do rastreador de ameaças publicado na quinta-feira, o Google disse que hackers estão envolvidos em “ataques de destilação”, incluindo um caso em que usaram mais de 100.000 prompts de IA para roubar a tecnologia da empresa para seu modelo Gemini AI.
O Google disse que os ataques parecem vir de adversários em países como Coreia do Norte, Rússia e China, e que as tentativas de roubar propriedade intelectual de IA e provavelmente cloná-la em modelos de IA em outros idiomas fazem parte de um conjunto mais amplo de ataques e malware baseados em IA que a empresa viu surgir.
A empresa identifica essas tentativas como ataques de extração de modelo, que, segundo ela, “ocorrem quando um adversário usa acesso legítimo para investigar sistematicamente um modelo maduro de aprendizado de máquina para extrair informações usadas para treinar um novo modelo”.
Isso poderia significar usar IA para inundar o Gemini com milhares de solicitações para replicar as capacidades de seu modelo. O Google observou no relatório que isto não é uma ameaça para os seus utilizadores, mas sim para os prestadores de serviços e construtores de modelos, que podem estar vulneráveis a ter o seu trabalho roubado e replicado.
Competição de IA e roubo de IA
John Hultquist, analista-chefe do Google Menace Intelligence Group, que elaborou o relatório, disse à NBC News que o Google pode ser uma das primeiras empresas a enfrentar esse tipo de tentativa de roubo, mas pode haver muito mais. “Seremos o canário na mina de carvão para muito mais incidentes”, disse ele.
A guerra pelos modelos de IA intensificou-se em diversas frentes, mais recentemente com empresas chinesas como a ByteDance introduzindo tecnologias avançadas ferramentas de geração de vídeo. No ano passado, a empresa chinesa de IA DeepSeek abalou a indústria de IAliderada principalmente por empresas norte-americanas, ao introduzir um modelo que rivalizava com a tecnologia de IA de ponta do mundo. OpenAI mais tarde acusado DeepSeek de treinar sua IA em tecnologia existente de maneira semelhante às descritas pelo Google em seu novo relatório.
(Divulgação: Ziff Davis, empresa controladora da CNET, em 2025 entrou com uma ação judicial contra a OpenAI, alegando que ela infringiu os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
