Siga ZDNET: Adicione-nos como fonte preferencial no Google
Principais conclusões da ZDNET
- Os hackers usam injeção imediata para roubar os dados privados que você usa na IA.
- O novo modo Lockdown do ChatGPT visa prevenir esses ataques.
- Os rótulos de Risco Elevado alertam sobre ferramentas e conteúdos de IA que podem ser arriscados.
Os ataques de injeção imediata representam uma séria ameaça para qualquer pessoa que use ferramentas de IA, mas especialmente para os profissionais que dependem delas no trabalho. Ao explorar uma vulnerabilidade que afeta a maioria das IAs, um hacker pode inserir código malicioso num immediate de texto, o que pode então alterar os resultados ou até mesmo roubar dados confidenciais.
Além disso: 5 instruções personalizadas do ChatGPT que uso para obter melhores resultados de IA – mais rápido
Agora, a OpenAI introduziu um recurso chamado Lockdown Mode para impedir melhor esses tipos de ataques.
Modo de bloqueio
O Modo Lockdown aprimora a proteção contra injeções imediatas e outras ameaças avançadas. Com essa configuração habilitada, o ChatGPT fica limitado nas formas como pode interagir com sistemas e dados externos, restringindo assim a capacidade de um invasor de exfiltrar arquivos confidenciais.
Uma configuração de segurança opcional, o modo Lockdown, não é necessário para a maioria dos usuários do ChatGPT, disse OpenAI em um comunicado de imprensa na sexta-feira. Em vez disso, o recurso é mais voltado para usuários preocupados com a segurança, como executivos ou profissionais de segurança de organizações importantes. Com isso em mente, o Modo Lockdown está disponível para ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare e ChatGPT for Lecturers.
Além disso: essas quatro vulnerabilidades críticas de IA estão sendo exploradas mais rápido do que os defensores conseguem responder
O Modo Lockdown funciona determinando quais ferramentas e recursos do ChatGPT correm maior risco. O objetivo é restringir o acesso a quaisquer dados confidenciais em uma conversa ou em um aplicativo conectado que possa ser explorado por meio de injeção imediata.
(Divulgação: Ziff Davis, empresa controladora da ZDNET, entrou com uma ação judicial em abril de 2025 contra a OpenAI, alegando que ela violou os direitos autorais de Ziff Davis no treinamento e operação de seus sistemas de IA.)
Por exemplo, a navegação na internet no modo Lockdown limita o acesso ao conteúdo em cache para que nenhuma solicitação ao vivo saia da rede da OpenAI. Outros recursos são completamente desativados, a menos que a OpenAI possa confirmar que os dados estão seguros. Aqui, a ideia é evitar que um invasor roube dados por meio da navegação na internet.
Os planos de negócios ChatGPT já oferecem proteção de segurança de nível empresarial, que os administradores podem controlar por meio das configurações do Workspace. O Modo Lockdown adiciona uma camada additional de defesa. Os administradores do Workspace também podem escolher quais aplicativos e ações são controlados pelo Modo Lockdown.
Rótulos de risco elevado
Mas isso não é tudo. A OpenAI agora também exibirá um rótulo de Risco Elevado quando você acessar determinados recursos que podem ser arriscados. Acessíveis no ChatGPT, no navegador ChatGPT Atlas e no assistente de codificação Codex, esses rótulos são projetados para lhe dar uma pausa antes de trabalhar com uma ferramenta ou conteúdo que possa ser explorado.
Além disso: o segredo da segurança no emprego da IA? Pare de se estressar e comece a trabalhar agora – veja como
Por exemplo, os desenvolvedores que usam o Codex podem fornecer à ferramenta acesso à rede para que ela possa pesquisar assistência na internet. Com esse acesso habilitado, o rótulo Risco Elevado irá avisá-lo sobre riscos potenciais, alterações que podem ocorrer e quando tal acesso é garantido.
Os rótulos de Risco Elevado foram concebidos como uma solução de curto prazo para, pelo menos, informá-lo sobre perigos potenciais. Olhando para o futuro, a OpenAI disse que planeja adicionar mais recursos de segurança para lidar com riscos e ameaças adicionais, eventualmente eliminando a necessidade de tais rótulos.
