Siga ZDNET: Adicione-nos como fonte preferencial no Google.
Principais conclusões da ZDNET
- A Anthropic está lançando o Cowork for Claude como uma prévia da pesquisa.
- É baseado no Claude Code e pode automatizar tarefas complexas.
- No entanto, isso traz riscos de segurança.
A Anthropic está testando um novo recurso para Claude que daria ao chatbot mais agência ao lidar com tarefas rotineiras, mas demoradas, como criar uma planilha ou sintetizar notas em um primeiro rascunho apresentável.
Cowork, como o novo recurso é chamado, é construído sobre Claude Code e projetado para executar funções complexas com o mínimo de solicitação humana, ao mesmo tempo em que mantém os usuários atualizados sobre as etapas que estão sendo executadas. A ideia é entregar a matéria-prima que Claude precisará para realizar uma determinada tarefa, depois se afastar e deixar que ele faça seu trabalho automaticamente. Através do Cowork, os usuários podem conceder ao Claude acesso a pastas específicas do seu computador, e o recurso também pode ser modificado para usar conectores, habilidades e o Google Chrome.
Além disso: Claude pode integrar-se ao Excel agora – e obtém 7 novos conectores
“O Cowork foi projetado para tornar o uso de Claude para novos trabalhos o mais simples possível”, escreveu a Anthropic em um submit no weblog. “Você não precisa fornecer contexto manualmente ou converter os resultados de Claude no formato correto. Parece muito menos uma troca de ideias e muito mais como deixar mensagens para um colega de trabalho.”
Riscos
A Anthropic reconheceu em seu weblog, no entanto, que usar o Cowork nesta fase inicial de seu desenvolvimento não é totalmente isento de riscos.
Embora a empresa tenha dito que o Cowork pedirá confirmação aos usuários “antes de tomar qualquer ação significativa”, ela também alertou que instruções ambíguas podem levar ao desastre: “A principal coisa a saber é que Claude pode tomar ações potencialmente destrutivas (como excluir arquivos locais) se for instruído a fazê-lo”, escreveu a Anthropic em seu weblog. “Como sempre há alguma probability de Claude interpretar mal suas instruções, você deve dar a Claude uma orientação muito clara sobre coisas como essa.”
Isto fala do problema de alinhamento mais amplo que todos os criadores de IA enfrentam: nomeadamente, que os modelos – especialmente aqueles concebidos para terem maior agência – podem interpretar mal instruções humanas benignas ou comportar-se de formas inesperadas, conduzindo potencialmente a resultados calamitosos. Num caso mais extremo, a investigação da Anthropic descobriu que os principais modelos de IA por vezes ameaçam os utilizadores humanos se estes acreditarem que estão a ser impedidos de atingir os seus objectivos.
Além disso: como a OpenAI está defendendo o ChatGPT Atlas de ataques agora – e por que a segurança não é garantida
A Anthropic também alertou que o Cowork é vulnerável à injeção imediata, um hacking malicioso no estilo cavalo de Tróia, no qual um agente é instruído a agir de forma destrutiva ou ilegal. A postagem do weblog dizia que a Anthropic fortaleceu Claude com “defesas sofisticadas contra injeções imediatas”, mas admitiu que esta period “ainda uma área ativa de desenvolvimento na indústria”.
OpenAI, principal concorrente da Anthropic, escreveu em seu próprio weblog no mês passado que as injeções imediatas provavelmente continuarão sendo um problema insolúvel para os agentes de IA, e que o melhor que os desenvolvedores poderiam esperar fazer period minimizar as margens através das quais hackers mal-intencionados poderiam atacar.
Diminuir zoom
A Anthropic se destacou na indústria cada vez mais concorrida de IA, principalmente por construir ferramentas nas quais engenheiros de software program e empresas confiam. Em setembro, a empresa anunciou que tinha levantado 14 mil milhões de dólares na sua última ronda de financiamento, elevando a sua avaliação complete para 183 mil milhões de dólares. O Jornal de Wall Avenue relatado na semana passada que a empresa poderia ser avaliada em US$ 350 bilhões após uma nova rodada de financiamento.
Além disso: como o domínio empresarial da Anthropic alimentou sua avaliação monstruosa de US$ 183 bilhões
A estreia do Cowork sugere o que poderia se tornar um esforço crescente da Anthropic para tornar seu principal chatbot a ferramenta de IA preferida não apenas para programadores e empresas, mas também para usuários comuns.
Como acessar
A Anthropic está lançando inicialmente o Cowork como uma prévia da pesquisa exclusivamente para assinantes do Claude Max, que podem acessá-lo agora baixando o aplicativo Claude MacOS e clicando em “Cowork” na barra lateral. Para outros usuários, uma lista de espera deverá estar disponível em breve e atualizaremos isso quando tivermos um hyperlink para compartilhar.
A empresa disse em seu weblog que usará o suggestions inicial para orientar futuras melhorias no Cowork, como permitir o uso entre dispositivos, disponibilidade no Home windows e recursos de segurança atualizados.
