Quando a Amazon Net Providers foi atingida por uma interrupção de 13 horas em dezembro, não foi porque uma pessoa tropeçou em um cabo. De acordo com um relatório do Monetary Instances, vários funcionários anônimos da Amazon disseram que a interrupção foi culpa de Kiro, assistente de codificação de IA da Amazon – embora a Amazon supostamente tenha culpado o erro humano pela situação.
De acordo com as contas prestadas ao Tempos FinanceirosKiro estava trabalhando de forma autônoma quando se deparou com um problema. Decidiu que a melhor ação seria “excluir e recriar o ambiente” que estava causando problemas. Isso, de acordo com os relatos, levou à interrupção que a Amazon descreveu como um “evento extremamente limitado”, que acabou interrompendo o serviço em uma parte da China continental.
Em circunstâncias normais, Kiro exige que duas pessoas aprovem as alterações propostas antes de prosseguir. Mas, neste caso, o agente de IA estaria trabalhando com um engenheiro que tinha permissões mais amplas do que os funcionários de escalão inferior, e Kiro estava sendo tratado como uma extensão de um operador. Como resultado, ele recebeu as mesmas permissões que uma pessoa e foi autorizado a realizar a alteração sem aprovação, o que levou à interrupção.
Aparentemente também não foi a primeira vez que isso aconteceu. De acordo com o FT, é pelo menos o segundo incidente em que Kiro recebeu rédea solta adicional e, finalmente, o buffou. A situação anterior não afetou nenhum “serviço da AWS voltado para o cliente”, por isso passou despercebida para o mundo fora da AWS. Mas os funcionários parecem estar prestando atenção.
A Amazon pressionou muito o Kiro desde que lançou o assistente de codificação em julho, supostamente oferecendo orientação aos funcionários que eles usem a ferramenta interna em vez de opções externas, como Codex da OpenAI, Claude Code da Anthropic ou Cursor—aparentemente para desgosto dos engenheirosque preferiria usar ferramentas como Claude.
Talvez então não seja surpreendente que a Amazon seja particularmente defensiva em relação ao seu precioso bebê Kiro. De acordo com o Financial Timesa empresa descreveu o incidente de interrupção como “um problema de controle de acesso do usuário, não um problema de autonomia de IA” e disse que foi apenas uma “coincidência de ferramentas de IA estarem envolvidas” porque “o mesmo problema pode ocorrer com qualquer ferramenta de desenvolvedor ou ação handbook”. A última parte é verdadeira; uma pessoa poderia ter cometido o mesmo erro. A questão é, porém, que eles não o fizeram. Foi um agente de IA que supostamente teve um nível inesperado de acesso à base de código da empresa e fez barulho.
A Amazon teria dito aos funcionários que deseja que 80% de seus desenvolvedores usem IA para tarefas de codificação pelo menos uma vez por semana. Se você não conseguir fazer login no Spotify ou Discord, saiba que a Amazon atingiu seu objetivo.
