Como a IA muda a matemática das startups, de acordo com um vice-presidente da Microsoft

Há 24 anos, Amanda Silver, da Microsoft, trabalha para ajudar desenvolvedores – e nos últimos anos, isso significou construir ferramentas para IA. Depois de um longo período no GitHub Copilot, Silver é agora vice-presidente corporativa na divisão CoreAI da Microsoft, onde trabalha em ferramentas para implantação de aplicativos e sistemas de agente dentro de empresas.

Seu trabalho está focado em o sistema de fundição dentro do Azure, que foi projetado como um portal unificado de IA para empresas, dando a ela uma visão mais próxima de como as empresas estão realmente usando esses sistemas e onde as implantações acabam falhando.

Falei com Silver sobre as capacidades atuais dos agentes empresariais e por que ela acredita que esta é a maior oportunidade para startups desde a nuvem pública.

Esta entrevista foi editada para maior extensão e clareza.

Portanto, seu trabalho se concentra em produtos da Microsoft para desenvolvedores externos – geralmente startups que não estão focadas em IA. Como você vê o impacto da IA ​​nessas empresas?

Vejo isso como um divisor de águas para startups tão profundo quanto a mudança para a nuvem pública. Se você pensar bem, a nuvem teve um enorme impacto para as startups porque significava que elas não precisavam mais de espaço imobiliário para hospedar seus racks e não precisavam gastar tanto dinheiro na infusão de capital para conseguir que o {hardware} fosse hospedado em seus laboratórios e coisas assim. Tudo ficou mais barato. Agora, a IA agente continuará a reduzir novamente o custo geral das operações de software program, porque muitos dos trabalhos envolvidos na criação de um novo empreendimento – sejam pessoas de apoio, investigações legais – muitos deles podem ser feitos de forma mais rápida e barata com agentes de IA. Acho que isso levará a mais empreendimentos e mais lançamentos de startups. E então veremos startups de maior valor com menos pessoas no comando. E eu acho que esse é um mundo emocionante.

Como é isso na prática?

Certamente estamos vendo agentes multietapas sendo amplamente utilizados em todos os diferentes tipos de tarefas de codificação, certo? Apenas como exemplo, uma coisa que os desenvolvedores precisam fazer para manter uma base de código é manter-se atualizado com as versões mais recentes das bibliotecas das quais ela depende. Você pode ter uma dependência de uma versão mais antiga do tempo de execução dot-net ou do Java SDK. E podemos fazer com que esses sistemas de agente analisem toda a sua base de código e atualizem-na com muito mais facilidade, talvez com uma redução de 70% ou 80% no tempo necessário. E realmente precisa ser um agente de múltiplas etapas implantado para fazer isso.

As operações de website ao vivo são outra: se você pensa em manter um website ou serviço e algo dá errado, há um barulho durante a noite e alguém precisa estar de plantão para acordar e responder ao incidente. Ainda temos pessoas de plantão 24 horas por dia, 7 dias por semana, caso o serviço caia. Mas costumava ser um trabalho realmente odiado porque você period acordado com bastante frequência por causa desses pequenos incidentes. E agora construímos um sistema genético para diagnosticar com sucesso e, em muitos casos, mitigar totalmente os problemas que surgem nessas operações em locais ao vivo, para que os humanos não tenham que ser acordados no meio da noite e ir grogue aos seus terminais e tentar diagnosticar o que está acontecendo. E isso também nos ajuda a reduzir drasticamente o tempo médio necessário para que um incidente seja resolvido.

Um dos outros enigmas do momento atual é que as implantações de agentes não aconteceram tão rápido quanto esperávamos há seis meses. Estou curioso para saber por que você acha isso.

Se você pensar nas pessoas que estão construindo agentes, o que as impede de ter sucesso, em muitos casos, é não saber realmente qual deve ser o propósito do agente. Há uma mudança cultural que precisa acontecer na forma como as pessoas constroem esses sistemas. Qual é o caso de uso de negócios que eles estão tentando resolver? O que eles estão tentando alcançar? Você precisa ter muita clareza sobre qual é a definição de sucesso para esse agente. E você precisa pensar: quais são os dados que estou fornecendo ao agente para que ele possa raciocinar sobre como realizar essa tarefa específica?

Vemos essas coisas como os maiores obstáculos, mais do que a incerteza geral de permitir que os agentes sejam mobilizados. Qualquer pessoa que observe esses sistemas vê o retorno do investimento.

Você mencionou a incerteza geral, que acho que parece ser um grande bloqueador vindo de fora. Por que você vê isso como um problema menor na prática?

Em primeiro lugar, acho que será muito comum que os sistemas de agentes tenham cenários humanos no circuito. Pense em algo como uma devolução de pacote. Antigamente, você teria um fluxo de trabalho para o processamento de devolução que period 90% automatizado e 10% de intervenção humana, onde alguém teria que olhar o pacote e fazer um julgamento sobre o quão danificado o pacote estava antes de decidir aceitar a devolução.

Esse é um exemplo perfeito de que agora os modelos de visão computacional estão ficando tão bons que, em muitos casos, não precisamos ter tanta supervisão humana para inspecionar o pacote e tomar essa decisão. Ainda haverá alguns casos limítrofes, em que talvez a visão computacional ainda não seja boa o suficiente para fazer uma ligação, e talvez haja uma escalada. É tipo, com que frequência você precisa ligar para o gerente?

Há algumas coisas que sempre precisarão de algum tipo de supervisão humana, porque são operações muito críticas. Pense em incorrer em uma obrigação authorized contratual ou em implantar código em uma base de código de produção que possa afetar potencialmente a confiabilidade dos seus sistemas. Mas mesmo assim, há a questão de até onde poderíamos chegar na automatização do resto do processo.