A Fintech Brex está apostando que o futuro da IA empresarial não é uma melhor orquestração – é menos orquestração.
À medida que os agentes generativos de IA passam de copilotos para sistemas autônomos, o CTO da Brex, James Reggio, diz que as estruturas tradicionais de orquestração de agentes estão se tornando uma restrição em vez de um facilitador. Em vez de depender de um coordenador central ou de fluxos de trabalho rígidos, a Brex construiu o que chama de “Malha de Agentes”: uma rede de agentes estreitos e específicos para funções que se comunicam em linguagem simples e operam de forma independente – mas com whole visibilidade.
“Nosso objetivo é usar IA para fazer o Brex desaparecer efetivamente”, disse Reggio ao VentureBeat. “Nosso objetivo é a automação whole.”
A Brex aprendeu que, para os seus propósitos, os agentes precisam de trabalhar em funções restritas e específicas para serem mais modulares, flexíveis e auditáveis.
Reggio disse que o objetivo arquitetônico é permitir que cada gerente de uma empresa “tenha um único ponto de contato dentro do Brex que lide com a totalidade de suas responsabilidades, seja no gerenciamento de gastos, na solicitação de viagens ou na aprovação de solicitações de limite de gastos”.
A jornada do Brex Assistant
A indústria de serviços financeiros há muito que adoptou a IA e a aprendizagem automática para lidar com as enormes quantidades de dados que processa. Mas quando se trata de trazer modelos e agentes de IA, o a indústria tomou um caminho mais cauteloso no início. Agora, mais empresas de serviços financeiros, incluindo o Brex, têm lançou plataformas alimentadas por IA e vários fluxos de trabalho de agente.
A primeira incursão da Brex na IA generativa foi com seu Brex Assistant, lançado em 2023, que ajudou os clientes a automatizar certas tarefas financeiras e de despesas. Fornece sugestões para completar despesas, preenche informações automaticamente e acompanha despesas que violam políticas.
Reggio reconhece que o Brex Assistant funciona, mas não é suficiente. “Acho que, até certo ponto, continua sendo uma tecnologia onde não conhecemos inteiramente seus limites”, disse ele. “Há um grande número de padrões que precisam existir em torno dele e que estão sendo desenvolvidos pela indústria à medida que a tecnologia amadurece e à medida que mais empresas constroem com ela”.
Brex Assistant usa vários modelos, incluindo Claude da Antrópico e modelos Brex personalizados, bem como API da OpenAI. O assistente automatiza algumas tarefas, mas ainda é limitado em termos de baixo toque.
Reggio disse que o Brex Assistant ainda desempenha um papel importante na jornada de autonomia da empresa, principalmente porque seu produto Agent Mesh flui para o aplicativo.
UMgent Mesh para substituir a orquestração
O consenso na indústria é que os ecossistemas multiagentes, nos quais os agentes comunicam para realizar tarefas, requerem uma estrutura de orquestração para os guiar.
Reggio, por outro lado, tem uma visão diferente. “A infraestrutura de orquestração determinística… foi uma solução para os problemas que vimos há dois anos, que period que os agentes, assim como os modelos, tinham muitas alucinações”, disse Reggio. “Eles não são muito bons com múltiplas ferramentas, então você precisa dar-lhes esses graus de liberdade, mas em um sistema mais estruturado e rígido. Mas à medida que os modelos melhoram, acho que isso está começando a restringir a gama de possibilidades que estão se expandindo.”
As arquiteturas de orquestração de agentes mais tradicionais se concentram em um único agente que faz tudo ou, mais comumente, em coordenadores/orquestradores mais agentes de ferramentas que definem explicitamente os fluxos de trabalho. Reggio disse que ambas as estruturas são muito rígidas e resolvem problemas mais comumente vistos em software program tradicional do que em IA.
A diferença, argumenta Reggio, é estrutural:
-
Orquestração tradicional: fluxos de trabalho predefinidos, coordenador central, caminhos determinísticos
-
Malha de Agente: agentes orientados a eventos e especializados em funções, coordenação baseada em mensagens
Agent Mesh depende da união de redes de muitos pequenos agentes, cada um especializado em uma única tarefa. Os agentes, mais uma vez utilizando a combinação híbrida de modelos como acontece com o Brex Assistant, comunicam-se com outros agentes “em inglês simples” através de um fluxo de mensagens partilhado. Um modelo de roteamento determina rapidamente quais ferramentas invocar, disse ele.
Uma única solicitação de reembolso aciona diversas tarefas: uma verificação de conformidade para alinhamento com as políticas de despesas, validação do orçamento, correspondência de recebimentos e, em seguida, início do pagamento. Embora um agente certamente possa ser codificado para fazer tudo isso, esse método é “frágil e sujeito a erros” e, de qualquer maneira, responde a novas informações compartilhadas por meio de um fluxo de mensagens.
Reggio disse que a ideia é eliminar a ambiguidade de todas essas tarefas separadas e atribuí-las a agentes menores. Ele comparou a arquitetura a uma malha Wi-Fi, onde nenhum nó controla o sistema – a confiabilidade surge de muitos contribuidores pequenos e sobrepostos.
“Basicamente, encontramos uma combinação muito boa com a ideia de incorporar funções específicas como agentes na melhor plataforma para gerenciar responsabilidades específicas, da mesma forma que você pode delegar contas a pagar a uma equipe em vez de gerenciamento de despesas para outra equipe”, disse Reggio.
Brex outline três ideias principais na arquitetura Agent Mesh:
-
Config, onde estão as definições de agente, modelo, ferramentas e assinatura
-
MessageStream, um registro de cada mensagem, chamada de ferramenta e transição de estado
-
Relógio, que garante ordenação determinística
A Brex também incorporou avaliações no sistema, nas quais o LLM atua como juiz, e um agente de auditoria analisa as decisões de cada agente para garantir que aderem à precisão e às políticas comportamentais.
Sucesso até agora
A Brex afirma ter obtido ganhos substanciais de eficiência entre os seus clientes no seu ecossistema de IA. A Brex não forneceu benchmarks de terceiros ou dados específicos de clientes para validar esses ganhos.
Mas Reggio disse que os clientes empresariais que usam o Brex Assistant e os sistemas de aprendizado de máquina da empresa “são capazes de alcançar 99% de automação, especialmente para clientes que realmente se interessaram pela IA”.
Esta é uma melhoria acentuada em relação aos 60 a 70% de clientes Brex que conseguiram automatizar os seus processos de despesas antes do lançamento do Brex Assistant.
A empresa ainda está no início de sua jornada de autonomia, disse Reggio. Mas se a abordagem Agent Mesh funcionar, o resultado mais bem-sucedido pode ser invisível: os funcionários não pensam mais nas despesas.
