Pergunte a qualquer um o que A Nvidia fabrica, e é provável que digam primeiro “GPUs”. Durante décadas, o fabricante de chips foi definido pela computação paralela avançada, e o surgimento da IA generativa e o resultante aumento na demanda por GPUs foram uma bênção para a empresa.
Mas os movimentos recentes da Nvidia sinalizam que ela está procurando atrair mais clientes no segmento menos intensivo de computação do mercado de IA – clientes que não precisam necessariamente das GPUs mais robustas e poderosas para treinar modelos de IA, mas em vez disso estão procurando as maneiras mais eficientes de executar software program de IA agente. A Nvidia recentemente gastou bilhões para licenciar tecnologia de uma startup de chips focada em computação de IA de baixa latência e também começou a vender CPUs independentes como parte de seu mais recente sistema de superchip.
Ontem, Nvidia e Meta anunciado que a gigante das redes sociais concordou em comprar chips Nvidia no valor de bilhões de dólares para fornecer poder computacional para seus enormes projetos de infraestrutura – com as CPUs da Nvidia como parte do acordo.
O acordo plurianual é uma expansão de uma parceria contínua e aconchegante entre as duas empresas. A Meta estimou anteriormente que, até o ultimate de 2024, teria comprado 350.000 chips H100 da Nvidia, e que até o ultimate de 2025 a empresa teria acesso a 1,3 milhão de GPUs no total (embora não estivesse claro se todos seriam chips da Nvidia).
Como parte do último anúncio, a Nvidia disse que a Meta “construiria information facilities em hiperescala otimizados para treinamento e inferência em apoio ao roteiro de infraestrutura de IA de longo prazo da empresa”. Isso inclui uma “implantação em larga escala” de CPUs da Nvidia e “milhões de GPUs Nvidia Blackwell e Rubin”.
Notavelmente, Meta é a primeira gigante da tecnologia a anunciar que estava fazendo uma compra em grande escala da CPU Grace da Nvidia como um chip independente, algo que a Nvidia disse que seria uma opção quando revelou as especificações completas de seu novo superchip Vera Rubin em janeiro. A Nvidia também tem enfatizado que oferece tecnologia que conecta vários chips, como parte de sua “abordagem completa” para poder computacional, como disse um analista.
Ben Bajarin, CEO e analista principal da empresa de pesquisa de mercado de tecnologia Inventive Methods, diz que a mudança sinalizou que a Nvidia reconhece que uma gama crescente de software program de IA agora precisa ser executada em CPUs, da mesma forma que os aplicativos convencionais em nuvem. “A razão pela qual a indústria está tão otimista em relação às CPUs dentro dos information facilities é a IA de agência, que impõe novas demandas às arquiteturas de CPU de uso geral”, diz ele.
UM relatório recente do boletim informativo de chips Semianálise ressaltou esse ponto. Os analistas observaram que o uso da CPU está acelerando para apoiar o treinamento e inferência de IA, citando como exemplo um dos information facilities da Microsoft para OpenAI, onde “agora são necessárias dezenas de milhares de CPUs para processar e gerenciar os petabytes de dados gerados pelas GPUs, um caso de uso que de outra forma não seria necessário sem a IA”.
Bajarin observa, porém, que as CPUs ainda são apenas um componente dos sistemas de {hardware} de IA mais avançados. O número de GPUs que a Meta está comprando da Nvidia ainda supera o número de CPUs.
“Se você é um dos hiperescaladores, não estará executando todos de sua computação de inferência em CPUs”, diz Bajarin. “Você só precisa que qualquer software program que esteja executando seja rápido o suficiente na CPU para interagir com a arquitetura de GPU que é na verdade a força motriz dessa computação. Caso contrário, a CPU se tornará um gargalo.”
A Meta se recusou a comentar sobre seu acordo ampliado com a Nvidia. Durante uma recente teleconferência de resultados, o gigante da mídia social disse que planejava aumentar drasticamente seus gastos em infraestrutura de IA este ano para entre US$ 115 bilhões e US$ 135 bilhões, acima dos US$ 72,2 bilhões do ano passado.
