A tecnologia subjacente à maioria dos modelos de inteligência synthetic amplamente disponíveis são os grandes modelos de linguagem, uma forma de aprendizagem automática e processamento de linguagem. A aposta que a maioria das empresas de IA está a fazer é que os LLMs, se alimentados com dados suficientes, alcançarão algo como autonomia whole para pensar e funcionar de forma semelhante aos humanos – mas com ainda mais conhecimento colectivo. Acontece que apostar no crescimento infinito pode não ter grandes probabilidades de dar resultado. UM novo estudo afirma mostrar provas matemáticas de que “LLMs são incapazes de realizar tarefas computacionais e de agente além de uma certa complexidade”.
O artigo publicado pelos pesquisadores pai e filho Vishal Sikka e Varin Sikka e apareceu recentemente pela Wired após sua publicação inicial passar despercebida, tem uma conclusão bastante simples, embora haja um pouco de matemática complicada para chegar a ela. Destilado da forma mais simples possível, ele raciocina que certos prompts ou tarefas fornecidas a um LLM exigirão um cálculo mais complexo do que aquele que o modelo é capaz de processar e, quando isso acontecer, o modelo não conseguirá concluir a ação solicitada ou executará a tarefa incorretamente.
A premissa básica da pesquisa realmente lança um pouco de água fria sobre a ideia de que a IA agentic, modelos que podem receber tarefas de várias etapas que são concluídas de forma completamente autônoma, sem supervisão humana, será o veículo para alcançar a inteligência synthetic geral. Isso não quer dizer que a tecnologia não tenha uma função ou não vá melhorar, mas coloca um limite muito inferior ao que é possível do que o que as empresas de IA gostariam de reconhecer ao apresentarem uma proposta de “o céu é o limite”.
Os pesquisadores não são os primeiros a sugerir que os LLMs podem não ser tudo o que dizem ser, embora sua pesquisa coloque matemática actual por trás do sentimento que muitos céticos da IA expressaram. No ano passado, pesquisadores da Apple publicou um artigo que concluiu que os LLMs não são capazes de raciocinar ou pensar de fato, apesar de criarem a aparência de fazê-lo. Benjamin Riley, fundador da empresa Ressonância Cognitiva, escreveu no ano passado que, devido à forma como os LLM funcionam, eles nunca alcançarão verdadeiramente o que consideramos ser “inteligência”. Outros estudos testaram os limites dos modelos de IA alimentados por LLM para ver se eles são capazes de produzir novos resultados criativos, com resultados bastante pouco inspiradores.
Mas se nada disso é convincente e você prefere equações matemáticas elaboradas, então o estudo dos Sikkas pode ser a prova de que você precisa. Tudo isso faz parte de um crescente conjunto de evidências que sugerem que, seja qual for a capacidade da IA em sua forma atual, é quase certo que não será a tecnologia que superará a inteligência humana até o closing deste ano, como disse Elon Musk. reivindicado recentemente.
