Dario Amodei exortou a humanidade a “acordar” e enfrentar os riscos existenciais antes que seja tarde demais
O CEO da empresa líder em IA Anthropic, Dario Amodei, emitiu um aviso público sinistro de que a humanidade está prestes a ser entregue “poder quase inimaginável”, para o qual está perigosamente despreparado.
Em um ensaio de quase 20.000 palavras intitulado “A adolescência da tecnologia”, Amodei esboça um futuro próximo onde sistemas de IA muito mais capazes do que qualquer laureado com o Nobel ou estadista poderão estar à disposição de todos nos próximos anos. Um issue crítico e acelerador, revela Amodei, é que o desenvolvimento da IA está agora a criar um ciclo de suggestions que se auto-reforça.
“Como a IA agora escreve grande parte do código da Anthropic, ela já está acelerando substancialmente nosso progresso na construção da próxima geração de sistemas de IA”, ele escreve, alertando que a empresa está perto de “um ponto onde a atual geração de IA constrói autonomamente a próxima.”
Ele argumenta que, sem uma ação decisiva e cuidadosa, esta tecnologia poderá levar a riscos catastróficos que vão desde a deslocação em massa de empregos até à extinção humana. Outros perigos existenciais incluem o potencial de “uma ditadura totalitária world” possibilitado por vigilância, propaganda e armas autônomas alimentadas por IA.
Amodei também detalha “riscos de autonomia”, onde os sistemas de IA poderiam “tornar-se desonesto e dominar a humanidade” – observando que esse perigo nem sequer exigiria um exército de robôs físicos de ficção científica. O ensaio observa friamente que “muitas ações humanas já são realizadas em nome de pessoas que o ator não conheceu fisicamente”.
Entre as ameaças mais urgentes, Amodei destaca o potencial da IA para reduzir drasticamente a barreira à criação de armas biológicas e outras armas de destruição maciça.
“Um solitário perturbado pode perpetrar um tiroteio numa escola, mas provavelmente não será capaz de construir uma arma nuclear ou libertar uma praga”, ele escreve. Uma IA poderosa, no entanto, faria “todos são virologistas PhD que podem aprender passo a passo o processo de projetar, sintetizar e lançar uma arma biológica.”
Na pior das hipóteses, ele alerta que uma IA poderosa poderia teoricamente guiar a criação de um patógeno sintético capaz de “destruindo toda a vida na Terra.”
Como um dos principais líderes do setor, cuja empresa é a principal rival da OpenAI, Amodei pede “cirúrgico” regulamentação, começando com leis de transparência, para construir as barreiras de proteção necessárias.
LEIA MAIS:
IA ‘superinteligente’ pode acabar com a humanidade – ícones da tecnologia
“A humanidade precisa acordar” Amodei conclui, enquadrando os próximos anos como um teste crítico da maturidade da civilização. Com a própria tecnologia a alimentar agora a sua própria evolução vertiginosa, ele apela a uma resposta colectiva para orientar o “prêmio brilhante” da IA longe da ruína potencial.
Você pode compartilhar esta história nas redes sociais:
