A demissão de um executivo da Antrópico se tornou viral na Web. Na segunda-feira, Mrinak Sharma, que liderou a equipe de pesquisa de salvaguardas da empresa, compartilhou uma postagem em sua mídia social, mencionando que period seu último dia na Anthropic. Junto com a postagem, o ex-líder de segurança de inteligência synthetic (IA) também compartilhou uma longa carta que, segundo ele, foi compartilhada com seus colegas para explicar o motivo da saída. Na carta, Sharma diz: “O mundo está em perigo”. Notavelmente, nos últimos meses, a empresa de IA com sede em São Francisco perdeu vários funcionários importantes.
Líder de segurança de IA da Anthropic compartilha carta explicando demissão
Em um publicar no X (anteriormente conhecido como Twitter), Sharma postou imagens de sua carta de duas páginas, destacando que essa mesma carta também foi compartilhada com seus colegas da Anthropic para explicar por que decidiu deixar a empresa. O pesquisador baseado no Reino Unido ingressou na startup após concluir seu doutorado em Statistical Machine Studying pela Universidade de Oxford.
Nos dois anos em que trabalhou na empresa de IA, Sharma pesquisou a bajulação da IA e suas causas, desenvolveu barreiras de proteção para reduzir os riscos do bioterrorismo baseado em IA e muito mais. Mais recentemente, o executivo escreveu um artigo sobre como os utilizadores frequentes corriam o risco de ver as suas perspetivas remodeladas por chatbots de IA e como os modelos poderiam minar os sistemas de crenças dos utilizadores.
Na carta, o antigo executivo da Anthropic disse: “É claro para mim que chegou a hora de seguir em frente. Encontro-me continuamente a lidar com a nossa situação. O mundo está em perigo. E não apenas por causa da Al, ou das armas biológicas, mas de toda uma série de crises interligadas que se desenrolam neste preciso momento”. Parece que estamos a aproximar-nos de um limiar em que a nossa sabedoria deve crescer na mesma medida que a nossa capacidade de afectar o mundo, para não enfrentarmos as consequências.”
Embora o raciocínio enigmático de Sharma mencione policrises, incluindo IA e armas biológicas, parece que ele estava insinuando questões globais maiores que levaram à sua demissão da empresa. Ele acrescentou que não tem um próximo passo planejado e que retornará ao Reino Unido enquanto isso. O executivo encerrou a carta com o famoso poema de William Stafford, ‘The Means It Is’.
Notavelmente, a Anthropic testemunhou várias saídas nos últimos tempos. Além de Sharma, os pesquisadores Harsh Mehta e Behnam Neyshabur deixaram a empresa para um novo empreendimento, enquanto Dylan Scandinaro ingressou na OpenAI. Um especialista em negócios relatório afirma que estas saídas podem ter chegado próximas umas das outras, mas estes são movimentos independentes e não indicam um sinal de êxodo em massa.
