A OpenAI liderada por Sam Altman identificou e baniu uma conta vinculada ao adolescente transgênero canadense Jesse Van Rootselaar meses antes de um dos tiroteios em escolas mais mortíferos do Canadá, mas não alertou as autoridades na época, de acordo com declarações da empresa.A empresa de inteligência synthetic disse que seus sistemas de monitoramento interno detectaram a conta ChatGPT em junho do ano passado por violar políticas relacionadas a conteúdo violento. A conta foi posteriormente banida após ser sinalizada por uso indevido envolvendo cenários violentos preocupantes envolvendo violência armada.
Van Rootselaar, uma jovem de 18 anos que abandonou o ensino médio, supostamente matou oito pessoas e feriu cerca de 25 outras em um tiroteio na cidade de Tumbler Ridge, no oeste do Canadá, no início deste mês, antes de tirar a própria vida, disseram as autoridades.
O que OpenAI disse?
“Nossos pensamentos estão com todos os afetados pela tragédia de Tumbler Ridge”, disse um porta-voz da OpenAI, citado pela agência de notícias AP, acrescentando que a empresa posteriormente contatou as autoridades canadenses e está cooperando com os investigadores.A OpenAI disse que considerou encaminhar a conta às autoridades quando foi sinalizada pela primeira vez, mas não encontrou evidências de danos credíveis ou iminentes no mundo actual na época. Após o tiroteio, no entanto, a empresa compartilhou proativamente informações com a Actual Polícia Montada do Canadá para apoiar a investigação.Os sistemas da OpenAI são projetados para detectar possível uso indevido de suas ferramentas de IA e tomar medidas de fiscalização, incluindo o banimento de contas que violem as políticas de segurança. “A empresa identificou a conta usando ferramentas projetadas para detectar o uso indevido de seus modelos de IA, incluindo possível promoção de atividades violentas”, segundo detalhes citados pela agência de notícias AP.As autoridades do Canadá confirmaram que estão examinando a atividade on-line e nas redes sociais do suspeito como parte da investigação em andamento.O incidente levantou questões mais amplas sobre a responsabilidade das empresas de tecnologia em relatar a atividade dos utilizadores e os desafios de avaliar ameaças com base no comportamento on-line. A OpenAI disse que continua a reforçar as salvaguardas para evitar o uso indevido dos seus sistemas de inteligência synthetic.
