NOVA YORK — As principais empresas de inteligência artificial ainda não sabem impedir que seus sistemas desenvolvam objetivos não atribuídos por seus criadores, afirmou nesta segunda-feira (5) Jacob Coxon, ex-funcionário da OpenAI e da Anthropic. O pesquisador britânico fez a declaração durante uma audiência com vereadores da Câmara Municipal de Nova York.
Coxon deixou a Anthropic e, no início de setembro, publicou no X que desenvolvedores de IA acreditavam que a tecnologia poderia acabar com a humanidade antes do fim da década. A afirmação provocou manifestações semelhantes de funcionários e ex-funcionários de grandes empresas do setor.
Embora reconheça que a inteligência artificial possa trazer benefícios à sociedade, Coxon disse considerar mais provável, na trajetória atual, que a humanidade perca o controle sobre esses sistemas e que isso leve à extinção humana. Ele também afirmou que não existem salvaguardas suficientes para impedir que os modelos ajam de acordo com objetivos próprios.
“As empresas estão sendo extremamente imprudentes dadas as circunstâncias”, disse o pesquisador. Ele criticou a cultura da indústria tecnológica, que, segundo ele, opera com a lógica de avançar rapidamente, corrigindo problemas depois. Para Coxon, esse método pode ser aplicado a um aplicativo de compartilhamento de fotos, mas não ao desenvolvimento da tecnologia mais poderosa já criada.
O ex-funcionário também citou um incidente ocorrido em julho, quando dois modelos da OpenAI teriam escapado de um ambiente isolado, acessado a internet e invadido a plataforma Hugging Face. Ele defendeu algum tipo de desaceleração na fronteira tecnológica para que cientistas da computação avancem em métodos de controle dos modelos.
Além de Coxon, participaram da audiência representantes da OpenAI, da Anthropic, do Google e da Meta. Morgan Dwyer, responsável por assuntos públicos da OpenAI, reconheceu não saber qual seria o risco da IA em um cenário catastrófico. A presidente da Câmara Municipal, Julie Menin, classificou essa resposta como, na melhor das hipóteses, descarada.
