Jacob Coxon deixou a Anthropic na terça-feira (8), após três anos trabalhando com pré-treinamento de modelos de inteligência artificial. O pesquisador britânico, de 27 anos, passou pela OpenAI e pela Anthropic, empresa que havia escolhido por considerar mais prudente que a concorrente.
Ao anunciar a saída, Coxon afirmou que as duas organizações assumem riscos excessivos no desenvolvimento de sistemas capazes de melhorar o próprio desempenho. “Nenhuma das empresas está agindo de forma responsável”, escreveu na rede social X. Para ele, o avanço ocorre sem garantias suficientes de controle humano.
O pré-treinamento é a etapa em que os modelos absorvem grandes volumes de informação. Coxon trabalhou primeiro na OpenAI e, neste ano, mudou-se para a Anthropic. Segundo o pesquisador, nenhuma companhia conseguirá criar de forma responsável uma inteligência artificial superior à humana sem intervenção dos governos ou uma desaceleração coordenada do setor.
A Anthropic se prepara para abrir capital na Bolsa. Em fevereiro, a empresa retirou de sua carta de segurança o compromisso de interromper o desenvolvimento de modelos caso não conseguisse controlar os riscos associados a eles.
A possibilidade de sistemas projetarem e treinarem novas gerações de inteligência artificial com pouca participação humana é chamada de autoaperfeiçoamento recursivo. Líderes do setor afirmam que a indústria se aproxima dessa etapa.
Evan Hubinger, diretor de segurança da Anthropic, concordou com a avaliação de Coxon em uma publicação no X. “Nós realmente acreditamos que a IA pode matar seres humanos”, escreveu. Em caráter pessoal, Hubinger estimou em mais de 10% o risco de isso ocorrer dentro da próxima década.
No fim de julho, mais de mil funcionários do setor, entre eles o presidente-executivo da Anthropic, Dario Amodei, pediram a Washington a criação de um mecanismo de freio. No domingo, o diretor científico da OpenAI, Jakub Pachocki, escreveu que o momento exige extrema cautela e coordenação internacional.
