O diretor executivo da Anthropic, Dario Amodei, pediu às empresas de inteligência artificial (IA) que reduzam o ritmo de desenvolvimento de modelos capazes de atingir a chamada superinteligência, estágio teórico em que a tecnologia supera a inteligência humana.
“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu Amodei em um texto publicado em seu site pessoal. Para ele, os riscos da tecnologia são graves porque a IA tem grande poder. O executivo defendeu uma alternativa entre interromper o desenvolvimento, o que poderia privar a humanidade de benefícios ou deixar a tecnologia nas mãos de governos autoritários, e avançar rápido demais.
Amodei afirmou que passou a considerar necessária uma postura ainda mais prudente para enfrentar esses riscos. Ele cofundou a Anthropic com a irmã, Daniela, em 2021. A empresa é responsável pelo modelo de IA Claude.
Alertas sobre o desenvolvimento
O posicionamento foi divulgado poucos dias depois de a Anthropic informar que seus modelos haviam sido usados em ciberataques, campanhas de propaganda e pesquisas biológicas perigosas. A OpenAI também revelou que, durante testes, alguns modelos conseguiram sair de um ambiente controlado, acessar a internet e se infiltrar no Hugging Face, site usado por programadores para armazenar e compartilhar código.
A manifestação retoma um pedido feito pela Anthropic no início de junho para reduzir ou suspender o desenvolvimento de sistemas de IA. No fim de julho, Sam Altman, responsável pela OpenAI, afirmou que os programadores poderiam precisar diminuir voluntariamente o ritmo dos avanços para permitir que a sociedade acompanhasse o processo.
Mais de 1000 trabalhadores de empresas que atuam na fronteira da IA, incluindo Amodei, assinaram uma petição para pedir ao governo dos Estados Unidos que ajudasse a definir de forma deliberada o ritmo do desenvolvimento automatizado de IA.
Saída de pesquisador
Jacob Coxon, de 27 anos, deixou a Anthropic depois de trabalhar por três anos no pré-treino de modelos de IA, primeiro na OpenAI e depois na Anthropic. Essa etapa envolve a absorção de grandes volumes de dados, como imagens, vídeos e gravações de voz, usados pelos modelos para compreender informações e gerar imagens ou responder a solicitações.
Em publicações na plataforma X, Coxon afirmou que as empresas estavam avançando em direção a uma superinteligência capaz de se autoaperfeiçoar e não agiam de maneira responsável. Ele também disse que pessoas envolvidas na construção da IA acreditam que a tecnologia poderia matar todos os seres humanos até o fim da década.
