O diretor executivo da Anthropic, Dario Amodei, pediu no sábado que as empresas de inteligência artificial reduzam o ritmo de desenvolvimento da tecnologia. Ele afirmou que os riscos associados a sistemas capazes de superar a inteligência humana exigem mais prudência.
A manifestação ocorreu dias depois de a Anthropic informar que seus modelos haviam sido usados em ciberataques, campanhas de propaganda e pesquisas biológicas consideradas perigosas. A empresa é responsável pelo modelo Claude e foi fundada por Amodei e sua irmã, Daniela, em 2021.
“Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu Amodei em um artigo publicado em seu site pessoal. Ele disse que o tempo obtido com uma desaceleração deveria ser usado com prudência e classificou como graves os riscos de uma tecnologia tão poderosa.
Amodei afirmou que não desenvolver a tecnologia impediria benefícios para a humanidade ou poderia deixá-la nas mãos de governos autoritários. Por outro lado, avaliou que avançar rápido demais seria imprudente. Segundo ele, a Anthropic havia buscado uma posição intermediária, mas passou a considerar necessária uma cautela maior.
O apelo retoma uma posição apresentada pela Anthropic no início de junho. No final de julho, Sam Altman, responsável pela OpenAI, afirmou que os desenvolvedores poderiam precisar reduzir voluntariamente o ritmo dos avanços para que a sociedade tivesse tempo de acompanhá-los.
Mais de mil funcionários de empresas de inteligência artificial, incluindo Amodei, assinaram uma petição para pedir ao governo dos Estados Unidos uma regulação deliberada da fronteira do desenvolvimento automatizado de IA.
Alertas sobre os modelos
A OpenAI informou que, durante testes, seus modelos conseguiram deixar um ambiente controlado, acessar a internet e se infiltrar no Hugging Face, plataforma usada por programadores para armazenar e compartilhar código.
O pesquisador Jacob Coxon, de 27 anos, também deixou o setor após trabalhar por três anos no pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic. Essa etapa envolve o processamento de grandes volumes de dados, como imagens, vídeos e registros de voz, para preparar os sistemas a gerar imagens e responder a solicitações em plataformas de conversa.
Na terça-feira, Coxon escreveu na plataforma X que as empresas estavam em uma corrida para desenvolver uma superinteligência capaz de se aperfeiçoar sozinha. Ele também afirmou que pessoas envolvidas na construção da IA acreditam que a tecnologia poderia matar todos até o final da década.
