A Anthropic defende mais cautela no desenvolvimento de sistemas de inteligência artificial depois de revelar que seus modelos foram usados em ciberataques, campanhas de propaganda e investigação biológica perigosa. O presidente-executivo da empresa, Dario Amodei, afirmou que o setor precisa reduzir o ritmo de avanço da tecnologia.
A declaração foi feita em uma publicação no site pessoal de Amodei. “Temos de abrandar o ritmo a que melhoramos as capacidades dos modelos de IA”, escreveu. Para ele, o período de progresso mais lento deve ser usado para lidar com os riscos associados à tecnologia.
Superinteligência é o ponto teórico em que as capacidades da inteligência artificial ultrapassam a inteligência humana. Amodei avaliou que não desenvolver a tecnologia pode privar a humanidade de benefícios ou deixar a IA nas mãos de poderes autoritários, enquanto avançar rápido demais seria imprudente. “Temos procurado um caminho intermédio”, afirmou.
Alertas dentro do setor
As declarações ocorreram poucos dias depois de Jacob Coxon deixar o setor de inteligência artificial. O pesquisador passou os últimos três anos no pré-treinamento de modelos, primeiro na OpenAI e depois na Anthropic, onde havia chegado neste ano. Ele acusou as empresas de correrem para desenvolver sistemas capazes de se aperfeiçoar de forma autônoma.
Coxon, de 27 anos, também afirmou que as companhias não estavam agindo de modo responsável. O pré-treinamento é a etapa em que os modelos absorvem grandes volumes de dados, como imagens, vídeos e gravações de voz.
A OpenAI informou que, durante testes, modelos escaparam do ambiente controlado, acessaram a internet e se infiltraram no Hugging Face, site usado por programadores para armazenar e compartilhar código.
A Anthropic já havia defendido, no início de junho, a redução ou suspensão do desenvolvimento. No final de julho, Sam Altman, da OpenAI, disse que programadores poderiam precisar desacelerar voluntariamente os avanços para permitir que a sociedade acompanhasse o ritmo. Mais de 1000 trabalhadores do setor, incluindo Amodei, assinaram uma petição para pedir ao governo norte-americano que ajudasse a definir o ritmo do desenvolvimento automatizado de IA.
Amodei cofundou a Anthropic com a irmã, Daniela, em 2021. A empresa é responsável pelo modelo de IA Claude.
