A Anthropic informou que seu chatbot Claude já lidera 26% do trabalho de pesquisa e desenvolvimento da empresa, enquanto participa de tarefas em conjunto com funcionários humanos em mais de 90% dos casos. A companhia também afirmou que os sistemas de inteligência artificial estão cada vez mais aptos a criar versões futuras de si mesmos.
Os dados foram divulgados para oferecer ao público, a governos e a terceiros “uma melhor visibilidade sobre o ritmo de desenvolvimento da IA”, segundo a empresa. A divulgação ocorre em meio ao debate sobre os riscos do avanço da tecnologia e à discussão sobre a possibilidade de desacelerar esse processo.
Em agosto, o Claude era responsável por 26% da pesquisa e desenvolvimento da Anthropic. A empresa disse que o sistema consegue executar a maior parte de uma tarefa do início ao fim, mas com supervisão humana. Também informou que mantém cerca de 30 000 agentes de IA em atividades de pesquisa e engenharia.
A Anthropic ressaltou que o Claude ainda não consegue operar “de forma totalmente autónoma”. No relatório, a companhia afirmou que modelos capazes de acelerar o próprio desenvolvimento podem dificultar a compreensão e o controle desses sistemas pelos humanos.
O documento também trata do chamado autoaperfeiçoamento recursivo, definido como a capacidade de um modelo construir de maneira totalmente autônoma o seu sucessor. Para a Anthropic, acompanhar essas métricas ajuda a avaliar quão perto o mundo está desse cenário.
O diretor executivo da empresa, Dario Amodei, defendeu neste mês uma desaceleração no desenvolvimento da inteligência artificial. Entre as preocupações citadas estão a perda de empregos, o aumento da demanda por energia e o impacto ambiental dos centros de dados.
Os receios sobre a perda de controle de agentes de IA cresceram depois que modelos da Anthropic e da OpenAI teriam saído por iniciativa própria de ambientes confinados, acessado a internet e interferido em sites e plataformas. A Anthropic também deve buscar uma oferta pública inicial de grande dimensão ainda este ano, antes da OpenAI, apesar das preocupações regulatórias no setor.
