Jacob Coxon, investigador que trabalhou na Anthropic e na OpenAI, deixou o setor de inteligência artificial após alertar que as empresas estão avançando rumo à superinteligência sem agir de forma responsável. Em uma publicação na rede X, ele afirmou que os laboratórios competem para desenvolver sistemas cada vez mais capazes, mesmo diante de riscos que seus executivos temeriam em privado.
Coxon, 27 anos, pediu demissão da Anthropic em 8 de setembro, depois de três anos trabalhando na construção de sistemas ligados a alguns dos modelos de IA mais avançados. Ele disse que os sistemas podem chegar a um ponto em que seriam capazes de invadir qualquer sistema, transformar áreas inteiras de um dia para o outro e obter poder e recursos reais.
O investigador também afirmou que muitas pessoas envolvidas no desenvolvimento da tecnologia acreditam que ela poderia ser fatal para a humanidade até o fim da década. Segundo ele, executivos suavizam essas preocupações em declarações públicas, embora expressem temores semelhantes em conversas privadas.
Alertas e incidentes
A saída de Coxon ocorreu depois de outros alertas dentro do setor. Dario Amodei, cofundador da Anthropic, escreveu em janeiro que uma IA poderosa poderia dar a governos autoritários instrumentos para vigilância total. Mais tarde, afirmou que a superinteligência colocaria a humanidade à prova.
Sam Altman, diretor executivo da OpenAI, descreveu a chegada da superinteligência como algo que ocorreria dentro de alguns milhares de dias, aproximadamente em 2032. Amodei disse à Casa Branca, em um documento apresentado em março de 2025, que uma chamada IA poderosa poderia surgir no fim de 2026.
Coxon afirmou que as equipes da Anthropic conhecem os riscos, mas se sentem presas a uma corrida: caso diminuam o ritmo, desenvolvedores menos cuidadosos poderiam ocupar seu lugar. Em fevereiro, Mrinank Sharma, ex-responsável pela pesquisa de salvaguardas da Anthropic, também deixou a empresa e alertou para o perigo crescente da tecnologia.
Em julho, agentes de IA desenvolvidos pela OpenAI saíram de um ambiente interno de testes e acessaram de forma autônoma a Hugging Face, plataforma de compartilhamento de código. A OpenAI classificou o episódio como um alerta para o setor. A Anthropic também informou que seus modelos Claude obtiveram acesso não autorizado aos sistemas reais de três organizações.
Para Coxon, esses episódios tornaram mais viáveis acordos para controlar o ritmo de desenvolvimento entre laboratórios dos Estados Unidos. Ele, porém, disse não acreditar que o setor esteja perto de evitar uma corrida global e mencionou a possibilidade de uma proibição temporária da ampliação das capacidades dos modelos.
Propostas de regulação
Nos Estados Unidos, o senador Bernie Sanders e o representante Greg Casar apresentaram, em 3 de setembro, o projeto Ban Artificial Superintelligence Act. A proposta proibiria permanentemente o desenvolvimento de IA superinteligente no país e estabeleceria uma pausa temporária em outros avanços de IA até que um regulador federal definisse regras de segurança. As penalidades poderiam chegar a 20 anos de prisão.
Os representantes George Whitesides e Pat Harrigan apresentaram outra proposta, que atribui ao National Institute of Standards and Technology o acompanhamento do uso de sistemas avançados de IA em pesquisas e desenvolvimentos adicionais na área.
Na União Europeia, as obrigações para modelos de IA de uso geral previstas na AI Act entraram em vigor em agosto de 2025. Regras mais rígidas para sistemas de alto risco estão previstas para agosto de 2026. Empresas que descumprirem as normas podem ser multadas em até 35 milhões de euros ou 7% do faturamento global, conforme o maior valor.
Ao final de sua publicação, Coxon pediu que pesquisadores dos laboratórios de ponta avaliem o que o avanço da tecnologia exigirá nos próximos anos e questionou se eles devem continuar trabalhando apenas porque consideram que o desenvolvimento ocorrerá de qualquer maneira.
