Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, defenderam a cooperação internacional para reduzir os riscos da inteligência artificial (IA) durante reunião do Conselho de Segurança da Organização das Nações Unidas (ONU). Foi a primeira vez que questões de segurança da tecnologia foram levadas diretamente ao órgão.
Altman apontou dois riscos principais: a perda de controle sobre os sistemas e a concentração de poder. Segundo ele, a sociedade pode perder a capacidade de acompanhar, supervisionar ou intervir caso os modelos avancem rapidamente. A preocupação inclui o autoaperfeiçoamento recursivo, conceito que descreve sistemas capazes de criar autonomamente novas gerações de modelos mais poderosos. Essa capacidade ainda não existe, mas é alvo de preocupação entre especialistas.
O executivo também alertou para a possibilidade de uma pessoa, empresa ou nação usar os modelos mais avançados para impor sua visão de mundo à sociedade. Para ele, decisões estratégicas não devem ser tomadas isoladamente. Altman defendeu padrões nacionais e internacionais para medir capacidades, avaliar riscos, verificar salvaguardas e manter supervisão humana conforme os sistemas ganhem autonomia.
Amodei classificou a governança da IA como o problema de segurança global mais urgente da atualidade e pediu que os integrantes do Conselho deixem de lado divergências geopolíticas. “Nenhum líder, nenhuma empresa e nenhuma nação pode gerenciar isso sozinho”, afirmou.
Propostas de segurança
O fundador da Anthropic sugeriu acordos imediatos e de consenso universal, incluindo a proibição do uso de IA para desenvolver ou produzir armas biológicas. Também defendeu sistemas de inspeção para permitir que os Estados acompanhem as capacidades dos modelos de fronteira e verifiquem compromissos mútuos.
Entre outras medidas, Amodei citou padrões mundiais para testar riscos de perda de controle e um sistema unificado de notificação de incidentes relevantes para a segurança internacional.
Os dois executivos se comprometeram a desacelerar unilateralmente o desenvolvimento da tecnologia. Na terça (22), porém, a OpenAI lançou o GPT-6 Luna e o GPT-6 Sol, enquanto a Anthropic apresentou o Claude Opus 5.5. Altman rejeitou a ideia de que as empresas estejam submetidas a uma corrida incontrolável que impeça uma desaceleração.
Antes dos executivos, Yoshua Bengio, copresidente do Painel Científico Independente da ONU sobre IA, afirmou que as empresas reconhecem riscos catastróficos em seus produtos, mas não oferecem soluções técnicas convincentes para contê-los. Para ele, a disputa comercial pela criação de modelos mais potentes resulta de escolhas das próprias companhias.
Apesar da defesa de cooperação global, OpenAI e Anthropic já afirmaram que os Estados Unidos devem liderar o tema. Em propostas publicadas na segunda, a OpenAI defendeu a colaboração com países de todo o mundo para criar padrões técnicos globais para a IA de ponta.
Amodei apresentou suas propostas em 12 de setembro e afirmou que uma liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo. Entre as medidas sugeridas por ele estão o bloqueio de chips para a China, a fiscalização da técnica de destilação e ações contra o roubo de configurações de modelos.
