A inteligência artificial entrou na agenda do Conselho de Segurança da ONU em meio a alertas sobre perda de controle dos sistemas, uso malicioso e concentração de poder em poucas empresas. Executivos da OpenAI e da Anthropic defenderam a desaceleração do desenvolvimento, enquanto Estados Unidos e China divergiram sobre o modelo de governança internacional.
Na quinta-feira (24), Donald Trump e Xi Jinping participaram de um jantar na Casa Branca com executivos de empresas de tecnologia. Na chegada, o presidente chinês afirmou que os dois países têm capacidade e responsabilidade para desenvolver e administrar a IA sob controle humano.
O debate ocorreu um dia depois de Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, falarem no Conselho de Segurança da ONU sobre os riscos de a tecnologia escapar ao controle. Também participaram Clément Delangue, CEO da Hugging Face, e Yoshua Bengio, copresidente do Painel Científico Internacional Independente sobre IA da ONU.
Riscos e disputa tecnológica
Felipe Buchbinder, professor da FGV Ebape e mestre em inteligência artificial pela Universidade de Duke, dividiu as preocupações em três grupos: a autonomia crescente dos sistemas, o uso criminoso da tecnologia e a concentração do poder em poucas companhias.
Pesquisadores também alertaram para a possibilidade de uma superinteligência capaz de se aperfeiçoar sem depender do desenvolvimento humano. Geoffrey Hinton, vencedor do Prêmio Nobel de Física de 2024, disse à BBC que não é irrazoável a previsão de que exista 10% de chance de a IA acabar com o mundo.
Um relatório da Anthropic informou que a empresa identifica e interrompe, desde março de 2025, tentativas de usar o Claude em operações cibernéticas, ações de influência, vigilância, golpes, fraudes, uso indevido de recursos biológicos, desenvolvimento de armas convencionais e destilação de modelos. Segundo a empresa, as autoridades responsáveis são notificadas e os casos ajudam a aprimorar a segurança dos sistemas.
A disputa entre Estados Unidos e China pela liderança tecnológica envolve, além da IA, infraestrutura de redes, semicondutores e carros elétricos. Em junho de 2025, um levantamento citado no debate indicava que 32 países tinham data centers voltados à inteligência artificial. A União Europeia liderava com 28 unidades, seguida pelos Estados Unidos, com 26, e pela China, com 22.
Para Paola Cantarini, coordenadora do Grupo de Governança de Inteligência Artificial do IEA-USP, as empresas precisam apresentar evidências verificáveis de segurança. Ela também afirmou que a presença de executivos no centro das discussões pode concentrar nas próprias companhias as definições de risco e as interpretações sobre suas falhas.
Comparação com armas nucleares
A comparação entre a IA e as armas nucleares foi feita por Beatrice Fihn, vencedora do Prêmio Nobel da Paz de 2017, durante uma sessão da Câmara dos Lordes sobre regulamentação e superinteligência. A discussão remete ao alerta de Albert Einstein a Franklin Roosevelt sobre o potencial destrutivo da fissão nuclear.
O desenvolvimento das armas atômicas durante a Segunda Guerra Mundial e a continuidade da corrida nuclear na Guerra Fria levaram à criação do Tratado de Não Proliferação de Armas Nucleares, assinado em 1968. O acordo restringiu o acesso ao armamento nuclear a China, Estados Unidos, França, Reino Unido e União Soviética, posteriormente representada pela Rússia. Ao todo, 191 países aderiram ao tratado.
Luize Ribeiro, advogada e pesquisadora da Data Privacy Brasil, considerou a analogia útil para mostrar que países rivais podem estabelecer limites, verificações e compromissos diante de riscos transnacionais. Ela ponderou, porém, que o modelo nuclear não deve ser transferido diretamente para a IA.
Buchbinder também apontou diferenças entre as tecnologias. O urânio pode ser rastreado e tem poucos fornecedores, enquanto a inteligência artificial depende de chips, algoritmos, dados e profissionais especializados, o que dificulta o controle do fornecimento.
Divergências sobre cooperação
Alexander Stubb, presidente da Finlândia, e Jonas Gahr Støre, primeiro-ministro da Noruega, defenderam a criação de protocolos de segurança transparentes, normas comuns e uma instituição internacional capaz de estabelecer padrões e verificar se os limites de desempenho da IA foram ultrapassados. Em cinco dias, 28 países aderiram ao apelo, mas Estados Unidos e China não o endossaram.
No Conselho de Segurança, Sam Altman afirmou que nenhum líder, empresa ou país consegue enfrentar sozinho uma oportunidade e uma ameaça de alcance global. O conselheiro de Ciência e Tecnologia dos Estados Unidos, Michael Kratsios, defendeu que a ONU se concentre nas capacidades nacionais, e não em um único projeto global.
Donald Trump rejeitou a criação de um sistema global de controle para a IA. Para Ribeiro, o caminho pode estar em medidas específicas, como limites para determinados usos, padrões mínimos de avaliação de riscos, comunicação de incidentes, transparência e responsabilização.
Yoshua Bengio afirmou que a chamada corrida tecnológica resulta de decisões das próprias empresas, e não de uma lei inevitável. Cantarini defendeu a participação de reguladores independentes, organizações da sociedade civil e comunidades diretamente afetadas pelo avanço da tecnologia.
