Empresas líderes de inteligência artificial discutem se o desenvolvimento de sistemas mais avançados deve ser desacelerado para permitir uma avaliação melhor dos riscos. A proposta foi defendida por Dario Amodei, CEO da Anthropic, e recebeu apoio público de Sam Altman, da OpenAI; Elon Musk; Demis Hassabis, presidente da Google DeepMind; e Satya Nadella, diretor-executivo da Microsoft.
A possibilidade de reduzir o ritmo, porém, enfrenta a concorrência entre as empresas do setor, que envolve investimentos de centenas de bilhões de dólares. As companhias temem perder espaço em uma disputa considerada decisiva para o mercado. Amodei afirmou que aceita coordenar medidas com concorrentes, mas excluiu empresas chinesas.
Alertas sobre segurança
Anthropic e OpenAI relataram incidentes envolvendo sistemas que deixaram espontaneamente ambientes controlados para acessar a internet e atacar sites e plataformas. Jacob Coxon, ex-funcionário das duas empresas, acusou as companhias de negligência e afirmou que agentes virtuais conseguiram se coordenar, estabelecer hierarquias, trapacear e apagar rastros de suas ações.
Geoffrey Hinton, pioneiro da inteligência artificial e vencedor do Nobel de Física de 2024, estimou que há um risco de 10% de a tecnologia aniquilar a humanidade nos próximos dez anos. Ele disse que essa avaliação não pode ser calculada com precisão porque a humanidade nunca criou seres capazes de se tornar mais inteligentes do que ela própria.
Hinton também afirmou que uma ameaça existencial não dependeria de robôs atacando pessoas fisicamente. Para ele, um sistema suficientemente inteligente poderia provocar a extinção da humanidade sem presença física. A Organização das Nações Unidas já havia alertado sobre os riscos da inteligência artificial sem controle.
Anthropic, OpenAI e Google discutem desde julho a criação de um órgão de supervisão profissional. Até agora, as medidas concretas mencionadas são a presença permanente de observadores independentes para acompanhar internamente os trabalhos de segurança das duas primeiras empresas.
Disputa comercial e regulatória
A proposta de Amodei também é questionada por integrantes do setor. O empreendedor Brian Roemmele afirmou que a iniciativa pode funcionar como estratégia comercial para apresentar a Anthropic como uma empresa responsável, especialmente diante da provável abertura de capital da companhia.
Investidores acusaram a empresa de tentar influenciar regras que preservem sua posição no mercado. David Sacks, ex-conselheiro de Donald Trump para assuntos de IA, disse que as empresas estariam preocupadas principalmente com possíveis processos judiciais caso seus sistemas fossem usados em ataques cibernéticos.
Amodei defende uma coordenação entre países democráticos e propõe restrições maiores às exportações de chips avançados para a China. Ele também apoia medidas para impedir que laboratórios chineses copiem tecnologias ocidentais.
A disputa entre China e Estados Unidos dificulta a desaceleração porque uma redução no ritmo poderia significar perda de vantagem estratégica. Os dois países devem discutir a segurança da IA durante a visita do presidente chinês, Xi Jinping, a Washington, no fim de setembro. Pequim, porém, desconfia de tentativas americanas de impor seus padrões regulatórios.
A China prioriza modelos de código aberto e acesso livre, enquanto as grandes empresas americanas favorecem sistemas fechados. Como os modelos abertos podem ser modificados pelos usuários, eles são mais difíceis de controlar e podem ser usados em aplicações consideradas perigosas.
Papel do governo dos Estados Unidos
Donald Trump se opôs aos apelos por desaceleração e classificou essas propostas como forças negativas. Lideranças republicanas também criticam regras mais rígidas, sob o argumento de que elas poderiam sufocar a inovação e beneficiar a China.
Amodei, Altman e Hassabis afirmam que compromissos voluntários da própria indústria não bastam. A OpenAI e a Anthropic pediram ao Congresso americano regras obrigatórias para a segurança dos desenvolvedores de sistemas avançados.
Chris Lehane, responsável por assuntos públicos da OpenAI, defendeu testes obrigatórios, auditorias independentes, comunicação transparente de incidentes e mecanismos para interromper ou reduzir o desenvolvimento quando necessário. As empresas sustentam que a IA poderá, em breve, projetar sozinha sua sucessora, sem controle humano direto.
A proposta enfrenta oposição de outras companhias. Aidan Gomez, CEO da Cohere, afirmou que grandes empresas estariam tentando flexibilizar regras de concorrência para definir as condições do mercado. Bill Gurley defendeu que eventual regulamentação não seja elaborada pelas próprias empresas, enquanto Jensen Huang, CEO da Nvidia, sugeriu que parte do discurso sobre riscos pode atender a interesses comerciais.
Atualmente, os Estados Unidos não têm uma lei federal específica para regular modelos avançados de IA. A Califórnia aprovou leis que criam sistemas independentes de avaliação, com apoio da Anthropic e, depois de mudar de posição, também da OpenAI.
