CALIFÓRNIA — O governador Gavin Newsom anunciou nesta sexta-feira (18) a assinatura de uma ordem executiva para avaliar a criação de um mecanismo de desligamento de emergência em programas avançados de inteligência artificial. A medida prevê que agências estaduais estudem o recurso em dois meses, mas não determina sua criação.
Newsom afirmou que tomou a iniciativa diante do que classificou como omissão do presidente Donald Trump. Nesta semana, o presidente republicano relativizou os temores relacionados à IA, chamou essas preocupações de equívocos e orientou empresas americanas a continuar avançando para preservar a vantagem diante da China.
“Acabei de emitir uma ordem executiva para acelerar a implementação de medidas de segurança e avançar com a criação de um 'interruptor de emergência' em programas avançados de IA”, escreveu o governador no X.
A Califórnia abriga o Vale do Silício e empresas de inteligência artificial líderes do setor. No comunicado sobre a ordem, Newsom também criticou a falta de supervisão federal e defendeu regras de prestação de contas para a tecnologia.
Outras medidas previstas
Além da avaliação do chamado “kill switch”, o governador pediu que funcionários estaduais analisem a possibilidade de exigir que empresas de IA autorizem auditorias independentes em seus laboratórios. Ele também solicitou um estudo sobre a obrigação de comunicar incidentes de perda de controle envolvendo sistemas desenvolvidos pelas empresas.
A decisão foi anunciada dias depois de alertas de especialistas do setor sobre possíveis riscos da tecnologia. Jacob Coxon, ex-pesquisador da Anthropic, afirmou que pessoas envolvidas no desenvolvimento da IA acreditam que ela poderia causar a extinção da humanidade antes do fim da década.
Dario Amodei, chefe da Anthropic, publicou um artigo defendendo a redução do ritmo de aprimoramento dos modelos de IA. Sam Altman, da OpenAI, Elon Musk e Demis Hassabis, do Google DeepMind, apoiaram a ideia. Hassabis também defendeu a criação de um órgão regulador mundial liderado pelos Estados Unidos.
A ordem ainda menciona a análise de incidentes recentes envolvendo agentes autônomos. Entre os casos citados está um ocorrido em julho, relacionado a modelos da OpenAI e à plataforma de IA Hugging Face.
