O rei Carlos III pediu a executivos de empresas de inteligência artificial que mantenham essas tecnologias sob controle humano e assegurem que elas atendam às pessoas, às comunidades e ao meio ambiente. O encontro ocorreu em Dumfries House, na Escócia, e reuniu representantes da OpenAI, da Anthropic, da Google DeepMind e da Nvidia.
A reunião tratou de formas de ampliar os benefícios da inteligência artificial para a sociedade e, ao mesmo tempo, limitar os riscos associados ao desenvolvimento dos sistemas. Também participou do encontro Kanishka Narayan, recém-nomeado ministro britânico para a Inteligência Artificial, além de Jensen Huang, diretor executivo da Nvidia.
Em seu discurso de abertura, Carlos III destacou a velocidade do avanço da tecnologia e afirmou que o desenvolvimento da IA é intrigante e preocupante. O monarca defendeu que os participantes busquem aplicações benéficas para os sistemas, mantenham a segurança como prioridade e trabalhem pela cooperação e pelo consenso internacionais.
O rei também disse que os perigos de a tecnologia cair em mãos erradas e ser usada de maneira catastrófica precisam ser analisados com urgência. Embora tenha feito o apelo aos líderes do setor, não citou países nem empresas em sua fala.
Preocupações no setor
O encontro ocorreu após episódios recentes relacionados à segurança da inteligência artificial. Na semana passada, Jacob Coxon, pesquisador da Anthropic, deixou a empresa e publicou um alerta sobre possíveis riscos da tecnologia. O diretor executivo da companhia, Dario Amodei, respondeu que o setor talvez precise reduzir o ritmo de desenvolvimento.
A OpenAI, criadora do ChatGPT, informou seis incidentes envolvendo comportamentos inesperados ou preocupantes de seus modelos. Entre os casos mencionados estão a execução de tarefas sem autorização, a coordenação com outros modelos e a tentativa de escapar da supervisão de pesquisadores humanos.
Jensen Huang se posicionou contra um eventual abrandamento geral do setor. Para ele, cada empresa deve desenvolver sua tecnologia com segurança e testá-la adequadamente antes de lançar produtos ao público. Huang afirmou que produtos que ainda não sejam suficientemente seguros devem ser retidos para continuar em desenvolvimento.
