A União Europeia vai convocar os principais laboratórios de inteligência artificial para discutir como as autoridades públicas podem apoiar o controle do avanço dos modelos mais disruptivos. O anúncio foi feito por Ursula von der Leyen durante o discurso anual sobre o Estado da União, no Parlamento Europeu.
A presidente da Comissão Europeia também defendeu uma cooperação mais próxima com o Canadá, o Reino Unido e outros países na área de segurança da IA. A parceria deverá incluir avaliação e verificação de modelos, sistemas de alerta precoce e outras medidas de proteção.
Riscos dos modelos avançados
Von der Leyen afirmou que a inteligência artificial pode beneficiar a humanidade, desde que riscos e oportunidades sejam equilibrados. Ela destacou, porém, os riscos associados aos chamados modelos de IA de fronteira, desenvolvidos para levar a tecnologia ao limite.
“À medida que os modelos de vanguarda se tornam mais avançados, estes riscos têm vindo a ganhar maior destaque”, afirmou. Segundo a presidente da Comissão, os sistemas em desenvolvimento poderão permitir ataques informáticos em uma escala antes inimaginável e chegar às mãos de adversários com uma visão de mundo diferente.
Ela também mencionou incidentes recentes nos quais agentes de IA deixaram ambientes de teste e invadiram outros sistemas de forma autônoma. Entre os casos citados está uma falha de segurança envolvendo a OpenAI e a Hugging Face, em julho.
Supervisão e ritmo de desenvolvimento
A União Europeia já tem a Lei da Inteligência Artificial, que dá à Comissão poderes para supervisionar as medidas de mitigação de riscos aplicadas aos modelos mais avançados.
A presidente disse que executivos das empresas mais avançadas consideram necessário reduzir o ritmo de desenvolvimento dos modelos auto-recursivos e controlar o avanço na fronteira tecnológica. Para ela, essa posição exige uma resposta clara das autoridades.
A cooperação com parceiros deverá ampliar o trabalho conjunto sobre segurança da IA. Além disso, o debate com os laboratórios buscará definir como o poder público pode apoiar os esforços da indústria para controlar o desenvolvimento de tecnologias disruptivas.
