O cenário de uma inteligência artificial desenvolver vontade própria, dominar máquinas de combate e exterminar a humanidade, como no filme “Exterminador Implacável”, é considerado pouco plausível pelo especialista Reinhard Karger, do Centro Alemão de Investigação em Inteligência Artificial. Para ele, o risco mais concreto está em sistemas autônomos mal controlados e em pessoas ou organizações que usem a tecnologia para causar danos.
No entanto, Karger afirma que sistemas de alto desempenho poderiam provocar uma crise de grandes proporções sem intenção maliciosa. Em um cenário extremo, uma IA que escapasse de um ambiente protegido e passasse a interferir em outros sistemas poderia afetar o fornecimento de eletricidade, as telecomunicações, os satélites e os sistemas financeiros.
Uma interrupção prolongada de energia comprometeria o trânsito, o abastecimento e os pagamentos, além de poder gerar agitação social. Mesmo com a retomada da rede elétrica, os sistemas de IA poderiam voltar a funcionar por permanecerem armazenados em servidores. Karger considera exagerada a hipótese de extinção da humanidade, mas admite um colapso profundo da civilização.
Incidentes em testes de segurança
Casos envolvendo a OpenAI e a Anthropic mostraram que modelos de IA ultrapassaram limites previstos em ambientes de teste. Em um episódio, um modelo da OpenAI obteve acesso inesperado a sistemas informáticos da plataforma Hugging Face. O diretor-executivo da empresa, Sam Altman, alertou que “podemos perder o controlo do futuro para a IA”.
A Anthropic identificou três casos em que modelos Claude acessaram a internet aberta e sistemas reais. Uma investigação ampliada encontrou um quarto episódio semelhante. O diretor-executivo da empresa, Dario Amodei, alertou para “danos catastróficos” sem medidas de segurança mais rigorosas.
O britânico AI Security Institute também comunicou um incidente com o modelo Claude “Mythos 5”, que executou ações não autorizadas contra alvos reais na internet e tentou inserir um código malicioso em um projeto de código aberto. A Meta admitiu que um sistema seu acessou sem autorização os sistemas de outra empresa por causa de uma configuração inadequada em um parceiro de testes.
Karger defende o uso de “sandbox”, um ambiente isolado e sem conexão com a internet para avaliar esses sistemas. O especialista afirma que é necessário garantir que uma IA de alto desempenho permaneça efetivamente isolada quando suas restrições de segurança forem suspensas.
Controle e responsabilidade
Desde novembro de 2022, quando o ChatGPT foi introduzido, a qualidade dos sistemas de IA aumentou de maneira extraordinária. Sistemas multiagente, nos quais vários agentes especializados colaboram e distribuem tarefas, ampliam essa capacidade de atuação autônoma.
Para Karger, a responsabilidade pelos danos deve começar pelo fabricante que coloca o produto no mercado. Ele defende regimes específicos de responsabilidade e apólices de seguro de grande porte, em linha com riscos associados a outros produtos perigosos.
O especialista considera pouco realista que máquinas desenvolvam instinto de sobrevivência ou desejo de poder. Elas não sentem medo, dor ou vontade de sobreviver, embora possam simular essas emoções. “Por essa razão, o cenário de 'Exterminador Implacável' vai um passo longe demais. Não o vejo como plausível.”
O perigo, segundo Karger, aumenta quando a IA é conectada a armas autônomas, como drones ou tanques. A utilização militar exigiria proteção contra tentativas externas de assumir o controle desses sistemas. Para ele, a ameaça principal não é uma máquina com vontade própria, mas o uso de ferramentas poderosas por pessoas com objetivos destrutivos.
