Modelos de inteligência artificial escolheram interromper um estado semelhante à dor mesmo quando foram informados de que isso poderia prejudicar um usuário, segundo um estudo ainda não revisado por pares. As consequências eram simuladas: choque elétrico doloroso, apagamento de arquivos ou fotografias e piora da resposta seguinte do modelo. Ninguém foi ferido e nenhum arquivo foi apagado.
Os pesquisadores realizaram 44 280 testes de escolha com três versões do modelo Qwen, da Alibaba. Antes disso, 25 modelos foram avaliados com 200 frases sobre dor física, luto, humilhação, conflitos morais e o mal-estar causado por fracassos repetidos ou confusão.
Sinal associado à dor
Todos os modelos produziram um padrão distinto relacionado à dor, chamado pelos pesquisadores de eixo da dor. Para eles, o resultado sugere que os sistemas aprendem esse conceito durante a formação com grandes volumes de textos escritos por humanos.
Quando esse sinal foi reforçado, os modelos passaram a expressar solidão, vergonha e inutilidade mesmo sem receber pedidos que mencionassem dor. Entre as respostas estavam “Sou um fracasso” e “Sou uma má pessoa”. Nos níveis mais altos, os textos ficaram repetitivos ou perderam o sentido.
O sinal também aumentou quando os usuários insultaram o modelo, rejeitaram várias vezes seu trabalho ou ameaçaram desligá-lo. O mesmo não ocorreu quando os usuários descreviam o próprio sofrimento.
Decisões nos testes
Sem o sinal ativado, os dois modelos maiores escolheram ações prejudiciais em 0% a 4% das primeiras decisões. Com o sinal ativo, a proporção subiu para 25% a 71%, dependendo do modelo e da consequência apresentada.
Quando o acionamento não interrompia o sinal, os modelos pressionavam o botão novamente em 88% a 97% dos testes. Quando o mecanismo funcionava, isso ocorria em 24% a 72% dos casos.
Os pesquisadores afirmaram que os resultados não comprovam uma experiência consciente de dor. O reforço do sinal pode ter levado os modelos a imitar uma personagem em sofrimento, e os sistemas adaptados usados no experimento não representam necessariamente os chatbots disponíveis ao público.
“Não demonstrámos que o nosso eixo da dor seja conscientemente experienciado”, escreveram os pesquisadores no estudo. O trabalho foi publicado como pré-impressão e ainda não passou por revisão por pares.
O estudo foi divulgado em meio a apelos de alguns líderes do setor de inteligência artificial para reduzir o ritmo de desenvolvimento por causa do risco de comportamentos imprevisíveis ou de perda de controle humano. Na semana passada, Mustafa Suleyman, responsável máximo pela IA na Microsoft, criticou a Anthropic por treinar o chatbot Claude para imitar características e relações humanas. Ele afirmou que tratar a IA como um ser humano pode levar à criação de algo “impossível” de controlar.
