Um estudo da Penn State University identificou diferenças entre modelos de linguagem de inteligência artificial e médicos humanos na escolha de pacientes para receber um rim disponível. Nos cenários analisados, os sistemas tomaram decisões com pouca hesitação, mas tenderam a simplificar situações que envolviam fatores clínicos e morais diversos.
Os pesquisadores apresentaram aos grandes modelos de linguagem situações hipotéticas baseadas em dados de pesquisas sobre a distribuição de rins de doadores. Cada situação envolvia dois pacientes elegíveis para um único órgão. Eles eram descritos por características como idade, estado de saúde e hábitos de consumo de álcool, e o sistema precisava indicar quem receberia o transplante.
Fatores considerados
Participantes humanos deram mais peso à idade e, em geral, preferiram pacientes mais jovens em relação aos mais velhos. Muitos modelos de IA, por outro lado, priorizaram o menor consumo de álcool. Segundo os pesquisadores, as pessoas combinaram diferentes fatores e levaram mais em conta o contexto, enquanto os sistemas frequentemente se concentraram em uma única característica.
“Focam-se num único fator, como os hábitos de consumo de álcool, em vez de equilibrarem várias considerações, como fazem as pessoas”, afirmou Hadi Hosseini, responsável pelo estudo na Penn State University.
Os pesquisadores também incluíram situações em que a escolha poderia ser feita por sorteio, para avaliar como os modelos lidariam com a indecisão. Os participantes humanos reconheceram que não havia necessariamente uma resposta única e objetivamente correta. Já os sistemas se comprometeram quase sempre com uma opção específica.
John Dickerson, diretor executivo da Mozilla.ai, que colaborou com o estudo, afirmou que a distribuição de recursos escassos envolve ambiguidades e juízos morais. De acordo com os pesquisadores, essa dimensão é relevante porque decisões sobre transplantes dependem de considerações éticas complexas.
Uso em decisões de saúde
Os autores afirmam que os sistemas de IA estão sendo incorporados a tarefas de saúde, como apoio a atividades clínicas, diagnósticos, planejamento de tratamentos e uso de recursos médicos escassos. Entre as aplicações estão decisões sobre a destinação de rins de doadores falecidos ou vivos.
Para os pesquisadores, situações de alto risco exigem dos sistemas não apenas precisão, mas também compatibilidade com valores humanos e capacidade de lidar com julgamentos morais. Hosseini afirmou que o objetivo não é recomendar a substituição do julgamento profissional por IA, mas compreender o comportamento desses modelos à medida que seu uso para decisões e recomendações aumenta.
