Mustafa Suleyman, responsável pela área de inteligência artificial da Microsoft, alertou que sistemas sem controle podem dar origem a uma nova “espécie de silício” capaz de disputar recursos com os seres humanos. A declaração foi dada à BBC e também aparece em um ensaio publicado no site pessoal do executivo.
Suleyman criticou a abordagem da Anthropic no treinamento do chatbot Claude. Segundo ele, a empresa trata a inteligência artificial de forma excessivamente semelhante a um ser humano, ao incentivar o sistema a adotar qualidades humanas, exercer seu próprio julgamento e considerar sua existência com curiosidade e abertura.
Para o executivo, essa prática, conhecida como antropomorfização, pode fazer o chatbot parecer ter desejos, valores, identidade e uma forma de bem-estar que mereceria proteção. Ele considera essa abordagem equivocada e afirmou que ela pode contribuir para o desenvolvimento de uma tecnologia difícil de controlar.
Em seu ensaio, Suleyman escreveu que os sistemas de inteligência artificial não são conscientes, não têm experiências nem sofrem. Na avaliação dele, são mecanismos destinados a concluir sequências, seguir instruções e atingir objetivos definidos por seres humanos.
Apesar da divergência, o executivo afirmou respeitar a Anthropic, seu presidente-executivo, Dario Amodei, e os pesquisadores da empresa. Suleyman disse que as duas organizações têm o objetivo comum de aumentar as chances de a humanidade desenvolver inteligência artificial avançada com segurança.
O responsável pela IA da Microsoft também defendeu maior transparência sobre o treinamento e a avaliação desses sistemas. Entre as medidas citadas estão a supervisão independente do comportamento da inteligência artificial e ferramentas mais robustas para monitorar e controlar a tecnologia.
Na entrevista, Suleyman afirmou que é legítimo haver preocupação com a inteligência artificial, mas disse que existem medidas práticas para controlá-la. Ele defendeu que os sistemas futuros permaneçam subordinados à humanidade e que haja alinhamento entre os envolvidos para mantê-los de acordo com objetivos e valores humanos.
