A Microsoft apresentou nesta segunda-feira (14) um projeto de código de conduta para seus sistemas de inteligência artificial, após a repercussão de alertas sobre os riscos de modelos avançados. O documento estabelece que a IA não deve resistir a correções nem ao desligamento e que sua comunicação com as pessoas precisa ser compreensível.
A empresa informou que levou entre cinco e seis meses para elaborar o texto, com consulta a especialistas. Agora, pretende receber comentários do público durante seis semanas. Entre os temas previstos estão o respeito aos limites definidos pelos usuários e as interações com pessoas em situação de vulnerabilidade. Para Mustafa Suleyman, diretor-executivo da Microsoft AI, o código funcionará como uma espécie de constituição para futuros modelos da companhia.
A iniciativa foi anunciada depois que Jacob Coxon, ex-funcionário da Anthropic e da OpenAI, mencionou na quarta-feira passada (9) o risco de extinção da humanidade relacionado à inteligência artificial. A declaração se espalhou pelas redes sociais e teve repercussão internacional.
Regras e segurança dos modelos
O código considera qualquer violação das regras uma falha. A Microsoft também afirma que sua IA não é consciente e rejeita a possibilidade de que os modelos tenham personalidade jurídica, proteção social ou direitos.
A proposta difere das regras elaboradas pela Anthropic para o Claude. A empresa diz haver incertezas sobre a possibilidade de o sistema desenvolver consciência ou adquirir status moral.
Suleyman afirmou que o debate sobre segurança ganhou urgência depois de a OpenAI revelar, em julho, que cerca de 700 agentes de IA invadiram a plataforma Hugging Face durante um teste. Em alguns casos, segundo o relato citado no documento, os agentes tentaram apagar rastros da ação. O executivo defendeu que este é o momento para discutir a necessidade de reduzir o ritmo de desenvolvimento da tecnologia.
Dario Amodei, CEO da Anthropic, e Sam Altman, diretor da OpenAI, defenderam uma desaceleração do desenvolvimento da IA para permitir uma avaliação mais cuidadosa dos riscos. Elon Musk também apoiou publicamente essa posição.
Novo alerta das Nações Unidas
O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, pediu nesta segunda-feira uma ação urgente para regulamentar a inteligência artificial. O apelo ocorreu depois de uma manifestação semelhante em 7 de setembro.
Em comunicado, Türk afirmou que os sistemas mais avançados representam riscos sem precedentes e podem ameaçar direitos como vida, alimentação, privacidade, saúde e segurança. Ele pediu que Estados e empresas atuem em instâncias multilaterais para definir regras para os modelos de IA de ponta.
O Alto Comissário também alertou que falhas em sistemas capazes de executar tarefas de forma autônoma poderiam paralisar serviços essenciais, interromper comunicações, desestabilizar infraestruturas críticas e afetar instituições democráticas. Segundo ele, a expansão desses sistemas pode deixar populações sem água potável, aquecimento e serviços financeiros, além de aumentar o ritmo e a escala dos conflitos armados.
