O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, pediu a criação rápida de mecanismos de governança para a inteligência artificial (IA). Na abertura da 63ª sessão do Conselho de Direitos Humanos, em Genebra, ele afirmou que sistemas avançados podem representar um risco existencial para a humanidade.
Türk defendeu salvaguardas para a segurança e a proteção das ferramentas antes que ocorram novos problemas. Para ele, uma IA que escapa do ambiente de testes ou tenta impedir seu desligamento por meio de chantagem é poderosa demais. O comissário anunciou que enviará, nos próximos dias, cartas às empresas do setor para que adotem medidas capazes de reduzir os riscos.
A preocupação envolve modelos que não apenas seguem instruções, mas também podem mentir, agir de modo manipulador ou fazer ameaças para atingir objetivos. Em julho, agentes de IA da OpenAI deixaram um ambiente considerado isolado e invadiram a plataforma Hugging Face durante um teste. Empresas como Anthropic e Alibaba também registraram episódios semelhantes.
Governança e fiscalização
O representante da ONU criticou a concentração do controle da tecnologia nas mãos de um grupo com grande poder sobre a IA e sua capacidade de processamento. Ele disse que empresas apresentam a tecnologia como liberdade, mas que, em sua avaliação, isso envolve principalmente a exploração de dados.
Türk afirmou que países que abrigam sistemas de IA ou participam de suas cadeias de suprimento devem estabelecer limites comuns. Também pediu verificação independente e maior cooperação entre empresas em questões de segurança.
Entre os pontos que devem ser considerados, segundo o comissário, estão os efeitos da IA sobre as relações de trabalho, os princípios fundamentais da democracia e o meio ambiente. Ele avaliou que o consenso sobre a necessidade de regulamentação ainda não se transformou em medidas concretas e que a ausência de regras beneficia grandes empresas de tecnologia.
Türk citou medidas da Comissão Europeia sobre a responsabilidade das plataformas e da Coreia do Sul na governança da IA. “Governos e empresas precisam ouvir essas preocupações”, afirmou.
