Dario Amodei, cofundador da Anthropic, tornou-se uma das principais vozes de alerta sobre os riscos da inteligência artificial. Jensen Huang, presidente-executivo da Nvidia, ocupa posição oposta e classifica como “completo disparate” as discussões sobre uma possível extinção da humanidade provocada pela tecnologia.
O debate reúne grupos que defendem maior cautela, partidários do desenvolvimento acelerado e empresas que tentam avançar sem assumir uma posição definitiva sobre a regulação.
Os alertas sobre os riscos
A OpenAI foi criada, em parte, porque seus financiadores, entre eles Elon Musk, temiam que o desenvolvimento da IA ficasse sob controle do Google. A preocupação com possíveis consequências perigosas para a sociedade já existia antes da atual onda de interesse pela tecnologia.
Amodei deixou a OpenAI por considerar que a empresa liderada por Sam Altman não tratava com seriedade suficiente os riscos e o potencial da IA. A posição, porém, é criticada porque a Anthropic também oferece sistemas avançados ao mercado.
O ex-pesquisador do Google Geoffrey Hinton e o cientista da computação Yoshua Bengio estiveram entre os principais alertas sobre as ameaças da tecnologia nos meses posteriores ao lançamento do ChatGPT, em 2022. Max Tegmark, físico do MIT e presidente do Future of Life Institute, organizou, em 2023, uma carta que pedia uma pausa de seis meses no desenvolvimento dos sistemas mais avançados. Elon Musk estava entre os signatários.
Eliezer Yudkowsky, teórico autodidata, defende há duas décadas que uma IA suficientemente poderosa poderá extinguir a humanidade.
Defesa da aceleração
No campo contrário estão os aceleracionistas, que veem o avanço da IA como inevitável e fundamentalmente benéfico para a sociedade. A posição é associada a investidores de tecnologia com influência na Casa Branca, como Marc Andreessen, da Andreessen Horowitz, e David Sacks, ex-czar da IA na Casa Branca.
O grupo se opõe de forma ampla à regulação e acusa os críticos de usar a segurança como justificativa para restringir concorrentes. Garry Tan, presidente da incubadora de startups Y Combinator, afirma que regras baseadas em segurança podem ameaçar pequenas empresas incapazes de arcar com os custos.
Huang integra esse campo, já que os chips da Nvidia são usados em grandes centros de dados voltados à IA. Ele, no entanto, defende um marco federal unificado e uma revisão por pares conduzida pela indústria, em vez da ausência completa de regras.
Yann LeCun, vencedor do Prêmio Turing ao lado de Hinton e Bengio, também rejeita os alertas sobre riscos existenciais e os considera exagerados.
Empresas entre inovação e cautela
Grandes empresas de tecnologia procuram combinar expansão dos negócios com declarações de segurança. A OpenAI foi estruturada, em 2015, para que os pesquisadores, e não os investidores, tivessem a decisão final sobre o uso da tecnologia. A segurança da humanidade era apresentada como princípio orientador.
Sob a liderança de Altman, que sobreviveu em 2023 a uma tentativa de afastamento conduzida por colegas concentrados em segurança, a empresa passou a adotar uma posição mais complexa: alerta para os riscos da IA enquanto acelera seu desenvolvimento e se aproxima de uma Casa Branca pouco inclinada a impor limites.
Google, Microsoft e Amazon também mantêm discursos sobre segurança enquanto atuam em Washington para preservar uma regulação mínima. Com a inteligência artificial, continuam entre a expansão tecnológica e a cautela política.
