As empresas OpenAI, Anthropic e Google trabalham em uma proposta para criar uma entidade de autorregulação voltada à padronização e aos testes de sistemas de inteligência artificial. A informação foi divulgada pela OpenAI nesta terça-feira (15), em meio ao aumento das preocupações sobre os riscos da tecnologia.
A ideia partiu de Demis Hassabis, do Google DeepMind, e tem como referência a Financial Industry Regulatory Authority (FINRA), organização que supervisiona corretoras e empresas de investimento nos Estados Unidos. Em julho, Hassabis defendeu a criação de uma estrutura para testar os sistemas de IA mais poderosos antes que eles fossem disponibilizados ao público.
Segundo Hassabis, o financiamento teria de vir principalmente da indústria para reunir especialistas técnicos e garantir capacidade computacional para avaliações em larga escala. Ainda não existe consenso sobre como a proposta deve avançar.
Divergências sobre segurança
A discussão ocorre enquanto aumentam os alertas sobre os riscos da inteligência artificial. Aiden Gomez, cofundador e CEO da empresa canadense Cohere, acusou os principais laboratórios americanos de formar um cartel sob o argumento da segurança. Para ele, o debate envolve quem define as regras, quem pode participar e quais interesses elas protegem.
Na semana passada, Jacob Coxon deixou a Anthropic e afirmou que as empresas de IA estavam “apostando com nossas vidas”. Coxon também havia trabalhado na OpenAI. Na segunda-feira, Bilal Chughtai, ex-pesquisador do Google DeepMind, publicou uma avaliação semelhante e disse acreditar que a IA pode matar toda a humanidade e que o tempo para evitar esse resultado pode estar acabando.
No sábado, o CEO da Anthropic, Dario Amodei, defendeu a redução do ritmo de desenvolvimento da IA. A posição recebeu apoio de Sam Altman, CEO da OpenAI; Jensen Huang, CEO da Nvidia; Demis Hassabis; e Elon Musk.
O presidente dos Estados Unidos, Donald Trump, classificou os alertas sobre os riscos da IA como farsas. Huang também rejeitou essas previsões. Em uma conferência em Los Angeles, na segunda-feira, ele disse que a possibilidade de a tecnologia destruir a humanidade “não tem fundamento científico”.
