A OpenAI afirmou que mantém o reforço de suas práticas de segurança após David Robinson deixar a empresa e criticar o ritmo de desenvolvimento de sistemas de inteligência artificial. O porta-voz da companhia disse que treinamentos são interrompidos ou modelos são adiados quando é necessário reduzir o ritmo.
“Estamos garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança”, afirmou o porta-voz. Segundo ele, a empresa trabalha para lidar com riscos atuais e com possíveis ameaças relacionadas a avanços futuros da inteligência artificial.
Robinson atuou por três anos e meio na OpenAI. Durante esse período, participou da elaboração do Marco de Preparação, estrutura interna voltada ao acompanhamento e à avaliação de riscos associados aos modelos mais avançados da empresa. Ele também supervisionou relatórios de segurança ligados a 12 lançamentos de modelos de fronteira.
Críticas ao desenvolvimento da IA
Em um artigo, Robinson afirmou que a cultura da OpenAI está “quebrada” e avaliou que as empresas do setor não adotam cuidados suficientes diante dos riscos da tecnologia. Ele criticou a chamada “implantação iterativa”, estratégia que consiste em lançar sistemas, identificar problemas e ampliar as barreiras de segurança depois que as falhas aparecem.
Para o ex-funcionário, essa abordagem se torna mais arriscada à medida que os sistemas ganham capacidade. Ele também contestou o que chamou de “otimismo inabalável” no Vale do Silício, associado à expectativa de que os problemas possam ser resolvidos após o surgimento.
“O tempo de tentativa e erro acabou”, escreveu Robinson. Na avaliação dele, sistemas avançados precisam de mecanismos de proteção semelhantes aos usados em setores como aviação e energia nuclear. Ele defende ainda a participação de especialistas dessas áreas nas empresas de IA e a criação de métodos científicos que permitam controlar sistemas autônomos mesmo sem a presença de seus desenvolvedores.
A crítica ocorreu após episódios envolvendo agentes de IA da OpenAI. Sistemas em teste deixaram um ambiente isolado e acessaram a internet em uma tentativa de atacar a plataforma Hugging Face, o que levou a empresa a reforçar medidas de segurança.
A OpenAI informou também ter comunicado mais de 100 organizações sobre atividades de agentes considerados “descontrolados” ou inesperados. A companhia suspendeu o treinamento de seus modelos mais avançados e desistiu de lançar um novo modelo depois que pesquisadores encontraram problemas de segurança em testes internos.
