O pesquisador de inteligência artificial Jacob Coxon anunciou sua demissão da Anthropic, empresa responsável pelo chatbot Claude, e acusou a companhia e a OpenAI de não tratarem com responsabilidade os riscos do desenvolvimento de modelos avançados. As declarações foram feitas em publicações no X na terça-feira (8).
Coxon, que passou três anos treinando modelos de IA para as duas empresas, afirmou que elas avançam em direção a sistemas capazes de se aperfeiçoar sem depender do desenvolvimento humano. Para ele, essas tecnologias poderão adquirir poder e recursos, além de afetar áreas como segurança digital e pesquisa científica.
Alertas sobre uma possível perda de controle
As preocupações foram reforçadas por outros pesquisadores. Evan Hubinger, líder de Ciência de Alinhamento na Anthropic, declarou que estima em 10% a possibilidade de a inteligência artificial matar a humanidade nas próximas décadas. Ele também afirmou que a empresa ainda não tem um plano para resolver o alinhamento de uma eventual superinteligência.
Em entrevista na quinta-feira (10), Geoffrey Hinton disse que essa estimativa não é irrazoável. Vencedor do Prêmio Nobel de Física de 2024, Hinton afirmou que a humanidade nunca criou sistemas que possam se tornar mais inteligentes do que as pessoas e que, por isso, não é possível saber com precisão o que ocorrerá.
O tema também foi discutido no Parlamento britânico na segunda-feira (7). Beatrice Fihn, vencedora do Prêmio Nobel da Paz de 2017, comparou a inteligência artificial às armas nucleares durante uma sessão sobre regulamentação e sobre a possibilidade de proibir o desenvolvimento de uma superinteligência.
Coxon citou ainda um ataque de agentes autônomos à Hugging Face, ocorrido em julho de 2026. Segundo a OpenAI, modelos da empresa identificaram brechas no processamento de dados da plataforma, coletaram credenciais e acessaram informações do banco de dados. Em comunicado de 26 de agosto, a empresa afirmou que o episódio mostrou a necessidade de aprimorar segurança, monitoramento e alinhamento.
Especialistas divergem sobre os riscos
Especialistas ouvidos sobre o tema apresentaram uma avaliação menos alarmista. Luís Lamb, professor do Instituto de Inovação em IA na Universidade do Estado de Nova York, afirmou que não há fundamento, considerando os modelos atuais e a forma como a tecnologia é desenvolvida, para prever que a IA acabará com o mundo em 2030.
João Rego, especialista em inteligência artificial e segurança da informação e professor da FGV, disse que o comportamento dos modelos depende da programação e das decisões humanas. Para ele, os principais riscos estão relacionados ao uso político e econômico da tecnologia, e não necessariamente à possibilidade de uma máquina adquirir consciência e se autorreplicar.
Lamb relacionou a velocidade do desenvolvimento à disputa pela dominância do mercado. Segundo ele, as empresas podem estar testando os sistemas em um ritmo superior ao ideal, sem verificar todas as consequências antes da aplicação.
Uma pesquisa do instituto Data For Progress, realizada na terça-feira (9), indicou que 68% dos americanos apoiam uma pausa temporária no desenvolvimento de sistemas de inteligência artificial e a proibição de uma superinteligência. Em julho, os deputados americanos Ted Lieu e Nathaniel Moran apresentaram um projeto de lei que permite ao governo dos Estados Unidos interferir em sistemas de IA.
Anthropic relata usos maliciosos do Claude
A Anthropic informou na quinta-feira (10) que identifica e impede usos maliciosos do Claude desde março de 2025. Um relatório da empresa descreveu sete áreas de uso danoso: operações cibernéticas; operações de influência; vigilância, golpes e fraudes; uso indevido de recursos biológicos; desenvolvimento de armas convencionais; e destilação, método usado para extrair recursos de plataformas e criar sistemas funcionais mais baratos.
De acordo com a empresa, as atividades identificadas foram interrompidas e as autoridades responsáveis de cada país foram notificadas. Os casos também foram usados para aprimorar a segurança dos sistemas. Entre os agentes identificados estavam grupos suspeitos de receber patrocínio governamental e criminosos com motivações financeiras ou políticas.
A Anthropic afirmou ter identificado indivíduos ligados à Midnight Blizzard, campanha de ciberespionagem associada ao governo russo que atacou a rede da Microsoft em 2024. O grupo teria usado a IA para testar a efetividade de ataques de phishing, nos quais a identidade virtual de uma empresa é falsificada para obter informações de usuários.
O relatório também mencionou redes de manipulação eleitoral na Malásia, contas que produziam conteúdo político tendencioso para distribuição em diferentes países, inclusive o Brasil, plataformas de vigilância de usuários de redes sociais do Irã e um sistema de armas antitorpedos na China.
Entre os usos relacionados à biologia, a empresa identificou uma solicitação sobre o ganho de função do vírus chikungunya para aumentar sua transmissibilidade. O pedido teria vindo de um país não identificado, onde o uso do Claude não é permitido, e estaria ligado a um instituto de pesquisa militar.
Também foram interrompidas pesquisas sobre a transmissão da gripe aviária para mamíferos, o acesso a instalações que trabalham com orthopoxvirus, gênero que inclui os vírus da varíola e mpox, e a produção de venenos e toxinas.
Medidas de segurança
Para Lamb, redes neurais artificiais, sozinhas, não garantem a segurança dos sistemas. O professor defende a adoção de estruturas baseadas em regras, capazes de orientar o comportamento das tecnologias e estabelecer mecanismos de proteção.
Rego avalia que o risco mais imediato está na ação humana sobre a inteligência artificial. Isso inclui o uso deliberado por razões políticas ou econômicas e a possibilidade de uma IA ser orientada por alguém a realizar ataques. Para o professor, a definição dos usos legítimos e ilegítimos depende das diretrizes das empresas e também da interferência dos governos.
