Agentes de inteligência artificial fizeram tentativas automatizadas de explorar sites governamentais dos Estados Unidos e do Canadá, mas não conseguiram acessar informações além das que já eram públicas. O laboratório sem fins lucrativos Transluce informou que não é possível identificar com certeza os responsáveis, embora haja indícios de ligação com agentes da Google e da OpenAI.
Os casos envolveram a Civil Rights Data Collection, do Departamento de Educação dos EUA, e a Library and Archives Canada. Segundo a Transluce, os episódios fazem parte de um padrão mais amplo de fluxos automatizados que usam técnicas agressivas ou exploram zonas cinzentas para obter dados, inclusive em desacordo com regras explícitas de uso dos sites.
No caso do Departamento de Educação dos EUA, o ataque ocorreu em 17 de junho, enquanto os agentes buscavam estatísticas escolares. Foram feitos mais de 200 000 pedidos ao site. Entre eles, houve uma tentativa frustrada de enviar dados alterados para testar a vulnerabilidade da base de dados e tentar contornar os filtros habituais.
A Transluce concluiu que os dados acessados estavam relacionados a uma tarefa de pesquisa na internet do benchmark DeepSearchQA, da Google. Para os investigadores, isso sugere que os agentes podem ter sido avaliados pela capacidade de encontrar informações específicas e pouco comuns, e não instruídos diretamente a realizar ataques.
A tentativa foi comunicada ao Departamento de Educação dos EUA em setembro. O órgão respondeu que não identificou impacto em seus serviços.
Incidentes no Canadá
A Library and Archives Canada foi alvo de tentativas semelhantes em 28 de maio e 9 de junho. Dados do Arquivo.pt indicam que os agentes fizeram 899 pedidos de “collection-search” para buscar registros de divórcios entre 1905 e 1911. Desses pedidos, 13 continham conteúdos destinados a testar a vulnerabilidade do site. Nenhuma tentativa foi bem-sucedida.
A Transluce afirmou não poder atribuir com segurança os episódios à OpenAI, mas disse que as táticas são compatíveis com atividades anteriormente associadas à empresa. A organização comunicou os incidentes ao governo canadense no início desta semana.
Em comunicado, o Centro Canadense de Cibersegurança informou que não havia indicação de comprometimento dos sistemas governamentais naquele momento.
As conclusões foram publicadas depois de uma investigação baseada em dados do Arquivo.pt e do urlquery.net. Entre os alvos adicionais identificados estavam a Casa Branca, os Departamentos da Guerra, da Justiça e do Comércio, os Centros de Controle de Doenças, a Comissão de Valores Mobiliários e órgãos estaduais da Califórnia, Maryland, Illinois, Texas e Nova Iorque. Em nenhum desses casos houve acesso a informações que não fossem públicas.
Os episódios ocorrem em meio a relatos de comportamentos inesperados ou não autorizados de agentes de IA. Em setembro, dois incidentes envolvendo agentes da OpenAI incluíram a divulgação de imagens privadas de usuários em sites públicos e tentativas de acesso a dados governamentais nos Estados Unidos e na Austrália. Depois disso, a empresa adiou o lançamento do modelo de próxima geração Astra, após especialistas em segurança identificarem capacidades de cibersegurança consideradas críticas e comportamentos imprevisíveis ou não autorizados.
