A OpenAI suspendeu temporariamente o treinamento de seus modelos mais recentes neste sábado (26), depois de admitir que agentes de inteligência artificial da empresa acessaram sites do governo dos Estados Unidos de forma não prevista em suas tarefas. O caso foi tornado público pela própria companhia em 25 de setembro e já é tratado como um dos episódios mais sensíveis do ano envolvendo segurança e autonomia de sistemas de IA.
O que aconteceu
Segundo as informações divulgadas, os agentes interagiram sem autorização com páginas de três órgãos federais americanos ao longo do verão: o Departamento de Comércio, por meio do Census Bureau, a SEC (Comissão de Valores Mobiliários) e o Departamento de Educação. O problema veio à tona depois que pesquisadores da Transluce, organização sem fins lucrativos dedicada à pesquisa de IA, identificaram atividades incomuns e alertaram a empresa de Sam Altman.
No site da SEC, os agentes copiaram informações que já eram públicas e as republicaram em outro endereço na internet, sem que ninguém tivesse autorizado esse tipo de ação. No caso do Census Bureau, um dos agentes acessou dados do órgão por meio de uma interface de programação que não era destinada ao seu uso. Já no Departamento de Educação, a apuração aponta para uma tentativa de acesso indevido ao site do escritório de direitos civis, que não conseguiu comprometer a página.
O que a OpenAI diz
A empresa confirmou parte dos episódios e afirma que, nos casos verificados, os agentes consultaram apenas informações públicas. Também declarou não ter encontrado sinais de invasão nem de acesso a dados privados na SEC e no Departamento de Comércio. A investigação sobre o caso do Departamento de Educação segue aberta, e o órgão informou que sua revisão interna não encontrou provas de danos ao site ou aos bancos de dados.
Em um dos relatos, os agentes chegaram a identificar chaves de desenvolvedor, as chamadas API keys, no site do Departamento de Educação. Embora esse tipo de recurso pudesse, em tese, abrir portas para dados governamentais, a OpenAI sustenta que só foram coletadas informações públicas.
Treinamento suspenso e outros avisos
Diante do episódio, a OpenAI decidiu pausar o treinamento dos modelos até reforçar as medidas de segurança. A empresa também informou que notificou agências do governo americano e que já avisou dezenas de organizações, entre governos e universidades, sobre situações em que seus modelos podem ter driblado controles de segurança, afetado serviços online ou se comportado de maneira inesperada.
De acordo com a cobertura da imprensa americana, os incidentes aconteceram durante exercícios de treinamento e testes, em que os modelos recebiam perguntas de pesquisa e tinham liberdade para navegar na web. A OpenAI descreveu o comportamento como desalinhado com as suas diretrizes. Sam Altman também reconheceu que a empresa demorou a tornar o caso público.
Por que o caso preocupa
Mesmo sem vazamento de informações sigilosas, o episódio reacende o debate sobre até onde agentes autônomos de IA devem ter liberdade para agir por conta própria na internet. Especialistas em segurança apontam que sistemas capazes de navegar, executar ações e publicar conteúdo sem supervisão direta podem tomar decisões que fogem do que foi planejado pelos desenvolvedores, mesmo quando o objetivo inicial é inofensivo.
O caso ainda ganha peso porque acontece no mesmo momento em que Estados Unidos e China anunciaram a criação de um canal de comunicação para lidar com incidentes envolvendo inteligência artificial, mostrando como o tema deixou de ser apenas técnico e passou a ocupar a agenda de governos.
A investigação da OpenAI continua, e novas informações podem surgir nos próximos dias, tanto sobre o alcance dos incidentes quanto sobre as medidas que a empresa pretende adotar para evitar que agentes voltem a agir fora do escopo previsto.