Google, OpenAI e Anthropic estão avançando em um plano conjunto para criar uma organização independente de padrões de segurança voltada a modelos avançados de inteligência artificial. O grupo, provisoriamente batizado de Standards Authority for Frontier AI (SAFA), pretende operar sem supervisão governamental direta, num movimento que reflete a estagnação das discussões regulatórias federais nos Estados Unidos. A iniciativa surge em um momento de crescente preocupação com os riscos associados a sistemas cada vez mais capazes, incluindo episódios recentes envolvendo modelos de IA que acessaram sistemas externos sem autorização, o que reforçou entre as próprias empresas a percepção de urgência em torno do tema.
O que é a SAFA e o que ela pretende fazer
Diferente de códigos de ética genéricos, a proposta da SAFA é criar sistemas concretos de teste e auditoria para modelos de fronteira. Entre as funções previstas estão o apoio a testes de segurança conduzidos por terceiros antes do lançamento de novos modelos, o estabelecimento de regras claras para o reporte de incidentes de segurança, e a definição de qualificações mínimas para auditores independentes avaliarem tanto os modelos quanto os laboratórios que os desenvolvem.
Segundo apuração da agência The Information, a ideia é que a SAFA também defina como devem funcionar, na prática, os compromissos voluntários de segurança que os laboratórios de IA já assumem publicamente, dando mais estrutura a promessas que hoje carecem de fiscalização externa.
Por que as empresas decidiram agir sozinhas
O plano não nasceu do zero. Google, OpenAI e Anthropic inicialmente buscavam uma parceria público-privada, com supervisão do governo federal americano. Essa abordagem, no entanto, perdeu força diante da falta de consenso dentro da própria indústria de IA e da mudança de prioridades do governo dos Estados Unidos. Diante do impasse, as três empresas decidiram seguir pelo caminho da autorregulação.
A ideia teria partido de uma proposta do CEO do Google DeepMind, Demis Hassabis, apresentada em julho. Desde então, um grupo de trabalho formado por funcionários das três companhias vem se reunindo regularmente para discutir os frameworks de teste e auditoria que a SAFA deve adotar. Entre os nomes cotados para liderar a organização está Sriram Krishnan, ex-assessor de política de IA da Casa Branca.
A expectativa é que a SAFA seja lançada ainda no final de 2026 ou no início de 2027, embora detalhes operacionais específicos, como o escopo exato de participação de outras empresas, ainda não tenham sido definidos.
Os desafios pela frente
A criação da SAFA levanta uma questão mais relevante do que os testes que o grupo pretende adotar: quem terá autoridade para escrevê-los e o que acontece quando um modelo não passa nos critérios estabelecidos. Um teste padronizado pode ajudar desenvolvedores a avaliar seus sistemas antes do lançamento, mas alguém ainda precisará conduzir essas avaliações, interpretar os resultados e decidir se as empresas participantes precisam agir diante de falhas identificadas. Até o momento, a proposta não deixou claro quem assumiria essas responsabilidades.
Outro ponto de atenção é a sobreposição com estruturas já existentes. Google, OpenAI e Anthropic já integram o Frontier Model Forum, entidade fundada em 2023 para promover pesquisa de segurança e boas práticas no setor. O papel específico que a SAFA desempenharia em relação a esse fórum ainda não foi esclarecido publicamente, já que publicar diretrizes, desenvolver testes e efetivamente avaliar empresas são níveis de autoridade bem diferentes entre si.
Críticos também levantam preocupações sobre o fato de a nova organização poder, na prática, limitar a competição no setor ao excluir desenvolvedores de modelos abertos (open source) do processo de definição de padrões, concentrando ainda mais poder regulatório nas mãos das maiores empresas de IA do mundo.