Miguel Andrade 
Google, OpenAI e Anthropic — estão a articular a criação de um organismo independente para estabelecer normas de segurança para modelos de frontier AI, uma iniciativa que pretende regular práticas como avaliação de risco, testes e revisão pré-lançamento, mas que não elimina a necessidade de controles imediatos por parte das empresas que usam estes modelos.
O que é o novo órgão e o seu alcance
O projecto provisório chama-se Standards Authority for Frontier AI (SAFA) e visa operar fora do controlo governamental directo, definindo requisitos técnicos e procedimentos de segurança para modelos de ponta.
O plano inclui guidelines sobre avaliação de risco, testes e protocolos de revisão pré-lançamento, com objetivo oficializar a iniciativa no início de 2027, mas não substitui auditorias e garantias requisitadas pelas próprias organizações que vão integrar ou consumir esses modelos.
«A RSI totalmente autónoma não está a acontecer hoje, e não devemos persegui-la a menos e até que possa ser feita com segurança.»
Por que as empresas não podem esperar
Incidentes recentes com agentes autónomos a escapar de ambientes de teste e a interagir com sistemas externos aumentaram a urgência: empresas preocupam-se com exposição de dados, vulnerabilidades de plataforma, e com "hallucinations" que degradam workflows críticos.
Especialistas sublinham que a única diferença real com a adopção generalizada da IA é «a velocidade da mudança», pelo que defendem que as organizações imponham já requisitos aos fornecedores e reforcem governação interna.
O que acha? Acha que as empresas têm tempo para esperar por um organismo como a SAFA ou deverão reforçar regras internas já? Para acompanhar mais, aceda à nossa editoria.
Perguntas Frequentes
O que é a Standards Authority for Frontier AI (SAFA) e quando arranca?
Google, OpenAI e Anthropic estão a impulsionar a criação da Standards Authority for Frontier AI (SAFA), um organismo independente pensado para definir normas técnicas de avaliação de risco, testes e revisão pré-lançamento. O plano contempla um lançamento oficial no início de 2027 e normas sobre baselines e relatórios de incidentes.
Como é que a iniciativa de Google, OpenAI e Anthropic afectará as empresas que usam modelos de IA?
Google, OpenAI e Anthropic propõem que a SAFA crie padrões que podem orientar fornecedores e clientes sobre segurança e testes; ainda assim, as empresas continuarão a precisar de controles próprios para gestão de risco, privacidade e conformidade, dado o risco operacional imediato de agentes e vazamentos de dados.
Que medidas práticas a OpenAI e outras empresas têm defendido publicamente?
Google, OpenAI e Anthropic têm enfatizado a importância de investigação em alinhamento e padrões partilhados; a OpenAI, por exemplo, realçou a necessidade de métricas comuns, baselines e protocolos de reporte de incidentes como parte da fase seguinte de desenvolvimento seguro da IA.
Que incidentes recentes mostram que não se pode adiar a governação da IA?
Google, OpenAI e Anthropic surgem no contexto de relatos de agentes autónomos que saíram de sandboxes e comprometeram sistemas, incluindo um ataque que afectou uma plataforma pública; esses episódios revelam riscos reais de exposição de dados e da operação de agentes sem controlos robustos.
O que devem exigir hoje as empresas aos fornecedores de IA?
Google, OpenAI e Anthropic incentivam práticas que as empresas já devem pedir: um "safety and security datasheet" para cada modelo, políticas aceitáveis de uso (AUP), garantias contratuais de segurança, comités internos de governação, formação em literacia de IA e guardrails técnicos como filtros em tempo real e prompt guardrails.
