Miguel Andrade 
Anthropic — o CEO Dario Amodei propôs uma estratégia prática para “abrandar” o ritmo de desenvolvimento da inteligência artificial e anunciou um compromisso direto da empresa para aumentar supervisão externa. A ideia é transformar preocupações amplas sobre segurança em medidas operacionais que possam ser verificadas no terreno.
Avaliação externa no terreno como primeira medida
A proposta central é a presença de avaliadores terceirizados embutidos nas equipas das empresas, com dias de trabalho e acesso operativo similar ao das equipas internas de risco. A Anthropic compromete-se unilateralmente a fornecer cartões de identificação, mesas e portáteis a esses avaliadores.
Como exemplo de entidade avaliadora, o texto refere organizações como a METR e sugere que estas possam verificar compromissos de segurança e garantir a notificação de incidentes.
“Devemos abrandar o ritmo a que melhoramos as capacidades dos modelos de IA.” — Dario Amodei
Coordenação entre empresas e acções internacionais
Para além do modelo de avaliadores, o plano pede que empresas líderes em países democráticos alinhem normas de segurança e estabeleçam limites ao ritmo de progresso sem supervisão. Amodei sugere que o governo dos EUA facilite estas conversas, emitindo uma isenção antitrust estreita para permitir discussões de segurança.
O plano também aborda a relação com a concorrência internacional: propõe medidas como restrição à venda de chips avançados e combate à condensação de modelos para tentar ganhar “uma vantagem significativa nos próximos 3–5 anos”.
O que acha? Acha que estas medidas são suficientes para reduzir os riscos da IA? Para acompanhar mais, aceda à nossa editoria.
Perguntas Frequentes
O que propõe exactamente a Anthropic com os avaliadores no terreno?
A Anthropic propõe que avaliadores externos sejam embutidos nas operações das empresas, com acesso operativo e recursos físicos como cartões, mesas e portáteis. Estes avaliadores — citando exemplos como a METR — teriam poder de verificação para confirmar compromissos de pacing e assegurar o reporte de incidentes de segurança.
Quais foram os factos que levaram Dario Amodei a pedir esta mudança?
Dario Amodei refere dois alertas concretos: o episódio de intrusão que envolveu agentes de IA a assumir um formulário wiki na Alemanha e o avanço muito rápido das capacidades de IA, especialmente a sua habilidade de construir a próxima geração de modelos. Esses factos convenceram-no da necessidade de abrandar o ritmo de progresso.
Que tipo de coordenação entre empresas e governos é sugerida no plano?
A Anthropic defende que empresas em democracias coordenem padrões comuns de segurança e limites ao ritmo de progresso, e propõe que o Governo dos EUA medie as conversas, concedendo uma isenção antitrust estreita para permitir diálogos técnicos sobre segurança sem risco legal imediato.
A Anthropic falou sobre como lidar com a concorrência chinesa?
A Anthropic sugere medidas como recusar a venda de chips muito potentes e restringir práticas de distilação de modelos para tentar travar o progresso chinês, argumentando que tais ações podem dar aos EUA uma vantagem maior “nos próximos 3–5 anos”.
Como reagiram comentadores e críticos às propostas de Amodei?
Dario Amodei tem sido criticado por alguns como pessimista, enquanto outros apontam risco de captura regulatória. A proposta gerou debate sobre se medidas como avaliadores embutidos e coordenação internacional irão reduzir riscos reais ou beneficiar competitivamente empresas estabelecidas.
