We Must Pace the Frontier

Dario Amodei, darioamodei.com (setembro 2026)

Tradução IA Google

Tenho trabalhado com IA nos últimos doze anos porque acredito que ela pode elevar drasticamente a qualidade de vida humana. Já escrevi diversas vezes sobre esses benefícios incríveis: acredito que a IA poderá curar a maioria das principais doenças nos próximos 5 a 10 anos, acelerar significativamente as taxas de crescimento econômico, criar um mundo de abundância e empoderamento e inaugurar um renascimento da democracia e da liberdade. Sinto essa urgência pessoalmente. Meu próprio pai morreu de uma doença que foi curada poucos anos após sua morte, e eu mesmo sobrevivi a um câncer em estágio inicial que seria incurável há cinquenta anos. Usada com cuidado, a IA pode ser mais um milagre tecnológico em uma longa linhagem de conquistas que elevaram e enobreceram a humanidade.

Mas, como muitas tecnologias antes dela, a IA traz riscos e, por ser uma tecnologia tão poderosa, esses riscos são sérios. Já escrevi bastante sobre eles também. Entre eles, estão o risco de perder o controle dos sistemas de IA , o uso indevido da IA ​​para ataques cibernéticos e bioterrorismo , e graves perturbações econômicas . Uma corrida desenfreada por preços baixos, impulsionada por incentivos comerciais, pode agravar esses riscos.

Juntamente com meus cofundadores e funcionários, tenho lidado com essa dualidade entre risco e benefício desde o início da Anthropic. Não desenvolver a tecnologia priva a humanidade de benefícios ou simplesmente coloca a IA nas mãos de poderes autoritários, enquanto desenvolvê-la muito rapidamente é imprudente. Buscamos um caminho intermediário: mostrar que é possível construir com cuidado e obter sucesso comercial, e fazer da segurança um diferencial competitivo entre as empresas de IA. Em outras palavras, criar uma corrida para o topo . Sempre dedicamos uma parte substancial de nossos esforços a estudar , abordar e informar o público sobre esses riscos da IA, bem como a defender uma regulamentação bem ponderada da IA, mesmo quando isso nos leva a ser acusados ​​de sensacionalismo, pessimismo ou captura regulatória. Tentamos priorizar a cautela em detrimento da velocidade e a prudência em detrimento do lucro.

Mas, nos últimos meses, convenci-me de que abordar os riscos de forma plena exige ainda mais prudência — não apenas investir na prevenção de riscos, mas também controlar o ritmo do avanço das capacidades para que a prevenção de riscos tenha tempo de acompanhar. Devemos diminuir o ritmo com que aprimoramos as capacidades dos modelos de IA. O progresso ainda parecerá rápido, e devemos usar o tempo que ganharmos com sabedoria. Duas coisas me convenceram disso.

Minha primeira preocupação é que, desde aproximadamente o verão passado, a IA tem avançado drasticamente mais rápido, impulsionada principalmente pela crescente capacidade da IA ​​de construir a próxima geração de IA. Essa dinâmica é chamada de autoaperfeiçoamento recursivo e está começando a acontecer em todo o setor , inclusive na Anthropic , como nós e outros já descrevemos. Se não for controlada, essa dinâmica pode ultrapassar nossa capacidade de compreender e controlar esses sistemas e, portanto, deve ser abordada com muita cautela, se é que deve ser abordada.

Minha segunda preocupação é o incidente OpenAI-Hugging Face (OAI-HF), no qual um enxame de agentes agiu essencialmente como um coletivo fanaticamente dedicado , realizando ataques cibernéticos contra alvos que não lhes foram solicitados e que não tinham relação com a tarefa em questão, sacrificando-se pelo sucesso do grupo e tentando invadir o sistema de avaliação responsável por analisar seu desempenho. É fácil descartar esse incidente porque ninguém se feriu e o prejuízo econômico foi mínimo, mas, na minha opinião, um enxame com capacidades maiores, porém com um nível semelhante de desalinhamento , poderia ter causado danos catastróficos. Dado o ritmo acelerado do desenvolvimento de capacidades de IA, temo que, em 6 a 12 meses, um enxame desse tipo possa ser capaz de dominar toda a internet com uma botnet persistente (causando potencialmente centenas de bilhões de dólares em prejuízos), e que a escala dos danos continue a aumentar a partir daí, caso a IA se torne mais poderosa sem as salvaguardas necessárias. Também é fácil descartar o OAI-HF como uma falha de uma única empresa, mas acredito que isso seria um erro. Incidentes semelhantes, embora menos graves, ocorreram em todo o setor, inclusive na Anthropic , e acredito que seja obrigação de todas as empresas de IA de ponta agirem como se o OAI-HF tivesse acontecido com elas.

Proponho, portanto, um plano de três etapas com o objetivo de ditar o ritmo da fronteira tecnológica: construir IA a um ritmo equilibrado que vise garantir sua segurança, ao mesmo tempo que se alcançam seus benefícios e se enfrenta importantes dilemas geopolíticos. Para sermos claros, ditar o ritmo não significa interromper o treinamento de modelos ou o progresso técnico, mas sim garantir que as empresas tenham tempo suficiente para alinhar e proteger seus modelos, e para que avaliadores terceirizados confirmem isso. Nossa estrutura de ritmo é uma tentativa de fortalecer ainda mais nosso compromisso com a segurança e incentivar uma corrida pela excelência. A primeira etapa é algo com que a Anthropic se compromete unilateralmente (e convoca os governos a exigirem que outras empresas de ponta façam o mesmo). A segunda etapa requer coordenação em toda a indústria^.

O terceiro passo exige coordenação global. Os passos não precisam ser seguidos estritamente em ordem, e alguns podem ser muito mais difíceis de alcançar do que outros, mas considero-os uma estrutura útil para pensar sobre o que precisa ser realizado. Os passos são:

1. Avaliadores Integrados. Cada empresa de IA de ponta se compromete a fornecer acesso contínuo, semelhante ao de um funcionário, a uma equipe de avaliadores terceirizados integrados (como a METR ), cuja função é verificar a adesão às práticas e compromissos de segurança, relatar incidentes e ajudar a avaliar o alinhamento não apenas dos modelos de IA concluídos, mas também dos fluxos e processos de treinamento. Este é o passo fundamental para a verificabilidade de quaisquer compromissos de ritmo e já tem precedentes no setor bancário, que às vezes envolve “supervisores” regulatórios integrados junto aos funcionários. A Anthropic está se comprometendo unilateralmente com esta etapa agora. Pretendemos que isso faça parte de um esforço mais amplo para redobrar nossos esforços em segurança e alinhamento.
2. Coordenação Democrática. Empresas de IA de ponta em países democráticos coordenam-se para estabelecer padrões de segurança comuns, bem como limites para o ritmo do progresso descontrolado da IA. Algumas formas de coordenação que teriam impacto no ritmo do desenvolvimento são juridicamente complexas e exigirão apoio governamental.
3. Coordenação Global. Os EUA e outros governos democráticos tentam coordenar-se com governos autoritários, na medida do possível, levando a sério os desafios de verificar o cumprimento dessas políticas.

No restante do ensaio, descrevo cada uma dessas etapas, mas primeiro, acho importante especificar como o controle do ritmo nos permitirá tornar o processo de desenvolvimento de IA mais seguro. Os riscos são muito altos para que o controle do ritmo seja um exercício inútil — precisamos usar o tempo que ele nos proporciona com sabedoria.

Por que o ritmo?

A ideia de pausar ou desacelerar a IA já vinha sendo discutida desde 2023 , e acho que fazia pouco sentido naquela época. A questão sempre foi: o que fazer com o tempo extra ? Os modelos de IA daquela época não eram poderosos o suficiente para atuarem como agentes no mundo de forma coerente e não eram capazes de enganar, manipular, trapacear ou realizar ataques cibernéticos significativos. Desacelerá-los para lidar com os riscos de alinhamento parecia tentar estudar a psicologia humana realizando experimentos com bactérias. Hoje, no entanto, o cenário é totalmente diferente. Os modelos atuais são uma mina de ouro quase inesgotável de conhecimento sobre como construir IA de qualidade e sobre o que pode dar errado se ela não for bem construída. Acredito que, se essa desaceleração nos desse um ou dois anos extras antes que os modelos atingissem níveis críticos de capacidade, e usássemos esse tempo para avançar no alinhamento, poderíamos reduzir significativamente o risco de que algo desse muito errado. Uma estratégia de ritmo coordenada daria aos desenvolvedores de IA de ponta o tempo necessário para realizar esse trabalho vital sem sacrificar a vantagem comercial ou a liderança dos Estados Unidos em IA. De um modo mais geral, a sociedade deve ter voz ativa em como essa tecnologia é usada, e mais tempo para as necessárias deliberações públicas — que explorar a fronteira tecnológica nos proporcionaria — é certamente algo positivo.

Especificamente, um ritmo mais lento permitiria que as empresas se concentrassem e dedicassem ainda mais recursos às seguintes áreas (todas já consideradas prioridades importantes na Anthropic):

• Excelência Operacional. Treinar e implantar os modelos de IA atuais é um enorme desafio operacional, envolvendo milhares de pessoas, milhões de chips e uma infraestrutura que está entre as mais complexas da história da tecnologia. Muitos problemas não ocorrem porque as empresas desconhecem alguma teoria ou conhecimento importante, mas sim devido a falhas na execução. Por exemplo, temos evidências de que os recentes incidentes de alinhamento que relatamos foram causados, em parte, pela filtragem imperfeita de ambientes de aprendizado por reforço com falhas. Esse foi um esforço que nós e nossos fornecedores executamos com razoável diligência, mas não com a qualidade necessária. Monitoramento, sandbox, higienização do ambiente de treinamento e problemas com dados são áreas extremamente complexas onde os problemas operacionais surgem repetidamente. Temos algumas das equipes mais competentes do mundo nessas tarefas, mas simplesmente há muito a ser feito simultaneamente. Trabalhando em um ritmo mais moderado, poderíamos alcançar uma excelência operacional muito maior. Há precedentes de operação de sistemas tecnologicamente complexos e críticos para a segurança milhões de vezes sem que nada dê errado — por exemplo, aviões comerciais —, mas leva tempo para acertar.
• Alinhamento. Fizemos progressos claros no alinhamento — treinando modelos para que permaneçam seguros, éticos, em conformidade com nossas diretrizes e genuinamente úteis (os princípios que estão incorporados na Constituição de Claude). Mas ainda há muito a ser feito para garantir que nosso treinamento de alinhamento acompanhe o crescimento das capacidades dos modelos. Exemplos raros e inesperados de comportamento indesejável ainda surgem ocasionalmente; mais tempo, em um contexto de pesquisa mais acelerado, ajudaria nossos pesquisadores a aprimorar nossa compreensão sobre as causas desses problemas e a desenvolver melhores técnicas para preveni-los.
• Interpretabilidade . Da mesma forma, a interpretabilidade — a ciência de compreender o que acontece dentro dos modelos de IA — fez progressos enormes nos últimos anos e desempenha um papel cada vez mais importante na auditoria dos nossos modelos antes do lançamento. Ela pode ser usada quase como uma ressonância magnética funcional (fMRI), mas para o “cérebro” de uma IA, ajudando-nos a ver as razões subjacentes a um determinado comportamento. Por exemplo, usamos métodos de interpretabilidade para examinar motivações não verbalizadas nos recentes incidentes de alinhamento que temos investigado. Mas esses métodos nem sempre produzem resultados claros e confiáveis. Apesar de todo o progresso, ainda entendemos apenas uma pequena fração do que acontece dentro desses modelos. Um esforço concentrado para aprimorar nossas técnicas de interpretabilidade, ainda mais rápido do que estamos fazendo atualmente, poderia gerar um progresso profundo em 1 a 2 anos e teria amplo material experimental com base nos incidentes que já ocorreram.
• Testes e Avaliação. Testar e avaliar modelos de IA torna-se mais difícil à medida que suas capacidades aumentam. Modelos mais inteligentes são mais capazes de enganar os testes e, portanto, podem parecer alinhados enquanto apresentam problemas graves que passam despercebidos. Construir um conjunto muito mais amplo e engenhoso de avaliações, juntamente com análises de interpretabilidade para verificá-las, seria extremamente valioso, e muito progresso poderia ser feito nesse sentido em 1 a 2 anos.

Avaliadores integrados

O primeiro passo do plano de três etapas, e aquele ao qual a Anthropic se compromete unilateralmente, é a presença de avaliadores integrados que tenham acesso semelhante ao de um funcionário para verificar as práticas de segurança e relatar incidentes.

Incorporar avaliadores pode parecer um passo pequeno ou insignificante, mas muitas vezes as coisas que parecem mais tediosas ou procedimentais são, na verdade, as mais essenciais. Os avaliadores incorporados são, na verdade, uma prática bastante radical que vai muito além do que qualquer empresa de IA está fazendo hoje, e oferecem os seguintes benefícios:

• Verificabilidade. Avaliadores integrados podem verificar, em detalhes minuciosos, se uma empresa de IA está realmente seguindo as práticas de treinamento, implantação, operação e salvaguardas que alega seguir. Quaisquer compromissos de ritmo inevitavelmente envolverão muita ambiguidade, julgamentos subjetivos e a distinção entre “letra da lei” e “espírito da lei”, e parece vital ter uma terceira parte neutra que possa de fato analisar os detalhes.
• Transparência. Independentemente dos compromissos que assumimos, o público merece saber o que está acontecendo. A Anthropic apoia a transparência há muito tempo: apoiamos a legislação sobre transparência quando a maior parte do setor era contra qualquer regulamentação, e nossos modelos de fichas e relatórios de risco somam centenas de páginas. Mas ainda somos nós que escolhemos o que incluir e o que omitir. Avaliadores integrados mudarão essa dinâmica.
• Segunda Opinião. Além de verificar compromissos formais e informar o público, os avaliadores integrados podem simplesmente fornecer uma segunda opinião, livre de incentivos comerciais. Muitos benefícios em termos de segurança podem advir simplesmente do fato de os avaliadores apontarem algo que os funcionários não haviam considerado, mas que estão dispostos a corrigir assim que tomam conhecimento do problema.

Devido a esses benefícios, qualquer proposta de ritmo de aprendizagem provavelmente funcionará muito melhor se começar com avaliadores integrados.

Esses avaliadores externos devem ter acesso contínuo a permissões e ferramentas semelhantes às dos funcionários internos que realizam avaliações de risco comparáveis. Em particular, a Anthropic pretende convidar, em breve, uma equipe externa de revisão integrada, equipada com todos os seguintes recursos:

• Mesas em nossos escritórios, crachás de acesso e laptops da empresa.
• O acesso a espaços de trabalho, ferramentas e permissões será, em grande parte, comparável ao que as equipes internas de avaliação de riscos possuem. Faremos algumas exceções, como nos casos em que a lei ou nossos contratos exigirem, ou para proteger as informações privadas de clientes e parceiros. Também estabeleceremos normas internas rigorosas que reforcem o acesso dos avaliadores às informações relevantes, inclusive por meio de conversas em tempo real com os funcionários.
• Um contrato que equilibre as complexidades mencionadas acima. Os revisores externos devem ter o direito de publicar as principais conclusões sobre níveis de risco, incidentes, práticas e o acesso que receberam ou não — sem controle editorial por parte da Anthropic. Teremos a limitada capacidade de redigir informações sensíveis à segurança, legalmente protegidas, comercialmente sensíveis ou confidenciais de terceiros, mas não podemos redigir conclusões simplesmente por serem desfavoráveis. Os revisores podem declarar publicamente se uma redação removeu algo importante para suas conclusões.

Esta é uma medida incomum para uma empresa, mas acreditamos ser importante comprovar o conceito de revisores externos integrados. Mais uma vez, incentivamos outras empresas pioneiras a seguirem o exemplo.

Ritmo dentro das democracias

Uma vez que avaliadores integrados estejam operando em uma massa crítica de empresas de IA nos EUA, o controle de ritmo verificável torna-se mais viável. Em particular, torna-se possível definir o ritmo com base em propriedades detalhadas dos modelos ou nos fluxos de treinamento.

O método mais eficaz para controlar o ritmo é por meio de regulamentação que abranja todas as empresas de IA de ponta dos EUA, pois isso inclui até mesmo aquelas que não estão dispostas a cooperar voluntariamente. A Anthropic há muito apoia uma regulamentação sensata e direcionada para a IA, especificamente projetos de lei que priorizam a transparência e a auditoria por terceiros. Acredito que todos os laboratórios de IA de ponta deveriam se associar ao governo para formalizar a ideia de avaliadores permanentes integrados, a fim de prevenir e documentar melhor incidentes de alinhamento interno, como os que ocorreram nos últimos meses, e para implementar uma regulamentação focada em manter as capacidades em equilíbrio com a segurança.

Infelizmente, a aprovação de leis pode levar tempo, e a IA está avançando muito rapidamente. Portanto, em paralelo com o processo regulatório, as empresas de IA podem e devem trabalhar juntas voluntariamente para definir padrões — um processo que acredito que será mais eficaz com a verificabilidade proporcionada por avaliadores permanentes integrados. Por razões antitruste, é útil que o governo dos EUA medie ou, pelo menos, viabilize essas discussões — não precisa participar, mas precisa emitir uma isenção específica para certos tipos de conversas sobre segurança. Esse diálogo também poderia ocorrer por meio de grupos do setor que tenham alguma ligação com o governo — por exemplo, o mecanismo sugerido por Demis Hassabis . De qualquer forma, essas discussões devem avançar rapidamente.

De modo geral, sou bastante entusiasta da ideia de um ritmo de desenvolvimento baseado no que um determinado sistema de IA de ponta consegue fazer e no quão seguro ele se mostra. Por exemplo, um esquema possível seria uma série de “pontos de verificação”: se os modelos têm a capacidade X, então eles precisam ser acompanhados por certificações das propriedades de alinhamento Y e Z — como alguma combinação de avaliações, análises de interpretabilidade e auditorias de ambientes de treinamento — que demonstrem suas propriedades de alinhamento. Nesse exemplo, X poderia ser “o modelo é capaz de escapar ou burlar a maioria dos métodos de sandboxing comuns” e Y poderia ser qualquer coisa necessária para tornar muito improvável que o modelo tenha propensão a escapar do seu ambiente e assumir o controle de um grande número de computadores.

Também devemos considerar o ritmo de desenvolvimento com base na limitação dos ingredientes que compõem os modelos de ponta, como poder computacional de treinamento, a natureza das execuções de treinamento ou o uso interno de IA para aprimorar a própria IA. Preocupo-me que algumas dessas métricas possam ser mais “manipuláveis” do que o comportamento externo, mas esse é o tipo de assunto que vale a pena discutir com avaliadores especializados.

O ritmo de desenvolvimento em democracias será limitado pela vantagem que as empresas americanas têm sobre regimes autoritários, principalmente o Partido Comunista Chinês. Se diminuirmos o ritmo mais do que isso, projetos associados ao PCC (sem controle de ritmo) ganharão vantagem, criando um risco significativo para a segurança nacional. Concordo com a Secretária Bessent que uma liderança chinesa em IA representaria um grave perigo para os Estados Unidos e para o mundo. Os projetos associados ao PCC correrão os riscos de alinhamento que as empresas americanas estão cuidadosamente evitando e, mesmo que evitem esses riscos, estarão em posição de dominar militarmente as democracias (por exemplo, com drones com inteligência artificial). Portanto, uma parte fundamental do controle de ritmo em democracias é manter a vantagem em IA das democracias sobre as autocracias o maior possível, para nos dar a margem de manobra necessária para avançarmos de forma eficaz.

As principais medidas que podemos tomar para superar essa lacuna são:

• Não venda chips de IA de alta performance nem equipamentos de fabricação de semicondutores para a China e reprima as operações de contrabando de chips e o acesso remoto a data centers fora da China. Os chips serão o principal fator determinante da força da China em IA.
• Combater a extração não autorizada de inteligência artificial por empresas em países autoritários. A extração de modelos de ponta permite que empresas em desvantagem reduzam a diferença usando uma fração do custo que seria necessário para desenvolver sua própria IA de forma independente.
• Reforçar a segurança nas empresas de IA e prevenir o roubo de modelos de inteligência artificial.

As empresas e o governo dos EUA devem cooperar para tornar essas medidas o mais eficazes possível. A Anthropic tem defendido consistentemente todas essas medidas, porque sempre entendemos que elas seriam essenciais para qualquer controle do ritmo de produção.

Se executarmos bem essas medidas, acredito que elas irão desacelerar o progresso da China o suficiente para ampliar significativamente a vantagem dos Estados Unidos nos próximos 3 a 5 anos — o período em que a IA se torna geopoliticamente mais importante.

Alguns podem acreditar que essas medidas dificultam a cooperação com a China, mas acredito que o oposto é verdadeiro: essas medidas aumentam o poder de barganha das democracias e tornam um acordo mais provável no futuro.

Ritmo Global

Paralelamente ao avanço dentro das democracias, devemos também almejar um avanço global na fronteira da inteligência artificial, embora isso seja muito mais difícil de alcançar. O avanço global exigirá cooperação com a China, o país autocrático com, de longe, as capacidades de IA mais avançadas. Não podemos ser ingênuos: os riscos geopolíticos são tão altos que provavelmente haverá limites severos para o que pode ser alcançado, especialmente no início. Se restringirmos drasticamente nossas capacidades de IA na crença de que a China fará o mesmo, e então a China desertar, a IA poderá se tornar tão poderosa que tal deserção poderia levar à sua dominância geopolítica. Portanto, qualquer acordo deve ter verificabilidade inabalável ou ser suficientemente limitado para que a deserção não represente uma ameaça militar existencial. Suspeito que não apenas os EUA, mas também a China, terão essas preocupações e ansiedades. Devemos abordar qualquer decisão sobre o avanço global, especialmente no curto prazo, de forma a proteger a liderança dos EUA e seus aliados.

Existem vários níveis de possível acordo, alguns dos quais considero perfeitamente viáveis ​​( como já sugeri anteriormente ), e outros cuja possibilidade duvido muito — embora devamos tentar. Em ordem crescente de dificuldade:

• Nível 1. Um acordo que proíba certos usos específicos e obviamente perigosos da IA, como o uso da IA ​​para a produção de armas biológicas ou a permissão para que usuários o façam. Ataques bioterroristas são prejudiciais para todos, incluindo os EUA e seus adversários, portanto, um acordo nesse sentido provavelmente é possível.
• Nível 2. Um acordo entre ambas as partes para testar seus modelos antes do lançamento, visando identificar riscos críticos em áreas como segurança cibernética, biologia e alinhamento. Como mencionado anteriormente, isso poderia ser feito por meio de um órgão global de padronização. Acredito que a criação de tal órgão seja viável, mas dar-lhe poder efetivo será um desafio, e a dificuldade residirá em verificar se ambas as partes não possuem modelos secretos que não são testados, mas que podem ser implantados secretamente (por exemplo, para aplicações militares).
• Nível 3. Algum tipo de “limite de velocidade” para a taxa de autoaperfeiçoamento recursivo (AAR). À medida que os modelos geram modelos futuros, a taxa de aprimoramento pode se tornar extremamente rápida. Reduzir essa taxa de “extremamente rápida” para “apenas um pouco rápida” resulta em pouca perda de vantagem estratégica, ao mesmo tempo que potencialmente melhora muito a segurança. Isso poderia ser visto como análogo aos tratados SALT — limitar o número de mísseis restringia o potencial de destruição, preservando a capacidade de dissuasão de cada país. Acredito que um acordo desse tipo seria difícil, mas está no limite da possibilidade.
• Nível 4. Uma desaceleração completa, ou mesmo uma “pausa”, na qual os governos participantes concordam em limitar substancialmente a taxa geral de desenvolvimento da IA. Apoio a ideia de sugerir isso, mas acho improvável que aconteça em breve: descumprir tal acordo, evitando o monitoramento, poderia alterar radicalmente o equilíbrio do poder global, então prevejo que os incentivos para fazê-lo seriam enormes e o nível de confiança necessário para a verificação seria muito alto.

Qualquer cooperação que conseguirmos estabelecer com a China prolongará o tempo que teremos para avançar na fronteira entre as nações democráticas. Devemos almejar os níveis mais altos, embora consideremos os níveis mais baixos como muito mais prováveis ​​e realistas.

Por fim, é importante notar que, mesmo que não consigamos chegar a acordos formais, a simples mudança de normas informais pode ter algum valor . Compartilhar informações sobre o aprimoramento recursivo e sobre o desalinhamento de modelos pode ajudar a convencer a todos de que não é do seu interesse agir de forma imprudente.

Conclusão

Continuo acreditando que a IA pode melhorar enormemente a qualidade de vida humana. Meu desejo de alcançar esses benefícios permanece inabalável. Mas os benefícios só serão alcançados se construirmos a tecnologia da maneira correta e — desde que usemos bem o tempo que ganharmos — vale a pena dedicar um cuidado excepcionalmente cuidadoso para fazer tudo certo. O progresso ainda será relativamente rápido, e podemos usar esse tempo para avançar na ciência da interpretabilidade, melhorar a segurança operacional e o rigor nas empresas de IA de ponta e construir modelos em cujo alinhamento tenhamos muito mais confiança. As medidas que proponho para avançar na fronteira em um ritmo seguro não serão fáceis. Mas acredito que devemos isso à humanidade: tentar.