Por Maurício Gomes
A corrida pela inteligência artificial ganhou um alerta incomum vindo de dentro da própria indústria. Jacob Coxon, pesquisador que trabalhou nos últimos três anos com pré-treinamento de modelos na OpenAI e na Anthropic, deixou a Anthropic e passou a defender publicamente uma desaceleração na corrida por sistemas de IA capazes de contribuir para o próprio aprimoramento.
O episódio repercutiu rapidamente no setor de tecnologia porque Coxon não está falando apenas dos modelos disponíveis hoje. O centro de sua preocupação é o que pesquisadores chamam de autoaperfeiçoamento recursivo: um cenário no qual sistemas avançados passam a ajudar de forma cada vez mais relevante na pesquisa, programação, avaliação e criação das próximas gerações de inteligência artificial.
Um alerta vindo de quem ajudou a desenvolver modelos avançados
Coxon trabalhou com pré-treinamento, etapa fundamental na construção dos grandes modelos de linguagem. Antes da Anthropic, ele também passou pela OpenAI. Ao anunciar sua saída, criticou a velocidade da competição entre os principais laboratórios e afirmou que a indústria ainda não possui garantias suficientes de que sistemas muito mais poderosos permanecerão sob controle humano.
A repercussão aumentou quando outros profissionais ligados à segurança de IA reconheceram publicamente que riscos extremos são discutidos seriamente dentro dos laboratórios. Evan Hubinger, pesquisador de alinhamento da Anthropic, afirmou que considera significativa a possibilidade de consequências catastróficas caso sistemas superinteligentes sejam desenvolvidos sem mecanismos adequados de controle.
O que significa uma IA capaz de melhorar a própria IA?
A expressão pode dar a impressão de uma máquina simplesmente reescrevendo todo o próprio código. Na prática, o cenário discutido pela indústria é mais amplo. Modelos avançados já são utilizados para escrever programas, analisar pesquisas, encontrar vulnerabilidades, testar hipóteses e auxiliar no desenvolvimento de outros sistemas.
À medida que essas capacidades aumentam, uma IA pode se tornar uma ferramenta cada vez mais importante para os próprios pesquisadores responsáveis por criar sua sucessora. Isso poderia acelerar os ciclos de desenvolvimento: modelos melhores ajudariam a construir modelos ainda melhores em períodos cada vez menores.
É justamente essa velocidade que preocupa parte dos especialistas. Se a capacidade dos sistemas crescer mais rapidamente do que as técnicas utilizadas para compreender, testar e controlar seu comportamento, a sociedade poderá enfrentar tecnologias extremamente poderosas antes de possuir mecanismos confiáveis para supervisioná-las.
Não existe consenso de que uma catástrofe acontecerá
As declarações mais dramáticas sobre inteligência artificial precisam ser colocadas em perspectiva. Não existe consenso científico de que uma IA superinteligente necessariamente escapará do controle humano ou provocará uma catástrofe. Previsões desse tipo envolvem grande incerteza e são contestadas por pesquisadores que consideram exageradas algumas projeções sobre a velocidade do avanço tecnológico.
O que mudou é que a discussão deixou de existir apenas em cenários hipotéticos. Segurança, alinhamento, autonomia de agentes, cibersegurança e mecanismos de contenção passaram a fazer parte das decisões concretas de empresas e governos.
Pressão por regras começa a aumentar
O alerta surge em um momento no qual governos discutem regras específicas para modelos de fronteira. Uma das questões centrais é se requisitos de segurança devem depender apenas de compromissos voluntários das empresas ou se determinadas capacidades precisam acionar obrigações legais de testes, auditoria e contenção.
Para Coxon, a competição comercial cria um problema adicional: mesmo laboratórios preocupados com segurança podem sentir que precisam continuar avançando para não permitir que um concorrente chegue primeiro.
A corrida pela IA entrou em uma nova fase
Até pouco tempo, a competição em inteligência artificial era medida principalmente pela capacidade de responder perguntas, gerar imagens ou escrever código. Agora, a discussão começa a alcançar outro patamar: quanto da própria pesquisa e desenvolvimento de IA poderá ser automatizado pela IA.
Esse ponto pode definir a próxima etapa da indústria. Se modelos passarem a acelerar de maneira substancial o desenvolvimento de seus sucessores, os intervalos entre grandes avanços tecnológicos poderão diminuir.
A questão, portanto, não é apenas descobrir até onde a inteligência artificial pode chegar. É saber se os mecanismos de segurança, fiscalização e compreensão desses sistemas conseguirão evoluir na mesma velocidade.
Maurício Gomes — Tecnologia, inovação e inteligência artificial
Apuração baseada em entrevistas e reportagens publicadas por WIRED, TechCrunch, Ars Technica e outros veículos especializados em 9 e 10 de setembro de 2026.