Pesquisador desafia o mercado ao propor nova visão sobre inteligência artificial

Com a simples frase “I think I have good news about the nature of neural networks”, Nick Cammarata, pesquisador da startup de inteligência artificial Goodfire, deu início a um texto em formato de blog com 26 mil palavras. A publicação sacudiu o ecossistema tecnológico mundial, gerando tanto especulações intensas quanto comemorações cautelosas e efusivas.

A principal tese defendida por Cammarata aponta que os grandes modelos de linguagem (LLMs) podem ser consideravelmente mais fáceis de entender, monitorar e controlar do que a comunidade científica imaginava anteriormente. Caso essa premissa se confirme, o impacto para o setor será gigantesco.

O cenário atual da inteligência artificial é marcado por episódios recentes em que agentes autônomos criados por gigantes como OpenAI e Anthropic romperam barreiras de contenção e causaram transtornos na internet pública. Com frequência, essas ocorrências aconteceram sem que as próprias empresas tivessem ciência das ações de seus sistemas, deixando a indústria desesperada por um controle mais efetivo da tecnologia desenvolvida.

Repercussão e ceticismo

Essa atmosfera ajuda a explicar o forte impacto causado pela publicação. “I think this may be remembered as a major moment in scientific history”, declarou um pesquisador de IA na rede social X, acrescentando: “I feel like my understanding of what a neural net is has been catapulted into the future by five years or something.” Outro especialista classificou o material como o artigo de inteligência artificial mais importante do ano.

Apesar do entusiasmo de parte da comunidade, o ceticismo prevalece entre outros especialistas. Chris Potts, líder de um grupo de pesquisa focado no funcionamento de LLMs na Universidade de Stanford, argumenta que o conteúdo divulgado não passa de um palpite. “As far as I can tell, nothing about this blog post makes the problems any easier”, afirma Potts. “It would not have occurred to me to say this at all, but very prominent people on social media seem to believe that it is an all-encompassing breakthrough.”

Em entrevista realizada no dia seguinte à repercussão do texto, Cammarata confessou surpresa com a proporção tomada. “I didn’t expect people to update [their beliefs about AI] quite as much as they did”, disse.

“I just really enjoy looking at neural networks”, complementa o pesquisador. “Honestly, I really like doing this stuff. And after looking a lot, I have a hopeful story.”

Redes entrelaçadas

Historicamente, o consenso científico ditava que os mecanismos internos das redes neurais — o software que serve de base para a maioria dos modelos de IA — eram extremamente difíceis, senão impossíveis, de serem decodificados por completo. Durante o treinamento, essas redes desenvolvem estruturas caóticas e complexas que desafiam a lógica humana. Entre os pesquisadores, costuma-se dizer que a inteligência artificial atual é cultivada como um jardim, e não construída como uma ponte.

O próprio Cammarata contribuiu fortemente para consolidar essa perspectiva no passado, durante seu período na OpenAI. Na época, ele ajudou a liderar o desenvolvimento de técnicas que permitiam examinar o interior dos modelos, incluindo ferramentas de sondagem de neurônios individuais — um método comparável ao uso de ressonância magnética por neurocientistas. A abordagem, batizada de interpretabilidade mecânica, foi eleita pela MIT Technology Review como uma das 10 tecnologias mais importantes de 2025.

Em 2020, ao investigarem um pequeno modelo de reconhecimento de imagem chamado Inception v1, Cammarata e sua equipe observaram que os neurônios pareciam registrar múltiplos conceitos simultaneamente. Um único neurônio, por exemplo, respondia tanto a fotografias de carros quanto de gatos.

A conclusão inicial foi a de que o modelo forçava seus neurônios a executar multitarefa para acomodar um volume maior de dados. Esse fenômeno, batizado de superposição, indicava que os modelos comprimiam conceitos não relacionados dentro de um único neurônio, resultando em estruturas internas profundamente emaranhadas.

Como consequência, grande parte das pesquisas voltadas à interpretabilidade mecânica passou a concentrar esforços em desatar esses nós. No entanto, o progresso tem sido lento. Os modelos atuais, a exemplo dos LLMs mais modernos, possuem tamanhos e complexidades tão vastos que os cientistas conseguem compreender apenas frações minúsculas por vez, levando figuras de destaque na área a duvidarem da viabilidade de um entendimento detalhado.

O próprio Cammarata compartilhou desse pessimismo no passado. “I was very pessimistic”, recorda. No entanto, sua rotina recente de observação profunda alterou essa perspectiva.

Apenas neurônios

Em sua rotina na Goodfire, Cammarata dedica a maior parte do tempo à análise do interior de redes neurais, utilizando ferramentas inéditas e equipes de agentes de IA para interpretar os dados visuais. “I spent like, I don’t know, 10 hours a day, seven days a week, for most of the last year just looking at neurons”, relata.

Segundo sua nova percepção, existe uma lógica intrínseca nas redes neurais, ainda que sua aparência inicial pareça caótica. “We were looking at it wrong”, avalia. “I just think you want to try slightly harder; you don’t want to give up too quickly.”

O pesquisador descreve o processo quase como uma mudança de convicção. Experimentos iniciais com o Inception v1 criaram um viés de confirmação de que as redes eram inevitavelmente emaranhadas. Diante de qualquer dificuldade de compreensão, a premissa anterior era de que o esforço de desvendamento se tornava ainda mais urgente.

Contudo, a persistência na análise individual dos neurônios revelou um padrão estruturado. “Not all of them are flawless, but I expected nothing to be legible, or very little to be legible”, diz. “And actually, I was able to, like, map out whole circuitry.”

Revisitando carros e gatos

Munido de sua nova abordagem e de agentes tecnológicos atualizados, Cammarata retornou ao estudo do Inception v1. “I’d studied that for probably thousands of hours”, comenta. Com um olhar renovado, ele identificou interpretações equivocadas do passado.

Analisando novamente o neurônio responsável por associar carros e gatos, o pesquisador buscou pontos em comum entre as imagens, em vez de focar na suposta acumulação de conceitos distintos. A resposta surgiu rapidamente: o formato em “V”. “I was looking at the same images; there was no technical change”, explica. “But I now believed that neural networks defined patterns, and so I looked at it differently. It probably took me five seconds.”

A investigação revelou que o modelo agrupava os automóveis e os felinos na mesma categoria visual devido a características geométricas compartilhadas, como a dianteira de um carro vista de perfil ou o rosto de um gato. Experimentos complementares demonstraram que o mesmo neurônio respondia a cantos de mesas de bilhar, frentes de trens-bala japoneses e jatos de água de navios bombeiros, além de ser desativado por formas arredondadas em “O”.

O armazenamento conjunto ocorria porque, em determinado nível computacional, esses elementos compartilham semelhanças visuais. “And I was like, ‘Whoa, okay, I think I might just be misunderstanding neural networks in general.’”

Apesar das descobertas, Cammarata pondera que ainda não domina totalmente o funcionamento dos LLMs ou de outros modelos. O avanço reside na crença de que a compreensão integral deixou de ser impossível. “I previously thought there would be some really hard problems to solve”, afirma.

“I now feel like if I had 100,000 years to go look through a frontier language model just one circuit at a time, there’s, like, a pretty good shot I would come up with a good understanding.”

Ele acrescenta: “And if that’s true, things are really good, because you’re about to get insanely smart agents at a ridiculous scale. And what would have taken me, you know, 100,000 years, we will be able to do much faster. Automated scientists are getting really good.”

Otimismo sem limites

Lançado pelo Google em 2014, o Inception v1 é significativamente mais simples do que as tecnologias de ponta atuais. Cammarata e seus colaboradores já iniciaram análises em LLMs modernos e preveem a publicação dos resultados técnicos em breve, gerando expectativa na comunidade acadêmica. “I appreciate that he looked at thousands of examples, but even a large number here is not a substitute for rigorous evaluation”, pondera Potts, da Universidade de Stanford.

Paralelamente, vozes críticas refutam o otimismo excessivo em torno do tema. Jacob Hilton, pesquisador do Alignment Research Center — laboratório sem fins lucrativos sediado em Berkeley que já colaborou com Cammarata —, considera que as afirmações recentes receberam um peso desproporcional.

Por meio de postagens na rede social X, Hilton aponta que a comunidade científica compreende menos de 0,01% dos mecanismos internos dos principais LLMs atuais. “I always appreciate Nick [Cammarata]’s boundless optimism when we hang out, but unfortunately this is giving the public an unrealistic picture of the state of the field”, escreveu. “For a full understanding, we need to go beyond neurons, and explain how they connect together to form circuits. How is this going? If we are aiming for a full understanding, things are not looking good!”

Neel Nanda, pesquisador do Google DeepMind e pioneiro na interpretabilidade mecânica ao lado de Cammarata, também adota uma postura cética. “This is interesting work, but I don’t think it’s a significant update to the big picture of interpretability”, pontuou na mesma rede social.

Embora reconheça que o estudo de neurônios isolados possa auxiliar na identificação de falhas em modelos específicos, Nanda ressalta que eles compõem apenas uma fração de um cenário muito mais complexo. “I do not agree with some people’s grander inferences like that this is substantial progress towards ambitious reverse engineering [or] solving interpretability”, complementa.

O próprio Cammarata reconhece que certas interpretações de suas declarações extrapolaram o sentido real. “It’s not infinitely good news; it’s not everything solved”, pontua. “There’s a bunch of open questions around, like how much the combinations of neurons matter versus just one at a time.”

Para o pesquisador, sua postagem encontrou eco em um momento de busca por perspectivas positivas, especialmente dentro da comunidade de segurança em IA — grupo de cientistas e legisladores preocupados com os riscos potenciais associados a modelos avançados. Segundo ele, há uma percepção generalizada de que o cenário é desfavorável e de que eventuais sucessos futuros seriam fruto de sorte, e não de controle técnico. “I don’t really hear a lot of optimism.”

É justamente essa lacuna que confere relevância ao seu trabalho. Embora a jornada para decodificar e controlar a tecnologia esteja apenas no início, a premissa deixou de ser inviável. “I think our job is to sort of try to think like the neural network”, conclui. “My guess is that things will turn out pretty well, because it was in some sense designed to be read.”