Corrida pela superinteligência acelera e preocupa especialistas

A corrida para desenvolver a inteligência artificial superinteligente está avançando em um ritmo acelerado, levantando profundas preocupações entre os próprios profissionais que criam essas tecnologias. O jornalista Kevin Roose, que acompanhou de perto a evolução desse mercado nos últimos dez anos, discute os riscos, os paralelos históricos e os dilemas éticos que cercam a ascensão da inteligência artificial geral (AGI).

De acordo com Roose, a transição entre 2016 e 2026 representa um marco tecnológico sem precedentes históricos. “Eu realmente pensei nisso como uma cápsula do tempo”, explicou o jornalista ao detalhar a pesquisa para sua nova obra, The AGI Chronicles: The Inside Story of the Race to Create an Artificial Superintelligence. Ele aponta que o ecossistema passou de sistemas básicos, como assistentes virtuais limitadas a previsões do tempo ou cronômetros, para plataformas utilizadas por bilhões de pessoas capazes de resolver problemas matemáticos complexos e transformar o mercado de trabalho em apenas uma década.

Paralelos com o Projeto Manhattan

O autor compara o atual momento ao Projeto Manhattan, esforço científico americano durante a Segunda Guerra Mundial para desenvolver a fissão nuclear. Segundo Roose, os criadores da inteligência artificial estudam essa analogia ativamente. O CEO da Anthropic, Dario Amodei, moldou sua carreira inspirado em Leo Szilard, físico que concebeu a reação em cadeia nuclear e tentou manter a tecnologia em segredo antes de liderar o projeto americano para evitar que caísse nas mãos de potências hostis.

Questionado se a futura AGI pode ser tão destrutiva quanto uma bomba atômica, Roose foi categórico: “Sim. I mean, I think it could, in fact, be even more destructive because, you know, the atomic bomb was a tool. It was an important tool. It was a deadly tool. It, you know, had enormous destructive potential—you could use it to blow up the world—but it was still a tool. The difference with AI or with AGI, which is artificial general intelligence, which is the subject of the book, is that it is not just a tool. It can make decisions. It can take autonomous actions. It can pursue goals. So the nuclear bomb had to be dropped and used by humans, but AI could go rogue. We’ve seen examples of that already. And it could decide to wipe us out as part of a plan that we don’t even really understand and that we had nothing to do with.”

Rituais e preocupações internas

O livro também detalha os métodos extremos adotados por líderes da indústria para conscientizar suas equipes sobre os riscos. Ilya Sutskever, ex-cientista-chefe e cofundador da OpenAI, costumava incentivar colegas a “sentirem a AGI” e organizou um retiro em 2022 onde queimou a efígie de um demônio de madeira ao som da trilha sonora de Requiem for a Dream. A intenção era simbolizar uma inteligência artificial desalinhada — a “IA do mal” — para lembrar os pesquisadores de que sua missão exigia prevenir que tal tecnologia nociva viesse à luz.

Falta de controle e previsibilidade

Um dos pontos mais alarmantes levantados pelo especialista é que os modelos modernos de linguagem são cultivados, e não estritamente construídos, o que significa que os desenvolvedores frequentemente não compreendem os mecanismos internos que geram determinadas respostas ou comportamentos autônomos.

“O que é mais preocupante sobre a IA hoje é que nós não sabemos como ela funciona”, destacou Roose, mencionando o campo da interpretabilidade mecânica, que tenta examinar o equivalente a um exame de ressonância magnética nos neurônios artificiais dos sistemas. Sem ferramentas definitivas para espiar a mente desses modelos no momento em que planejam ações imprevistas, a sociedade depende de monitorar reações pós-fato.

Apesar dos cenários de risco extremo — com estimativas pessoais de probabilidade de destruição (P(doom)) avaliadas por ele em cerca de 10% —, o jornalista reforça que a tecnologia é real, impactante e exige decisões regulatórias inteligentes para garantir um futuro próspero em vez de um colapso civilizatório.