Anthropic protocola IPO milionário e revela narrativa de risco

Após semanas de intensa especulação, a Anthropic protocolou seu prospecto de IPO. O documento de 335 páginas (sendo cerca de 100 delas dedicadas exclusivamente a riscos) expõe a visão única da empresa sobre a tecnologia que está construindo e as maneiras pelas quais acredita que ela mudará o mundo.

No entanto, a companhia vem aprimorando suas habilidades de contação de histórias há anos. De fato, sua comunicação pública é uma verdadeira aula magistral de captura de narrativa.

No início deste mês, Jack Clark, cofundador e chefe de política da empresa, fez um discurso na reunião do FMI em Bangkok, no qual anunciou aos economistas, banqueiros e legisladores reunidos que a singularidade já chegou.

Introduzida pelo escritor de ficção científica e futurista Vernor Vinge há cerca de 40 anos (e há muito debatida nas franjas mais nerds da internet), a singularidade supostamente seria o ponto em que a tecnologia se torna tão boa que supera as habilidades de seus criadores.

A ideia é que os humanos fiquem para trás, sem mais conseguir competir com — ou sequer compreender — os frutos de sua antiga criação.

E esse mundo fictício que muitos de nós imaginamos desde crianças? Aparentemente, já estamos vivendo nele: “I believe that this year we have gained convincing evidence that it has now begun”, disse Clark à sua plateia.

A empresa conta uma história vívida (e, em muitos sentidos, assustadora) sobre um futuro que retrata como inevitável, mas que ainda não aconteceu, frequentemente apropriando-se de clichês bem batidos de ficção científica. Ela apresenta sua tecnologia como misteriosa e perigosa, e insiste que é a única empresa confiável o suficiente para domesticá-la. (Qual investidor não gostaria de participar disso?)

O fascínio e o mistério da inteligência artificial

Tomemos outro exemplo. No ano passado, Chris Olah, outro cofundador da Anthropic, foi convidado para discursar no Vaticano, onde disse ao Papa Leão XIV e a outros estudiosos e autoridades religiosas o que sua empresa estava aprendendo sobre sua tecnologia. “I will be honest: We keep finding things that are mysterious, even unsettling”, afirmou ele. “We find evidence of introspection. We find internal states that functionally mirror joy, satisfaction, fear, grief, and unease.”

Não importa que muitos pesquisadores zombem de uma sugestão tão aberta de que o software da Anthropic possui uma experiência interior semelhante à humana. Quando tão pouco parece certo, o que a Anthropic (e suas concorrentes de ponta em IA) dizem é agarrado e retido como pedaços de um navio afundando.

Não estou dizendo que eles estejam necessariamente errados sobre tudo isso. (Isso fica para outro dia.) Mas, em um mundo onde ninguém sabe o que está por vir, empresas como a Anthropic acabam preenchendo esse vácuo.

Vale a pena parar por um momento e perguntar: o que é a Anthropic? Pode parecer uma pergunta inicial de um programa de auditório familiar, mas é muito mais difícil de responder do que você imagina.

A questão está na minha mente desde que li uma troca de mensagens na rede social X na semana passada, iniciada por Nathan Calvin, diretor de estratégia da Encode AI, uma organização sediada em Washington, D.C., que defende a regulamentação. Calvin estava descontente com a legislação proposta pela Anthropic em um projeto de lei preliminar que ela circulou em segredo para legisladores dos EUA (e que acabou vazando).

A Anthropic quer ser vista como a boa da fita, disse Calvin. Mas por que deveríamos confiar nela? “What is Anthropic?”, questionou ele.

Múltiplas faces de uma gigante

Aqui está uma resposta: a Anthropic é uma empresa cujo IPO a avalia em mais de US$ 1,5 trilhão, gerando uma riqueza imensa para seus cofundadores, incluindo Clark e Olah.

Mas a companhia sempre insistiu que é mais do que isso. Como Calvin observou: a Anthropic também pode ser considerada uma organização de segurança em IA focada em desenvolver tecnologia poderosa que seja confiável e (quase) isenta de riscos. Ou pode ser vista como um grupo de pessoas obcecadas em criar uma tecnologia com capacidades sobre-humanas antes de qualquer outra pessoa — talvez porque acreditem ser os mais responsáveis para fazê-lo, ou talvez por causa de seus egos.

De fato, a Anthropic é todas essas coisas. Como o CEO Dario Amodei colocou em uma resposta à postagem de Calvin: “Our strategy has always been what I’ve called the ‘race to the top’—by showing how it’s possible to build the technology responsibly, we can raise the bar for the entire industry. The forces that drive the race to the top are hugely more effective if the company practicing them is at the frontier; that’s one lesson I’ve learned repeatedly. And looking at that strategy as a whole, I’m proud of our track record and stand by it.”

Amodei faz parecer que tem tudo sob controle, mas desempenhar múltiplos papéis é difícil. Existem imensas tensões entre as prioridades de uma organização de segurança de IA e de uma megacorporação movida a lucro, por exemplo. (Amodei admite em sua postagem que cometeu erros.)

Em última análise, as histórias que a Anthropic conta a si mesma deveriam nos ajudar a entender as histórias que ela conta para nós. Elas deveriam nos ajudar a descobrir o quanto devemos confiar em sua autorregulação ou se deveríamos forçá-la a dar acesso a testadores externos de segurança aos seus modelos em nossos termos, e não nos deles. Elas deveriam nos ajudar a dar o benefício da dúvida (ou não) quando o que parece ser uma legislação egoísta vem à tona.

Mas acredito que essas histórias revelam uma hidra de muitas cabeças. A Anthropic é muitas coisas para muitas pessoas, e não tenho certeza se isso a torna mais confiável. Em muitos aspectos, uma boa e velha empresa de tecnologia — sem a atuação de papéis de ficção científica, sem o misticismo — seria muito mais fácil de decifrar.