Substituto de Nancy Pelosi assume cargo e quer regular a inteligência artificial

Enquanto atuava como senador estadual na Califórnia, Scott Wiener redigiu propostas focadas em mitigar os perigos da inteligência artificial avançada. Agora, após triunfar em uma disputa eleitoral acirrada pela vaga que pertencia a Nancy Pelosi, ex-presidente da Câmara dos Representantes, em São Francisco, ele desponta como uma figura central na definição das diretrizes federais para o setor tecnológico.

O diálogo com o parlamentar ocorreu nesta sexta-feira, apenas algumas horas após a confirmação de sua vitória nas urnas. Mesmo com o resultado recente, os riscos associados à tecnologia já ocupavam o centro de suas preocupações. No dia anterior, a organização sem fins lucrativos voltada para IA, METR, publicou um relatório amplamente interpretado como um indicativo de que a Anthropic havia alcançado a auto-aperfeiçoamento recursivo. Trata-se de um cenário em que a inteligência artificial contribui ativamente para o seu próprio desenvolvimento, gerando a possibilidade de que o avanço tecnológico escape ao controle humano.

“It’s very concerning”, declarou Wiener, apontando o documento como um sinal de que o tempo disponível para impor regulamentações está se esgotando rapidamente. “It was my hope that Congress would take decisive action before [the end of] this year”, afirmou ele. “That does not appear to be happening.”

Ao longo dos últimos anos, a atenção de Wiener voltou-se intensamente para a tecnologia, absorvendo os principais argumentos do movimento de segurança em IA. Durante a entrevista de 20 minutos, o termo “auto-aperfeiçoamento recursivo” foi mencionado meia dúzia de vezes. “We need to slow this down”, destacou. “Because it’s moving very quickly, and we could sleepwalk into a disaster.”

O histórico legislativo na Califórnia

Wiener já exerceu impacto real sobre as políticas públicas do setor. O projeto de lei SB 1047, de sua autoria em 2024, estava prestes a se tornar a primeira legislação pioneira sobre IA de fronteira no país, antes de ser vetado pelo governador da Califórnia, Gavin Newsom. Na sequência, ele patrocinou o projeto SB 53, uma alternativa mais branda que acabou sancionada por Newsom. Ambas as iniciativas serviram de inspiração para propostas apresentadas no âmbito federal.

A campanha congressional de Wiener recebeu mais de US$ 3 milhões do Public First Action, um grupo sem fins lucrativos favorável à regulamentação da IA e que conta com financiamento expressivo da Anthropic. O aporte gerou críticas de opositores, que o acusaram de manter laços excessivos com a indústria tecnológica, algo que o político nega veementemente.

“Public First supported me because I was the first lawmaker in the country to introduce AI regulation and the first to pass it and get it implemented”, escreveu ele em mensagem enviada após a entrevista. “The attacks on me for [Public First’s] support were shockingly cynical—literally attacking a candidate who actually regulated AI over Big Tech’s objection and falsely claiming the candidate is somehow too close to Big Tech.”

Caso o Congresso decida formar um comitê seleto dedicado à inteligência artificial — hipótese debatida por democratas desde setembro —, Wiener manifestou forte interesse em integrar o grupo. Ele também demonstra entusiasmo em relação a diversas ideias regulatórias em circulação em Washington. “I think it’s really important to have a strong, empowered, nimble federal regulator”, pontuou, mencionando que o deputado Ro Khanna, seu colega democrata também californiano, apresentou um projeto para instituir um órgão regulador com essas características.

Além disso, o político enfatiza a relevância de salvaguardas para denunciantes, exigências de testes e auditorias, e a obrigatoriedade de mecanismos de interrupção de emergência (kill switch), defendendo que o Legislativo utilize suas prerrogativas de fiscalização para cobrar responsabilidade dos laboratórios de IA. “This is about the future of humanity, and we want to make sure that the public has a say and that the public knows what’s going on”, declarou.

Federalismo e os riscos existenciais

Como legislador estadual de longa data, ele se opõe a uma ampla preempção federal sobre as leis estaduais de IA, medida que algumas das propostas em análise no Congresso pretendem adotar. “States are, as Brandeis says, laboratories”, lembrou. “You want the states to be able to continue to be nimble in ways that Congress sometimes is not.”

Acima de tudo, o parlamentar deseja que o Congresso aprove diretrizes dotadas de real capacidade punitiva. “It’s critically important that when Congress acts, that we do so in a way that is truly meaningful and that meets the moment”, afirmou. Isso implica encarar com seriedade a eventualidade de uma catástrofe tecnológica, tema que ele aborda recorrendo ao vocabulário típico de especialistas em segurança de IA. “We’re in a moment that is very dangerous in terms of the risk of loss of control over AI”, avaliou. “We need to deal with recursive self-improvement. Once you’re in that realm, that really is potentially a recipe for total loss of control.”

Na empreitada contra os riscos catastróficos associados à tecnologia, ele contará com alguns aliados. O senador Bernie Sanders, por exemplo, reuniu-se com figuras de proa do movimento de segurança em IA e tem abordado reiteradamente o tema dos riscos existenciais.

Apesar disso, permanece um abismo entre a perspectiva do Vale do Silício adotada por Wiener e o sentimento nacional, que tende a concentrar oposição na instalação de data centers. Embora os eleitores tenham aprovado 40 das 41 medidas locais contra data centers em uma votação recente, o congressista interpreta esse fenômeno de forma distinta, vinculando-o a questões locais imediatas e não a debates amplos sobre os perigos da IA.

“People who are really opposed to where AI is going—this is an area where they can actually do something about it”, explicou. “But the data center revolt—to me, I think it’s more so that people are upset that there could be something like this in their community, with all the impacts near people’s homes, driving up electric bills and using water. I think that’s the bigger issue for most people, from what I can tell.”

Ao avaliar a capacidade do Congresso de controlar o setor, Wiener adota um tom de cautela. Ele define sua expectativa apenas como “cautiously optimistic”, tendo em vista o histórico fraco do legislativo na regulação de empresas de tecnologia. Outro ponto de apreensão envolve a possibilidade de aprovar leis sob a administração do presidente Donald Trump, que em setembro classificou os riscos existenciais da IA como um “hoax” e tem demonstrado resistência à cooperação com a China, apontada por Wiener como indispensável para mitigar os piores desdobramentos tecnológicos.

Ainda assim, o parlamentar enxerga na imprevisibilidade de Trump uma tênue fonte de expectativa. “So far what we’ve seen are some problematic things, but not complete disasters”, concluiu. “I hope that it doesn’t take a disaster to spur the president into acting. And I hope if that’s what it does take—which, like I said, I hope it doesn’t—but if it does, I hope it’s as small as possible.”