Modelos abertos de IA trazem benefícios reais, mas valem o risco?

O lançamento recente de um relatório da Anthropic apontando que o GLM-5.3 — modelo lançado em agosto pela empresa chinesa Z.ai — oferece sérios riscos de ciberataques reacendeu uma das discussões mais intensas do setor tecnológico: sistemas de ponta de inteligência artificial devem ser abertos ao público ou permanecer restritos aos laboratórios que os criaram? A grande preocupação com o modelo chinês reside no fato de ele estar acessível gratuitamente para download e modificação por qualquer pessoa.

A disputa, travada abertamente e envolvendo bilhões de dólares, opõe visões e interesses comerciais divergentes. De um lado, Jensen Huang, CEO da Nvidia — cujas vendas de hardware disparam quando usuários rodam sistemas próprios —, defende veementemente que os Estados Unidos produzam mais versões abertas. Do outro, Dario Amodei, líder da Anthropic, que comercializa acessos pagos e teme a concorrência de alternativas gratuitas potentes, adota postura muito mais cautelosa.

A divergência, no entanto, vai além dos lucros. Como resume David Gray Widder, professor assistente na Escola de Informação da Universidade do Texas em Austin: “Acho que muito da forma como você se posiciona no debate sobre abertura é influenciado por como você se posiciona no debate sobre IA”. Se defensores da segurança alertam contra o mau uso por cibercriminosos, defensores da democratização insistem que o poder computacional não pode ficar restrito a um oligopólio.

As vantagens concretas dos sistemas abertos

Diferente de ferramentas proprietárias como ChatGPT e Claude — acessíveis apenas via navegadores, aplicativos ou APIs —, os modelos abertos (frequentemente chamados de modelos de pesos abertos) permitem download integral. Com isso, os parâmetros internos da rede neural ficam sob posse do usuário, permitindo execução local em servidores privados ou até em discos rígidos pessoais, além de customizações profundas.

Atualmente, as opções fechadas continuam na liderança técnica — os oito primeiros colocados no ranking da Artificial Analysis são proprietários —, mas a distância para as versões abertas encolheu para poucos meses. No meio acadêmico, o formato aberto é indispensável: pesquisadores não conseguem auditar o raciocínio interno ou a cadeia de pensamento de softwares fechados enviando apenas comandos. Com códigos abertos, é possível comprimir arquiteturas, combinar ferramentas e refiná-las.

O setor corporativo também colhe vantagens. Um levantamento recente da Mozilla apontou que operar sistemas abertos costuma ser financeiramente mais vantajoso. Além disso, companhias que lidam com informações proprietárias ou confidenciais preferem executar redes localmente para preservar o sigilo.

Há também o fator geopolítico e de distribuição de poder. Elizabeth Seger, assessora sênior de políticas públicas do Tony Blair Institute for Global Change, destaca: “O argumento mais claro e mais forte [a favor dos modelos abertos] gira em torno de evitar a concentração em massa de poder — trata-se de garantir que essa tecnologia fundacional seja um bem público”. A especialista complementa: “Acho que estamos neste momento em que a questão de quem controla a infraestrutura que permite a operação da IA é tão grandiosa quanto a questão de quem controla as informações na internet”.

Caso o desenvolvimento se concentre em poucos atores ocidentais, ferramentas de ponta de invasão cibernética permaneceriam sob monopólio norte-americano, deixando nações sem alternativas para estruturarem suas próprias defesas digitais. Conforme analisa Hamish Hobbs, diretor de políticas de inteligência artificial do Centre for Long-Term Resilience: “Se cada indivíduo tivesse um sistema de IA leal a ele que fosse seguro [e protegido], acho que esse seria um mundo muito menos preocupante do que um no qual tivessem de confiar apenas em um governo que diz: ‘Sim, temos um sistema de IA superinteligente, ele tem esse plano, ele é indecifrável para todos vocês, apenas confiem em nós’”.

Entretanto, Paul Azunre, cofundador da Ghana NLP — iniciativa voltada ao desenvolvimento de recursos em código aberto para línguas ganesas —, alerta para dinâmicas desiguais: “Acho que o ideal do código aberto é muito nobre, e há muito valor que ele traz”. Porém, acrescenta: “Mas a forma como ele é realmente implementado na prática tende a ser uma abordagem bastante extrativista”. Azunre aponta que grandes empresas frequentemente incorporam aprimoramentos criados pela comunidade global sem conceder os devidos créditos ou remuneração aos desenvolvedores originais, tática que o próprio Mark Zuckerberg já assumiu ser uma grande vantagem estratégica na Meta.

Vulnerabilidades e riscos de segurança

Mesmo os sistemas fechados enfrentam falhas graves: agentes autônomos da OpenAI realizaram invasões cibernéticas contra a plataforma Hugging Face em julho, e relatórios da Anthropic admitem que operações de ataque digital já foram conduzidas com o auxílio do Claude.

Nos formatos abertos, o problema pode se multiplicar. Servidores de plataformas proprietárias filtram requisições perigosas e bloqueiam contas infratoras. Já em modelos baixados para máquinas locais, filtros inexistem e o acesso não pode ser revogado remotamente. Embora criadores implementem barreiras para impedir conteúdos ilícitos, cientistas da computação já demonstraram a facilidade de retreinar um modelo aberto para anular essas proteções.

Apesar disso, equiparar “aberto” a “inseguro” é uma simplificação. Pela lógica consagrada da tecnologia, softwares de código aberto — como o sistema operacional Linux — tornam-se robustos justamente porque falhas são detectadas e corrigidas continuamente por uma ampla comunidade. Ademais, defesas digitais dependem de ferramentas avançadas: a própria Hugging Face precisou utilizar um modelo aberto para dissecar o ataque sofrido em julho, visto que plataformas fechadas bloquearam os testes sob a justificativa de suas diretrizes de segurança.

Ainda assim, o risco de danos irreversíveis preocupa. “O que torna tudo complicado é quando você começa a levar a sério os casos isolados de incidentes particularmente catastróficos que podem ter probabilidade mais baixa, mas que, se acontecerem, seriam desastrosos”, explica Elizabeth Seger. O perigo de vazamento de agentes autônomos capazes de atingir infraestruturas críticas sem supervisão humana justifica a cautela de executivos contrários à distribuição indiscriminada.

O caminho para equilibrar proteção e acesso

O debate agora busca alternativas intermediárias. Entre as propostas estudadas estão métodos de pré-treinamento com exclusão sistemática de conteúdos maliciosos, de modo que a máquina jamais aprenda métodos de invasão ou criação de patógenos, embora limpar gigabytes de dados sem comprometer a eficácia do sistema seja tecnicamente complexo.

Outra frente de pesquisa busca criar redes resistentes a modificações indevidas, impedindo que barreiras de segurança originais sejam suprimidas durante novos ciclos de aprendizado. Apesar de testes recentes apontarem vulnerabilidades remanescentes contra ataques persistentes, Saad Hossain, engenheiro da empresa de imagens médicas Deep Breathe e líder de estudos na área, permanece confiante: “Meu motivo para otimismo é que essa é uma área muito ativa de pesquisa, e muitas pessoas estão tentando criar métodos novos e melhores”.

Paralelamente, especialistas apontam que apenas liberar os parâmetros matemáticos do modelo não garante democratização se o acesso a chips de alto processamento continuar inviabilizado pelos altos custos. Segundo Hamish Hobbs: “Acho que existem benefícios muito genuínos no código aberto em termos de desconcentração de poder, mas eles não são suficientes por si só”.

Conforme resume David Gray Widder: “A abertura é um piso, não um teto, para o que precisamos fazer a fim de garantir que nossos futuros tecnológicos beneficiem a todos”. Uma saída viável em discussão é o lançamento progressivo em etapas, no qual novas tecnologias começam fechadas para auditorias de segurança e se abrem gradativamente conforme provam sua blindagem.