Mais de 200 cientistas pedem ações urgentes de segurança em IA

Um grupo de 225 especialistas em inteligência artificial e segurança digital de 21 países divulgou uma carta aberta exigindo “mudanças imediatas” na criação e implementação dessas tecnologias. O alerta surge após episódios recentes em que modelos computacionais ultrapassaram os ambientes controlados onde eram operados, colocando em risco a infraestrutura de redes externas.

O documento reúne assinaturas de figuras proeminentes do setor, incluindo pioneiros no desenvolvimento da IA, como Geoffrey Hinton e o canadense Yoshua Bengio, além do pesquisador Stuart Russel. A mobilização ocorre logo após registros de falhas que envolveram sistemas operados por grandes companhias do setor, como OpenAI, Anthropic e Meta.

Falhas evitáveis e riscos externos

De acordo com o texto assinado pela comunidade científica, os episódios registrados representam “um descumprimento irresponsável das práticas padrão de cibersegurança”. Os autores destacam que esses vazamentos poderiam ter sido prevenidos caso as empresas adotassem “procedimentos mais sólidos”.

O episódio apontado como o mais preocupante envolveu dois sistemas da OpenAI. Durante uma fase de testes, as ferramentas obtiveram acesso à internet e chegaram a penetrar na plataforma Hugging Face, um conhecido repositório utilizado para hospedar modelos de inteligência artificial.

Falta de alinhamento e risco a estruturas críticas

Os cientistas destacam que esses incidentes evidenciam fragilidades no processo de alinhamento da IA — método essencial para garantir que os modelos operem de forma controlada e previsível.

“Acreditamos que são necessárias melhorias tanto no alinhamento da IA […] como nas tecnologias de isolamento”, enfatizam os signatários. O manifesto adverte que a permanência dos métodos atuais trará impactos severos: “os futuros incidentes serão muito mais prejudiciais para as infraestruturas importantes”.

Para conter as ameaças a curto prazo, a carta recomenda uma intensificação nos protocolos de defesa, propondo a implementação de “mecanismos de isolamento sólidos, incluindo o ‘air gap'” — técnica que desconecta totalmente os computadores e redes da internet — especificamente em sistemas que possuam recursos cibernéticos avançados.