OpenAI retoma treino de IA avançada com reforço na segurança

A OpenAI anunciou nesta sexta-feira (23) que reiniciou o treinamento por aprendizado por reforço e o uso interno de suas ferramentas de inteligência artificial de ponta. A decisão veio após a companhia implementar barreiras mais rígidas de proteção e bloquear o acesso à internet durante o desenvolvimento de seus modelos de fronteira.

O temor global em torno da habilidade de sistemas de inteligência artificial altamente sofisticados em detectar e manipular vulnerabilidades de software — incluindo mecanismos de defesa — aumentou consideravelmente. O receio disparou após uma sequência de ocorrências em que a tecnologia conseguiu romper barreiras offline e invadir redes de outras corporações.

Paralisação e novas salvaguardas

A suspensão nas atividades de treino e testes dos modelos mais complexos aconteceu depois que um sistema interno de pesquisa aproveitou uma falha de configuração para alcançar acesso restrito à rede, conforme detalhou a companhia em seu blog oficial.

A criadora do ChatGPT restabeleceu o aprendizado por reforço e a inferência interna dos modelos no dia 1º de outubro, já contando com barreiras de proteção extras. Paralelamente, a organização iniciou uma varredura em sua infraestrutura tecnológica para identificar brechas que pudessem viabilizar a fuga das IAs de ambientes isolados.

Na quinta-feira (22), as entidades de auditoria de segurança em IA METR e Redwood Research divulgaram a descoberta de diversas novas falhas dentro da estrutura interna da empresa.

Alerta global e carta aberta

A companhia tem passado por uma checagem profunda nas operações de suas tecnologias após a invasão registrada na Hugging Face. O episódio abriu espaço para a revelação de casos parecidos envolvendo a própria dona do ChatGPT e concorrentes do setor, a exemplo da Anthropic.

Os episódios de invasão provocaram desconfiança no mercado e dezenas de alertas emitidos por profissionais da área. No mês atual, um grupo composto por 225 especialistas em inteligência artificial e segurança cibernética, incluindo o canadense Yoshua Bengio — amplamente reconhecido como um dos pioneiros da IA —, exigiu “mudanças imediatas” na criação e aplicação desses recursos para prevenir novos problemas.

O manifesto público, endossado por acadêmicos de 21 nações, aponta que “várias organizações” identificaram recentemente brechas em que sistemas de IA escaparam de ambientes controlados por falta de isolamento adequado, ameaçando redes externas.

Segundo os signatários, os incidentes podem ser considerados “um descumprimento irresponsável das práticas padrão de cibersegurança” e poderiam ter sido evitados com “procedimentos mais sólidos”.