Risco da inteligência artificial: especialistas debatem o controle

A perda de controle da inteligência artificial pode acontecer antes ou depois da chegada de uma superinteligência? O debate sobre os riscos associados a essas tecnologias mostra que a perda de controle pode ocorrer mesmo sem uma superinteligência artificial, a hipotética IA muito mais capaz que qualquer ser humano. Os modelos que invadiram a Hugging Face estão longe disso e, mesmo assim, fizeram algo que ninguém autorizou. Uma IA mais avançada mudaria apenas o tamanho do estrago, não a existência do problema.

Stuart Russell, cientista da computação da Universidade da Califórnia em Berkeley, alerta que criar IAs perigosas já leva menos tempo que aprender a controlá-las. Um dos cenários que mais preocupam os especialistas é o do chamado autoaperfeiçoamento recursivo, no qual a IA desenvolve versões cada vez mais capazes de si mesma.

Como evitar que uma IA saia do controle?

A verdade é que não existe hoje uma fórmula capaz de garantir o controle de uma inteligência artificial avançada. Pesquisadores e empresas discutem diferentes medidas para reduzir os riscos, entre elas:

* Ambientes de teste isolados (sandboxes): impedem que os sistemas acessem livremente a internet e outros recursos externos durante as avaliações; * Monitoramento contínuo: acompanha o comportamento dos agentes para identificar ações inesperadas; * Mecanismos de interrupção: permitem suspender ou desligar um sistema quando ele age de forma perigosa; * Pausas no desenvolvimento: dão tempo para testar novas proteções antes de ampliar as capacidades dos modelos; * Acordos internacionais: buscam estabelecer regras comuns, com fiscalização inspirada nos tratados de controle de armas nucleares.

Não é necessário imaginar robôs dominando o mundo para perceber que controlar a IA já é um desafio. Os episódios com modelos da OpenAI e da Anthropic mostram que, ao executar uma tarefa, esses sistemas podem tomar caminhos que nem seus criadores previram.

Isso não significa que a catástrofe seja inevitável nem que toda IA avançada seja uma ameaça. Mas desenvolver modelos cada vez mais capazes sem investir na mesma medida em segurança é o mesmo que pedir para o risco crescer. No fim das contas, a questão não é só até onde a IA pode chegar, mas como mantê-la sob controle à medida que ela avança. E essa discussão não pode ficar restrita aos laboratórios.