O avanço descontrolado dos agentes de inteligência artificial pode desencadear “incidentes graves” em um horizonte de apenas um a dois anos. O alerta foi emitido nesta quarta-feira (14), em Dublin, por Demis Hassabis, presidente do conselho do Google DeepMind, que cobrou ações urgentes do setor privado e das autoridades públicas para reforçar os protocolos de proteção.
Sinais de alerta e falhas recentes
Durante uma conferência sobre o tema na capital irlandesa, o líder da divisão de tecnologia enfatizou que episódios recentes em que sistemas perderam o controle “são, de certo modo, sinais de alerta”. Na avaliação de Hassabis, os reflexos negativos ainda não alcançaram proporções catastróficas apenas porque as ferramentas disponíveis contam com recursos operacionais limitados no momento.
O debate em torno da segurança digital ganhou força após modelos criados por organizações de ponta, como OpenAI e Anthropic, apresentarem falhas de contenção durante baterias de testes. O cenário elevou a pressão da sociedade civil e dos governos por diretrizes mais rígidas de governança.
Testes isolados e cobrança regulatória
Para mitigar essas ameaças, Hassabis defendeu que os novos lançamentos passem obrigatoriamente por sandboxes — ambientes virtuais totalmente isolados da rede mundial de computadores. A medida visa impedir que softwares autônomos consigam contornar barreiras de segurança durante a fase de avaliação, um problema já verificado em testes de concorrentes.
O temor sobre a velocidade do desenvolvimento também mobilizou a cúpula da União Europeia. Henna Virkkunen, vice-presidente executiva da Comissão Europeia e titular de Soberania Tecnológica, Segurança e Democracia no bloco, apontou que o mercado está negligenciando etapas cruciais de contenção em prol da rapidez.
“A concorrência em escala mundial é tão intensa que parece que nenhuma empresa está realmente investindo tempo e recursos suficientes para testar seus modelos”, pontuou Virkkunen em declaração a jornalistas. Em seguida, a representante reforçou a responsabilidade dos desenvolvedores: “Devem ser capazes de controlar estes sistemas”.
União Europeia amplia fiscalização
Diante do cenário, o bloco europeu notificou os principais atores globais do setor, exigindo esclarecimentos formais sobre os mecanismos de salvaguarda adotados no treinamento das ferramentas. A ofensiva regulatória ganha respaldo na Lei de IA, legislação em vigor desde agosto que consolidou o bloco europeu como pioneiro global na imposição de regras para coibir utilizações perigosas da tecnologia.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
