O cientista-chefe da OpenAI propôs que as companhias de inteligência artificial concordem em impor limites ao desenvolvimento de modelos cada vez mais potentes até que os especialistas tenham métodos mais eficazes para compreender e acompanhar o seu comportamento. Em um texto divulgado no domingo, Jakub Pachocki defendeu a formulação de diretrizes setoriais que definam barreiras para a IA, fazendo com que as empresas se comprometam a não ultrapassá-las antes que critérios específicos de segurança sejam satisfeitos.
“Também proponho limites comuns, baseados em perplexidade e outras métricas, que os desenvolvedores se comprometam a não ultrapassar até que nossa capacidade de compreender e monitorar o comportamento da IA alcance um marco concreto”, escreveu Pachocki.
As restrições sugeridas poderiam ser estabelecidas, parcialmente, utilizando uma métrica técnica chamada perplexidade, que mede a eficácia com que um modelo de IA consegue prever o próximo segmento de texto. Contudo, Pachocki evitou detalhar qual seria o patamar inicial ou em que momento a medida passaria a valer.
O pesquisador também advertiu que a inteligência artificial pode impulsionar progressos em seu próprio ritmo já em 2027, correndo o risco de ultrapassar a habilidade dos cientistas de controlar e analisar a tecnologia.
O apoio à iniciativa veio do CEO da OpenAI, Sam Altman, que classificou o artigo de Pachocki como “a coisa mais importante que a OpenAI publicou em bastante tempo”. Por meio de uma postagem na rede X, Altman pontuou que o estabelecimento de barreiras compartilhadas contribuirá para assegurar “segurança e controle”.
Cenário regulatório e político
Essa movimentação ocorre em um cenário no qual os Estados Unidos se preparam para rediscussões sobre a regulamentação da inteligência artificial, impulsionadas por expressivos triunfos dos democratas nas eleições legislativas de meio de mandato. O crescimento da sigla na Câmara, no Senado e nas disputas para governos estaduais poderá gerar maior fiscalização do Congresso frente às corporações de tecnologia, além de novas tentativas para fixar normas de segurança voltadas à IA.
No âmbito legislativo, alguns parlamentares debatem a fundação de uma comissão exclusiva no Senado voltada à coordenação da política de inteligência artificial. Em contrapartida, o presidente Donald Trump manifestou oposição a grandes restrições no avanço tecnológico, cenário que pode culminar em conflitos com o futuro Congresso dominado pelos democratas acerca dos rumos da regulamentação da IA.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
