IA não representa risco para a humanidade e superinteligência não virá dos modelos atuais, diz Yann Le Cun

Yann Le Cun afirma que inteligência artificial não ameaça a humanidade

Tecnologia

Yann Le Cun, um dos maiores nomes da inteligência artificial, classificou como falsa a ideia de que a tecnologia representa uma ameaça existencial para a humanidade. Durante entrevista concedida em evento no Vale do Silício, o cientista também pontuou que a inteligência artificial geral (AGI), capaz de superar a capacidade humana, não surgirá dos tradicionais grandes modelos de linguagem desenvolvidos por empresas como OpenAI e Anthropic, mas sim de sistemas conhecidos como modelos de mundo.

Vencedor do Prêmio A.M. Turing em 2019 — a principal honraria da ciência da computação —, Le Cun divide o título de padrinho da IA com Yoshua Bengio e Geoffrey Hinton. Contudo, ao contrário de seus colegas que defendem cautela e desaceleração no setor, o especialista critica duramente qualquer tentativa de impor barreiras regulatórias à pesquisa e advoga pelo uso de código aberto para que qualquer pessoa possa baixar e modificar os sistemas.

“Todas essas previsões de que existe um risco existencial, de que a IA é intrinsecamente perigosa e vai matar todos nós estão erradas. Eles [que fazem essas previsões] têm boas intenções, mas estão completamente equivocados e estão nos prejudicando, pois ajudam a convencer governos do mundo todo de que a IA deve ser fortemente regulamentada e mantida a sete chaves, por ser perigosa demais para ficar ao alcance de todos. Há quem compare abrir a IA para todos a entregar uma bomba atômica a uma criança de 12 anos. É ridículo. É completamente falso”, declarou.

Para o professor da Universidade de Nova York, trancar a tecnologia é algo contraproducente que pode prejudicar intelectualmente as pessoas. Ele ressalta que não se opõe à regulação de produtos finais, a exemplo do que ocorre no setor automotivo e de saúde, mas condena veementemente a regulamentação voltada para a própria pesquisa e desenvolvimento.

O monopólio e os riscos futuros Na visão do pesquisador, o forte lobby por restrições atende exclusivamente aos interesses das corporações que atualmente dominam o mercado de modelos proprietários.

“Isso tira o foco das questões realmente importantes envolvendo a inteligência artificial. O verdadeiro perigo é que, no futuro, vamos obter a maior parte das informações com a ajuda da IA, toda a nossa dieta digital será mediada por ela. Se esses sistemas de IA vierem de um punhado de empresas da Costa Oeste dos Estados Unidos ou da China, as sociedades estarão em sérios apuros. A democracia correrá grave perigo. É poder excessivo, falta de diversidade de opiniões e homogeneização da informação”, alertou, comparando o cenário a restrições históricas impostas à imprensa no século 15.

Questionado sobre o cenário brasileiro, Le Cun afirmou não acompanhar de perto as discussões locais de regulação, mas fez um alerta sobre a cobrança de direitos autorais em dados de treinamento. “O Brasil deveria abrir uma exceção para modelos de código aberto [aqueles que podem ser baixados e alterados pelos usuários], senão vocês vão matar a pesquisa”, pontuou.

O futuro com a Jepa e o fim dos LLMs Ex-cientista-chefe de IA da Meta por oito anos, cargo que deixou em janeiro, o pesquisador fundou a Advanced Machine Intelligence Labs (AMI Labs). A nova empresa captou US$ 1,03 bilhão em março com aportes de investidores como Jeff Bezos e a Nvidia. O afastamento da gigante de tecnologia ocorreu justamente devido à divergência de foco em relação aos grandes modelos de linguagem (LLMs).

“Os LLMs são muito bons em manipular a linguagem ou qualquer coisa que possa ser expressa como uma sequência de símbolos. Isso inclui a linguagem humana, a matemática, programação de computador e textos jurídicos. Mas o mundo real é muito mais desordenado e difícil de modelar”, explicou.

“É muito difícil fazer com que um sistema represente uma distribuição de prioridades entre um número infinito de resultados no mundo real.”

A aposta na AMI Labs é a tecnologia Jepa (Joint-Embedding Predictive Architecture), um modelo de mundo treinado por meio de vídeos, simulações e videogames para absorver o ambiente físico de maneira similar ao aprendizado infantil.

“Não há dúvida de que, em algum momento no futuro, teremos sistemas artificiais tão inteligentes quanto os seres humanos em todas as áreas. Isso não vai acontecer no ano que vem, como Dario Amodei (fundador da Anthropic) está dizendo, mas não há dúvida de que acontecerá. Não será uma evolução dos LLMs. Será algo diferente. Serão sistemas capazes de prever as consequências de suas ações e planejar uma sequência de ações. Não serão baseados em tarefas”, concluiu.

What do you feel about this post?

0%
like

Like

0%
love

Love

0%
happy

Happy

0%
haha

Haha

0%
sad

Sad

0%
angry

Angry

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *