A Anthropic está desenvolvendo seus modelos de inteligência artificial cerca de duas vezes mais rápido do que conseguia fazer há um ano, com a ajuda dos próprios sistemas inteligentes para alcançar esta aceleração. É o que sugere um estudo da organização sem fins lucrativos Model Evaluation and Threat Research (METR) divulgado na semana passada.
De acordo com a pesquisa, as pontuações de benchmark analisadas mostram que a dona do chatbot Claude “fez o equivalente a dois anos de progresso histórico no último ano” graças não só ao aumento do poder computacional de seus sistemas. O principal impulsionador desse avanço seria a contribuição da IA no desenvolvimento das próximas gerações de modelos.
IA autônoma ainda não assumiu totalmente o trabalho
O relatório da METR traz evidências claras de que a IA está acelerando o seu próprio desenvolvimento, levantando dúvidas sobre a chegada do momento em que a tecnologia será capaz de se aprimorar sozinha ou com pouca intervenção humana. A startup, inclusive, abordou o assunto em um documento de preparação para a abertura de capital.
No entanto, a investigação ressalta que a aceleração detectada parece vir da IA trabalhando em conjunto com os humanos; entrevistas com funcionários da Anthropic e pesquisas informais no Slack apontaram que eles obtiveram ganhos consideráveis com esse auxílio; alguns afirmaram ter se tornado 12 vezes mais produtivos no trabalho que seriam sem a ajuda da tecnologia; o resultado representa o dobro do que foi registrado alguns meses antes, quando a equipe utilizava o modelo Mythos 5 em suas pesquisas.
Porém, o estudo não revelou quais são as IAs internas utilizadas pela equipe que contribuíram para a aceleração e os ganhos de produtividade. O levantamento menciona três modelos ainda não lançados que concluíram o treinamento nos últimos seis meses e são chamados pelos codinomes “Model 2”, “Model 3” e “Model 4”.
Outra observação feita pela METR é que o cenário relacionado às IAs autônomas não deve demorar a mudar. Indícios encontrados pelo estudo sugerem que as tecnologias capazes de trabalhar com pouca ou nenhuma intervenção humana terão um “papel maior em breve” no desenvolvimento de versões otimizadas.
Informações censuradas
Mesmo com a entidade tendo acesso amplo aos dados internos, a startup solicitou a remoção de informações consideradas confidenciais, incluindo algumas que sustentariam as conclusões da pesquisa. A justificativa foi que a divulgação favoreceria seus concorrentes.
Segundo Sam McCandlish, cofundador da Anthropic, “compartilhar exatamente o que está impulsionando o aumento de velocidade não é a coisa certa a fazer, tanto por ser comercialmente sensível quanto pelo risco de fornecer um roteiro para que outros acelerem o processo”. O pronunciamento foi divulgado pelo executivo no X.
O relatório gerou repercussão negativa entre pesquisadores da área. Os críticos argumentam que a empresa é uma das principais defensoras da desaceleração da IA, mas ao mesmo tempo ajuda a tornar os avanços de algo que ela considera perigoso mais rápidos, além de descumprir seus compromissos com a transparência.
Esta semana, a startup lançou as versões mais recentes dos modelos Fable e Mythos. Confira os detalhes nesta matéria.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
