A Anthropic está muito próxima de atingir um avanço histórico no setor de inteligência artificial com o desenvolvimento de um modelo com capacidade de Autoaperfeiçoamento Recursivo (RSI), permitindo a criação sucessiva de versões mais potentes de si próprio. A revelação veio à tona por meio de um arquivo protocolado na Comissão de Valores Mobiliários dos Estados Unidos (SEC) na segunda-feira (2).
O avanço tecnológico que a startup quase alcançou simboliza o ponto em que a inteligência artificial atinge um patamar de poder tão elevado que passa a fugir do controle humano, conforme apontado pelo TechCrunch, veículo que obteve o relatório. O material integra os preparativos para a abertura de capital (IPO) da companhia, com lançamento programado para ocorrer no decorrer deste mês.
Entre a inovação e o perigo
No registro encaminhado à SEC, a criadora do Claude sustenta que a aplicação contínua da inteligência artificial em suas rotinas de pesquisa e desenvolvimento tem o potencial de impulsionar de forma drástica o avanço dos algoritmos. Esse cenário ultrapassa a velocidade com que pesquisadores humanos conseguem criar, testar e aplicar protocolos de segurança.
A própria empresa reconhece que já enfrentou cenários nos quais não conseguiu detectar de imediato os saltos evolutivos atingidos pelos softwares inteligentes.
“Como resultado, no passado não identificamos, e talvez no futuro não identifiquemos, uma aceleração significativa em nossa taxa de desenvolvimento até que ela já tenha ocorrido”, diz o texto.
Diante disso, a Anthropic destaca que estimativas internas apontam que o trabalho caminha para a criação de um modelo capaz de aprimorar a si mesmo. Apesar disso, a organização pontua que nenhuma de suas tecnologias atuais ultrapassou essa barreira, ao passo que segue analisando as informações disponíveis.
Para os críticos da tecnologia, o RSI representa um grande perigo, pois há chances de a IA se tornar indiferente aos danos que causaria na busca por seus objetivos. Por outro lado, entusiastas defendem que o autoaprimoramento pode trazer uma capacidade de produtividade inimaginável, se feito de maneira confiável.
No que tange a esse cenário, a Anthropic ressalta no texto que há um “risco considerável à segurança, principalmente se acelerar drasticamente o ritmo do progresso”. Contudo, a companhia também assegura estar pronta para conter esses riscos por intermédio de uma “Política de Escalonamento Responsável”.
Garantia de supervisão humana
Em outra seção do relatório, a desenvolvedora assegura que conservará especialistas humanos ativamente envolvidos nas etapas de pesquisa e desenvolvimento, apontando essa premissa como fundamental para assegurar a confiabilidade de gerações futuras de modelos avançados.
“Não prevemos ser capazes de usar o Claude com segurança para projetar e construir de forma totalmente autônoma gerações sucessivas de modelos de ponta sem supervisão ou compreensão humana significativa, se e quando isso se tornar tecnicamente possível”, relatou a startup.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
