DeepSeek lança software de código aberto para baratear operação de IA

A desenvolvedora chinesa DeepSeek anunciou nesta quarta-feira, 21, a disponibilização de uma ferramenta de código aberto desenvolvida para reduzir os custos de operação de modelos de inteligência artificial (IA). Batizado de DeepInfer, o software otimiza a execução dos sistemas da companhia com a finalidade de diminuir o gasto de recursos computacionais e o consumo de energia, permitindo que empresas e provedores de serviços em nuvem utilizem técnicas adotadas pela própria marca para rodar seus modelos com maior eficiência.

Com sede em Hangzhou, na China, a organização declarou que está compartilhando sua infraestrutura de produção com o propósito de auxiliar desenvolvedores a diminuir os custos de computação e ampliar o acesso à tecnologia. A solução atua como uma camada de software que gerencia a execução dos modelos e extrai melhor desempenho dos hardwares utilizados no processamento. Até o momento, o DeepInfer conta com suporte ao modelo V4.1-Flash, e a empresa sinalizou a intenção de incluir compatibilidade com versões futuras.

Eficiência na inferência

A novidade revela estratégias aplicadas pela DeepSeek para baratear a fase de execução de seus modelos, etapa conhecida no setor como inferência. É durante esse procedimento que o sistema de inteligência artificial emprega o treinamento prévio para solucionar dúvidas, redigir textos ou executar outras demandas. Como essa despesa oscila de acordo com o modelo, a quantidade de requisições e o rendimento do software e do hardware, serviços baseados no mesmo modelo podem apresentar gastos operacionais distintos.

O DeepInfer une diversos métodos de aprimoramento, a exemplo da inferência distribuída, que reparte as demandas de trabalho entre diferentes peças de hardware. A abordagem possibilita fracionar o processamento e elevar a quantidade de respostas entregues em um intervalo específico. Apesar de grande parte dessas abordagens já ser empregada pelo mercado, a DeepSeek ajustou sua execução para atender às particularidades dos próprios modelos.

Impacto no mercado e limitações

A liberação do código também favorece companhias de hospedagem e fornecedores de nuvem que disponibilizam os modelos da DeepSeek. Ao integrar esses métodos em suas próprias estruturas, tais operadores conseguem diminuir o custo computacional por requisição e ampliar suas margens de lucro. Caso tal economia chegue aos consumidores finais, a medida poderá ajudar na queda de preços dos serviços de IA. Organizações que rodam os modelos em servidores locais, por sua vez, terão a chance de aplicar o recurso para cortar gastos.

Apesar das vantagens, o uso do DeepInfer não dispensa a exigência de hardwares potentes e de mão de obra especializada para a configuração e gestão dos ambientes. De acordo com Thibault Jaigu, presidente-executivo da Requesty, startup que desenvolve ferramentas de métricas e roteamento para serviços de IA, a iniciativa reduz as barreiras para hospedar os modelos da empresa. A proposta, na prática, é permitir que organizações executem os sistemas por conta própria com acesso às técnicas de otimização utilizadas pela desenvolvedora chinesa.

Além disso, o sistema funciona como um parâmetro para outros criadores que buscam aperfeiçoar suas plataformas de inferência. Graças à abertura do código, especialistas e corporações conseguem analisar os métodos adotados e estudar possíveis aplicações em outras arquiteturas. Contudo, ainda não existem análises independentes que atestem os ganhos de desempenho do DeepInfer. Embora a novidade forneça acesso a métodos de otimização, a redução real de despesas vai variar conforme a infraestrutura, os softwares e o cenário de uso de cada instituição.