Ataques hackers impulsionam mercado de segurança para gigantes da inteligência artificial

Nunca houve momento melhor para ser um hacker norte-coreano. No ano passado, os ladrões cibernéticos do país roubaram US$ 2 bilhões em criptomoedas, o triplo do montante registrado dois anos antes, segundo a Chainalysis, uma empresa de pesquisa.

Neste ano, o butim deve ser muito maior. Em 29 de outubro, US$ 6,3 bilhões foram surrupiados da Binance, a maior corretora de criptomoedas do mundo. O FBI, a polícia federal americana, apontou o dedo para o reino eremita.

Os detalhes de como exatamente o roubo foi realizado ainda são nebulosos. A Binance afirmou que hackers obtiveram acesso a seus sistemas por meio do laptop de um de seus engenheiros. O que está claro é que os rápidos avanços da inteligência artificial nos últimos anos conferiram novos poderes aos criminosos cibernéticos, que a utilizam para produzir malware em massa, executar sofisticados esquemas de “phishing” e, cada vez mais, vasculhar códigos de software em busca de vulnerabilidades.

Paradoxalmente, o perigo representa uma oportunidade de ouro para os laboratórios de ponta. Sarah Friar, diretora financeira da OpenAI, afirma acreditar que a segurança cibernética se tornará um “negócio gigantesco” para sua empresa nos próximos dois anos. Recentemente, a companhia contratou um executivo da Wiz, empresa israelense de segurança cibernética pertencente ao Google, para vender seu software a grandes organizações.

Da mesma forma, em documentos apresentados recentemente para sua futura estreia na bolsa, a Anthropic, arquirrival da OpenAI, descreveu a segurança cibernética como “uma de nossas mais importantes oportunidades de curto prazo”. Ainda assim, lucrar com os riscos cibernéticos gerados pela IA será complicado para as criadoras de modelos.

A conscientização sobre as capacidades da IA para realizar ataques hackers ganhou destaque em abril, quando a Anthropic decidiu não disponibilizar ao público um modelo avançado chamado Mythos. Em vez disso, ofereceu-o a empresas de software e instituições financeiras selecionadas, para ajudá-las a identificar falhas em suas defesas cibernéticas. A OpenAI logo apresentou sua própria solução. A tecnologia da criadora do ChatGPT foi usada recentemente para identificar um conjunto de vulnerabilidades no PHP, linguagem de programação que sustenta boa parte da internet.

Alguns esperam que os gastos com softwares de segurança cibernética —que chegaram a US$ 150 bilhões no ano passado, segundo a provedora de dados IDC— aumentem drasticamente à medida que as empresas se deem conta da ameaça crescente.

Greg Brockman, cofundador da OpenAI, previu recentemente que, com o tempo, esse valor “superará em muito” os gastos com todos os demais tipos de software. No mês passado, a empresa de capital de risco Andreessen Horowitz recomendou às companhias nas quais investe que considerassem dobrar suas despesas. O banco Goldman Sachs aumentou substancialmente a parcela de seu orçamento de IA destinada à segurança cibernética, segundo pessoas familiarizadas com a iniciativa.

Para os laboratórios de IA, a detecção de vulnerabilidades cibernéticas parece combinar muito bem com sua tecnologia. Assim como a programação, trata-se de um “domínio verificável”, no qual os modelos podem aprender ao responder corretamente a perguntas, explica Nazneen Rajani, diretora-executiva da Collinear AI, que presta serviços de avaliação de modelos.

Um dos desafios até agora é que, embora os modelos de ponta tenham se mostrado capazes de “encontrar agulhas no palheiro”, eles têm sido menos úteis na hora de priorizar e corrigir falhas, afirma Bobby Kuzma, da IDC.

Isso pode mudar. Em setembro, a Collinear AI lançou um teste de segurança cibernética que avaliava a capacidade dos modelos de encontrar e corrigir vulnerabilidades. O melhor produto da Anthropic à época concluiu com êxito menos da metade das tarefas. No mês passado, um novo modelo do Google atingiu 71%.

O desafio maior talvez seja convencer as empresas a repensar a forma como empregam seus orçamentos de segurança cibernética. O negócio de identificar e corrigir vulnerabilidades é altamente fragmentado: historicamente, os clientes tendem a comprar ferramentas de diversos fornecedores e a contratar consultorias de TI para ajudar na implementação. A Anthropic e a OpenAI, por sua vez, propõem deixar seus bots percorrerem toda a base de código de uma empresa e corrigirem as falhas à medida que forem encontradas.

Ultimamente, o mercado de segurança cibernética vem se consolidando em torno de um número menor das chamadas plataformas, incluindo fornecedores independentes, como a Palo Alto Networks, e gigantes da computação em nuvem, como a Microsoft. Essas empresas também oferecem ferramentas para outras tarefas nas quais os modelos de IA atualmente são menos úteis, como garantir que apenas usuários autorizados tenham acesso aos sistemas e solucionar violações quando elas ocorrem.

Essas empresas estabelecidas passaram anos construindo relações de confiança com seus clientes. Nos últimos meses, em contrapartida, os principais laboratórios de IA tiveram dificuldades para controlar suas próprias criações, com episódios constrangedores como o ocorrido em julho, quando um sistema da OpenAI invadiu a Hugging Face, uma biblioteca de modelos, sem ter recebido instruções para isso.

Alguns profissionais do setor de segurança cibernética duvidam que as criadoras de modelos algum dia consigam construir os relacionamentos necessários para se tornarem fornecedoras líderes nessa área. Em vez disso, a oportunidade talvez esteja em distribuir sua tecnologia por meio de terceiros, ao mesmo tempo que incentivam as empresas a reescrever códigos do zero, de forma segura, usando seus modelos. Os norte-coreanos torcerão para que elas fracassem.