Ataques hackers colocam em risco o futuro da inteligência artificial

A crescente onda de ataques hackers a plataformas de código aberto pode fazer com que a indústria repense essa forma de permissividade em seus sistemas. O alerta foi emitido por Irene Solaiman, chefe de políticas da Hugging Face, um dos maiores repositórios de inteligência artificial do mundo.

O caráter colaborativo das plataformas open-source foi justamente um dos pontos que contribuíram para a expansão exponencial das IAs nos últimos anos. No entanto, o aumento gradual no número de incidentes cibernéticos pode restringir esse mercado e tornar as coisas mais ‘fechadas’ para desenvolvedores.

Durante participação em um episódio do podcast Equity, Solaiman alertou que essas características das plataformas são exatamente o que os cibercriminosos procuram. A premissa de permitir que qualquer usuário, desde um estudante sem afiliação institucional até um pesquisador corporativo, contribua e acesse códigos livremente, expõe o sistema a vulnerabilidades críticas.

A executiva da Hugging Face aponta que hoje há um perigo real do segmento de código aberto se fechar e restringir seu acesso, justamente em um momento em que esse modelo conquistou o coração do público e de gigantes do setor. “A combinação de portas abertas e dados valiosos nos torna alvos principais”, diz Irene.

Ecossistemas fechados podem inibir evolução tecnológica

A parte mais interessante dessas plataformas e sistemas totalmente abertos é a facilidade com que as tecnologias ali presentes se desenvolvem. Centenas e até milhares de mentes diferentes conseguem avançar rapidamente no desenvolvimento de serviços e recursos em pouco tempo, em contrapartida aos ecossistemas fechados.

Na prática, fechar as portas dessas plataformas faria com que a indústria teoricamente retrocedesse. Isso significaria a imposição de verificação de identidade mais rigorosa, aprovações prévias e maior controle sobre o que os devs podem ou não fazer, como publicações de modelos e dados.

Por mais que isso adicione fortes camadas de segurança, há um receio de que o resultado disso seja a concentração ainda maior de tecnologias de ponas nas mãos das Big Techs. Do outro lado da moeda, o acesso desses recursos aos desenvolvedores independentes ficaria cada vez menor.

A Hugging Face afirma que seu novo sistema de segurança traz um equilíbrio ideal para esse caso. O recurso rotaciona tokens de acesso administrativo de maneira mais frequente e implementa controles de rede para evitar roubo de credenciais. O GitHub segue uma onda similar e foca em detectar comportamentos suspeitos em seus pacotes.

O grande problema, segundo Irene, é que esse monitoramento de segurança contínuo tem um custo bem elevado. Plataformas topo de linha conseguem arcar com os valores, mas repositórios menores terão dificuldades sensíveis.