Como identificar se uma gravação de voz foi feita por inteligência artificial

Com apenas alguns segundos de áudio e alguns cliques, ferramentas modernas conseguem clonar vozes com tamanha precisão que apenas especialistas conseguem reconhecer a fraude. O avanço tecnológico democratizou o processo, que passou de altamente técnico para acessível ao público geral da noite para o dia, atraindo inclusive a atenção de golpistas. Recentemente, criminosos usando uma voz clonada persuadiram um grande banco privado italiano a transferir cerca de € 95 milhões (aproximadamente $ 105 milhões) para o exterior.

O desafio de identificar fraudes é que nossos ouvidos costumam falhar ao distinguir registros reais e clonados. Em uma pesquisa conduzida por pesquisadores, mais de 600 ouvintes tentaram identificar vozes geradas artificialmente com 60% de sucesso. No entanto, quando testados lado a lado, eles julgaram o clone e o locutor real como sendo a mesma pessoa em cerca de 80% das vezes.

Mudanças nas técnicas de clonagem e ferramentas de detecção

Antigamente, as vozes clonadas podiam ser descobertas analisando respirações, pausas e hesitações, parecendo polidas demais. Hoje, esses elementos são inseridos de propósito para disfarçar a fraude. Como alternativa, cientistas treinam modelos de inteligência artificial para flagrar clones por meio de medições na própria onda sonora, utilizando uma técnica conhecida como áudio forense.

Variações minúsculas no comprimento dos ciclos vocais, conhecidas como “jitter”, e na altura de seus picos, chamadas de “shimmer”, ajudam a determinar se a fala é sintética. Contudo, nenhum indicador sozinho consegue comprovar a fraude. Ferramentas de IA podem ser ajustadas para identificar assinaturas de plataformas específicas, mas essa capacidade “muitas vezes não se transfere bem para outros provedores”, aponta a pesquisadora Sarah Barrington. O cenário fica ainda mais complexo em chamadas telefônicas, que degradam detalhes forenses importantes do som.

O papel das marcas d’água invisíveis

Atualmente, uma das alternativas mais promissoras reside na própria tecnologia de clonagem. Algumas empresas que desenvolvem ferramentas de áudio em inteligência artificial inserem uma marca d’água inaudível nas gravações. Embora possam ser apagadas caso alguém altere profundamente o arquivo, as marcas d’água funcionam como uma barreira inicial eficiente. Para os casos restantes, as técnicas de áudio forense precisarão evoluir na mesma velocidade que os geradores de voz.