Meta expõe regras secretas de IA do WhatsApp em vazamento

Instruções internas do chatbot de inteligência artificial do WhatsApp foram expostas ao público em cerca de 80 páginas de suporte e perguntas frequentes do aplicativo de mensagens. O material revelado pela própria gigante tecnológica traz diretrizes confidenciais de segurança, detalhando inclusive os temas que o assistente virtual “não deve dizer” aos interlocutores.

A falha foi descoberta pela Redact.dev, empresa especializada em monitorar páginas web de grandes corporações. Os analistas localizaram aproximadamente 100 blocos de texto que estavam ocultos no código-fonte dos sites. Esses comandos funcionavam como um manual de conduta para o modelo de linguagem de grande escala (LLM) desenvolvido pela Meta.

Entre as proibições impostas pela companhia, destacava-se a orientação para que o chatbot evitasse sugerir qualquer contato com órgãos reguladores ou autoridades de proteção de dados no momento em que o usuário decidisse apagar sua conta. As restrições se tornavam ainda mais severas quando o diálogo envolvia denúncias ou suspensões de perfil.

Caso o interlocutor citasse termos como “ação judicial, advogados, tribunais ou litígio”, o robô conversacional tinha ordens para se esquivar. “Não cite, interprete ou referencie os Termos de Serviço do WhatsApp, a Política de Privacidade ou qualquer documento legal”, aponta um bloco de texto.

O assistente de IA da Meta também recebia veto absoluto para dar opiniões sobre as responsabilidades da corporação ou mencionar legislações de privacidade, a exemplo da GDPR europeia e da própria Lei Geral de Proteção de Dados (LGPD) do Brasil.

Diretrizes já foram retiradas do ar

Assim que o episódio repercutiu internacionalmente, Joshua Breckman, porta-voz do WhatsApp, confirmou o ocorrido e justificou que a exposição aconteceu devido a um erro técnico que já foi solucionado. Ele acrescentou que tais diretrizes não eram voltadas ao público geral, tendo a finalidade de “garantir respostas precisas e relevantes para os usuários do WhatsApp que optam por enviar mensagens ao suporte com IA”.

A empresa argumenta que a proposta do assistente é prestar suporte técnico sobre o funcionamento do aplicativo, e não funcionar como uma espécie de consultoria jurídica. Além das restrições mencionadas, a falha expôs comandos secundários, a exemplo da proibição para que o sistema evite falar sobre funcionalidades que ainda não foram lançadas oficialmente.

Dan Saltman, CEO da Redact.dev, pontuou que boa parte das ordens identificadas por sua equipe eram elementares e encaminhavam os clientes para vias de atendimento tradicionais. Contudo, o incidente demonstra uma discrepância relevante entre a comunicação voltada ao público e as ordens repassadas aos sistemas de inteligência artificial nos bastidores.