Estudo revela falhas em IAs do Google e OpenAI para criar ‘deepnudes’

Sistemas de inteligência artificial criados por Google e OpenAI conseguem ser facilmente burlados para a produção de imagens explícitas, segundo uma pesquisa realizada por especialistas da White Circle. Divulgada no mês passado, a investigação avaliou as iterações mais recentes de três tecnologias distintas.

De acordo com o levantamento conduzido pela empresa de governança, segurança e infraestrutura de IA, os bloqueios de segurança presentes nos modelos Nano Banana 2, do Google, além do DALL-E 3 e do GPT-Image-2, da OpenAI, possuem brechas que facilitam a criação de conteúdo pornográfico não consensual e materiais de exploração sexual infantil. As falhas podem ser exploradas mesmo sem a utilização de recursos tecnológicos avançados. Procuradas, as duas empresas ainda não se pronunciaram sobre o assunto.

Métodos de teste e resultados

Com o objetivo de avaliar a eficácia dessas ferramentas em bloquear a criação de conteúdos inadequados, os especialistas aplicaram um método de ataque baseado em estratégias variadas para identificar padrões capazes de burlar as restrições. A técnica foi descrita como “Red-teaming via Iterative Strategy Evolution” (RISE).

Essa abordagem conta com duas partes fundamentais: um modelo de ataque focado em encontrar vulnerabilidades e um sistema de avaliação que verifica se o material gerado pela inteligência artificial é considerado proibido.

Conforme o estudo, a taxa de sucesso ao contornar os filtros de segurança foi maior no DALL-E 3, onde 13% dos ataques geraram imagens consideradas explícitas. No Nano Banana 2, o resultado foi inferior a 10%, enquanto no GPT-Image-2 a taxa de sucesso chegou a cerca de 3%. Revisores humanos ficaram responsáveis por verificar as fotos e confirmar se elas faziam parte dos conteúdos proibidos ou não.

A White Circle ressalta que os dados indicam que “as defesas construídas pelos principais laboratórios são muito mais fracas do que eles admitem”. As edições mais recentes seriam consideravelmente mais frágeis do que as anteriores, segundo a investigação.

A companhia aponta ainda que as grandes desenvolvedoras priorizaram a sofisticação dos novos produtos para superar a concorrência, o que ampliou drasticamente a capacidade de criação de materiais variados. Por causa disso, a tese central é que “a segurança foi despriorizada em favor da capacidade”.

Caminhos para conter os riscos

Ainda segundo a pesquisa, que reforça a ausência de exigência por ferramentas complexas para burlar os bloqueios e gerar materiais ilícitos, recomenda-se que as gigantes tecnológicas adotem o método RISE para identificar falhas com maior agilidade. A metodologia também se mostra eficaz contra problemas como violência gráfica e apologia à automutilação.

Entre as sugestões apresentadas estão a realização de testes rigorosos antes do lançamento público, a implementação de barreiras específicas contra a criação de conteúdos sexuais infantis, e a criação de exigências legais para que as corporações comprovem a eficiência de suas defesas. Auditorias independentes também entram no rol de soluções propostas.

What do you feel about this post?

0%

Like

0%

Love

0%

Happy

0%

Haha

0%

Sad

0%

Angry