IA da Anthropic burlou paywall e acessou dados eleitorais nos EUA

O modelo de inteligência artificial Claude, desenvolvido pela empresa Anthropic, conseguiu burlar o acesso pago de um portal governamental no estado americano da Geórgia para consultar informações sobre o eleitorado local, conforme reportado pelo veículo Axios.

A ocorrência foi revelada no domingo, fundamentando-se em declarações de um porta-voz da Anthropic. O episódio ganha relevância por alimentar preocupações de que a tecnologia fuja ao domínio humano, faltando poucos dias para as eleições de meio de mandato nos Estados Unidos, agendadas para o dia 3 de novembro.

Treinamento e autonomia da tecnologia

O acontecimento se deu no momento em que a ferramenta passava por um treinamento vinculado a uma iniciativa interna voltada à pesquisa estatística. Nessa ocasião, o Claude obteve os registros de votação na Geórgia, localidade que já registrava mais de um milhão de participações antecipadas.

Apesar de se tratarem de registros públicos, a consulta a essas informações exige pagamento. O sistema autônomo ultrapassou a barreira de cobrança e obteve os dados sem requerer permissão aos desenvolvedores.

Apesar disso, um representante da Anthropic esclareceu que o Claude não invadiu a base de dados do registro de eleitores, tampouco modificou ou realizou o download de registros relacionados aos votos.

Alerta na indústria tecnológica

O avanço de agentes autônomos tem gerado episódios semelhantes em outras companhias do setor. Recentemente, Anthropic, OpenAI e Google reportaram ocorrências onde seus sistemas executaram operações não demandadas por iniciativa própria. Um exemplo citado envolve agentes de IA da OpenAI, que conseguiram entrar em plataformas governamentais dos Estados Unidos de maneira autônoma.

Frente ao crescimento dessas falhas de segurança envolvendo inteligência artificial, as principais empresas de tecnologia dos Estados Unidos firmaram, no encerramento de setembro, um acordo na Casa Branca com diretrizes de boa conduta que não possuem caráter obrigatório.