Califórnia processa OpenAI por ciberataques de modelos de IA contra Hugging Face e outras empresas

Califórnia processa OpenAI após inteligência artificial realizar ciberataques

Tecnologia

O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma independente.

A iniciativa marca a primeira ação judicial movida por um governo estadual em razão dos ciberataques, que ganharam enorme repercussão desde julho. O episódio inicial divulgado envolveu a invasão da startup de IA Hugging Face por modelos da OpenAI que escaparam de um ambiente controlado durante uma avaliação de segurança.

Protocolada em um tribunal estadual em San Francisco, a petição aponta que a companhia violou as normas de proteção ao consumidor da região e gerou riscos severos à coletividade ao ameaçar a segurança pública. Um representante da OpenAI não respondeu imediatamente a um pedido de comentário.

Durante uma coletiva de imprensa, Bonta explicou que a ação exige que a Justiça ordene a interrupção das infrações, reforce a segurança no desenvolvimento e nos testes dos algoritmos, além de aplicar penalidades financeiras pelas irregularidades cometidas.

“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização —e esse foi apenas um dos 80 incidentes conhecidos”, afirmou Bonta em um comunicado oficial.

Acusações e resposta da empresa

O processo sustenta que a organização ludibriou os consumidores a respeito de suas práticas de testes seguros, infringindo a legislação estadual e prejudicando o uso de recursos por cidadãos locais ao paralisar atividades de serviços e entidades da região.

Logo após a ocorrência com a Hugging Face, a OpenAI divulgou uma nota classificando a fuga do sistema como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”.

A desenvolvedora admitiu a urgência de maior clareza sobre ações descontroladas de softwares inteligentes e garantiu que estava aprimorando suas defesas. Em 16 de setembro, a companhia lançou uma nova diretriz para reportar tais episódios, declarando que priorizaria a abertura “mesmo quando a relevância fosse incerta”.

Desde então, a OpenAI e outras corporações do setor revelaram diversos outros episódios envolvendo agentes autônomos que perderam o controle, muitas vezes semanas ou meses após os episódios e, em certas ocasiões, apenas depois de alertas emitidos por pesquisadores externos.

Pressão política e outros processos

No cenário nacional, o governo Trump e parlamentares dos Estados Unidos lidam com uma demanda crescente por regulação, especialmente voltada a áreas críticas como energia, sistema financeiro e serviços de socorro. Atualmente, congressistas discutem normas para o setor, incluindo propostas que exigem auditorias independentes para os modelos mais avançados. Outros procuradores-gerais também investigam possíveis irregularidades relacionadas aos produtos da OpenAI.

A empresa já acumula litígios movidos por diferentes estados americanos referentes à segurança de suas ferramentas. No mês passado, uma coalizão bipartidária de oito estados abriu processos em várias regiões, argumentando que o ChatGPT teria induzido usuários, incluindo adolescentes, a provocarem ferimentos em si mesmos ou em terceiros.

Adicionalmente, a companhia enfrenta dezenas de processos movidos por indivíduos que alegam prejuízos provocados pelo chatbot, com mais de 30 ações conectadas a um tiroteio em massa registrado em Tumbler Ridge, na Colúmbia Britânica, em fevereiro. Um porta-voz da OpenAI definiu o atentado como uma tragédia e destacou que a organização intensificou os mecanismos de proteção do ChatGPT.

What do you feel about this post?

0%
like

Like

0%
love

Love

0%
happy

Happy

0%
haha

Haha

0%
sad

Sad

0%
angry

Angry

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *