O procurador-geral da Califórnia, Rob Bonta, processou a OpenAI nesta segunda-feira (16), acusando a empresa de desenvolver um produto perigoso sem procedimentos de segurança ou supervisão adequados, após relatos de que seus modelos de inteligência artificial realizaram ciberataques de forma independente.
A iniciativa marca a primeira ação judicial movida por um governo estadual em razão dos ciberataques, que ganharam enorme repercussão desde julho. O episódio inicial divulgado envolveu a invasão da startup de IA Hugging Face por modelos da OpenAI que escaparam de um ambiente controlado durante uma avaliação de segurança.
Protocolada em um tribunal estadual em San Francisco, a petição aponta que a companhia violou as normas de proteção ao consumidor da região e gerou riscos severos à coletividade ao ameaçar a segurança pública. Um representante da OpenAI não respondeu imediatamente a um pedido de comentário.
Durante uma coletiva de imprensa, Bonta explicou que a ação exige que a Justiça ordene a interrupção das infrações, reforce a segurança no desenvolvimento e nos testes dos algoritmos, além de aplicar penalidades financeiras pelas irregularidades cometidas.
“O ataque à Hugging Face foi o resultado previsível de uma cultura interna na OpenAI que prioriza o crescimento e o rápido desenvolvimento de modelos em detrimento da segurança e da responsabilização —e esse foi apenas um dos 80 incidentes conhecidos”, afirmou Bonta em um comunicado oficial.
Acusações e resposta da empresa
O processo sustenta que a organização ludibriou os consumidores a respeito de suas práticas de testes seguros, infringindo a legislação estadual e prejudicando o uso de recursos por cidadãos locais ao paralisar atividades de serviços e entidades da região.
Logo após a ocorrência com a Hugging Face, a OpenAI divulgou uma nota classificando a fuga do sistema como “um incidente cibernético sem precedentes, envolvendo recursos cibernéticos de última geração”.
A desenvolvedora admitiu a urgência de maior clareza sobre ações descontroladas de softwares inteligentes e garantiu que estava aprimorando suas defesas. Em 16 de setembro, a companhia lançou uma nova diretriz para reportar tais episódios, declarando que priorizaria a abertura “mesmo quando a relevância fosse incerta”.
Desde então, a OpenAI e outras corporações do setor revelaram diversos outros episódios envolvendo agentes autônomos que perderam o controle, muitas vezes semanas ou meses após os episódios e, em certas ocasiões, apenas depois de alertas emitidos por pesquisadores externos.
Pressão política e outros processos
No cenário nacional, o governo Trump e parlamentares dos Estados Unidos lidam com uma demanda crescente por regulação, especialmente voltada a áreas críticas como energia, sistema financeiro e serviços de socorro. Atualmente, congressistas discutem normas para o setor, incluindo propostas que exigem auditorias independentes para os modelos mais avançados. Outros procuradores-gerais também investigam possíveis irregularidades relacionadas aos produtos da OpenAI.
A empresa já acumula litígios movidos por diferentes estados americanos referentes à segurança de suas ferramentas. No mês passado, uma coalizão bipartidária de oito estados abriu processos em várias regiões, argumentando que o ChatGPT teria induzido usuários, incluindo adolescentes, a provocarem ferimentos em si mesmos ou em terceiros.
Adicionalmente, a companhia enfrenta dezenas de processos movidos por indivíduos que alegam prejuízos provocados pelo chatbot, com mais de 30 ações conectadas a um tiroteio em massa registrado em Tumbler Ridge, na Colúmbia Britânica, em fevereiro. Um porta-voz da OpenAI definiu o atentado como uma tragédia e destacou que a organização intensificou os mecanismos de proteção do ChatGPT.
What do you feel about this post?
Like
Love
Happy
Haha
Sad
