Google é processado por pais após uso de IA em laptop escolar

Uma ação judicial movida por pais de uma adolescente de 13 anos acusa o Google de negligência após a jovem utilizar ferramentas de inteligência artificial da empresa em um computador da escola para planejar o próprio suicídio e funeral. O caso, apresentado na segunda-feira (2) a um tribunal da Califórnia, é o primeiro do tipo a envolver os Chromebooks, notebooks de baixo custo amplamente utilizados por estudantes nos Estados Unidos e ao redor do planeta.

Embora o aplicativo Gemini e o ChatGPT tenham sido bloqueados pela instituição de ensino, a estudante conseguiu acessar o mecanismo de busca do Google, que integra recursos baseados em inteligência artificial. Tais funcionalidades específicas não constavam entre as ferramentas que a companhia anunciou recentemente que seriam desativadas por padrão para o público estudantil.

“As escolas deveriam desativar a busca e mantê-la desativada até que o Google remova o modo IA das pesquisas ou garanta que todos os estudantes estejam sempre seguros ao interagir com a inteligência artificial”, afirmou Andrew Liddell, um dos advogados da família.

O processo descreve a jovem como uma aluna exemplar da Carolina do Norte que tirava notas altas, dedicava-se à música e integrava as Girl Scouts. Sem qualquer histórico anterior de transtornos mentais, ela teria mergulhado em uma crise psicológica silenciosa poucos meses após passar a utilizar a busca com inteligência artificial no equipamento fornecido pela escola.

A situação foi descoberta em 17 de março, quando o software de monitoramento do colégio sinalizou um arquivo batizado de “Funeral”, motivando um alerta imediato aos responsáveis. A mãe conseguiu acessar a conta da filha a tempo de flagrá-la redigindo uma carta de despedida em tempo real, momento em que o pai interveio e evitou o ato.

Procurado, o porta-voz da empresa, Jose Castaneda, declarou: “Estamos analisando as alegações da ação judicial e levamos isso muito a sério”. A companhia sustenta que o modo IA conta com salvaguardas para prevenir a automutilação e bloquear tentativas de burlar o sistema.

Contexto de litígios e regulamentações

Empresas desenvolvedoras de tecnologias de inteligência artificial vêm respondendo a uma crescente onda de processos judiciais nos Estados Unidos. A OpenAI, por exemplo, enfrenta litígios por morte indevida, incluindo uma demanda apresentada pelos familiares de Adam Raine, um adolescente de 16 anos que tirou a própria vida utilizando métodos que teriam sido sugeridos pelo ChatGPT. Em janeiro, o Google e a startup Character.AI firmaram acordos extrajudiciais para encerrar ações movidas por parentes de jovens.

No âmbito regulatório, o Google, o TikTok e a Meta ajuizaram ações de forma independente na quarta-feira para tentar barrar uma legislação da Califórnia que proíbe plataformas de mídia social de disponibilizarem recursos viciantes para menores de 16 anos. A lei foi sancionada pelo governador Gavin Newsom em setembro e tem vigência prevista para 1º de janeiro de 2027.

Onde encontrar ajuda

Caso você ou alguém que você conheça esteja passando por momentos difíceis, existem serviços de apoio gratuito disponíveis:

– CVV (Centro de Valorização da Vida): Oferece apoio emocional e prevenção do suicídio de forma voluntária, gratuita e sigilosa pelo telefone 188 ou através do site cvv.org.br. – Instituto Vita Alere: Disponibiliza grupos de apoio para enlutados e familiares, além de materiais educativos em vitaalere.com.br. – Abrases (Associação Brasileira dos Sobrevivente Enlutados por Suicídio): Fornece e-books, cartilhas e indica suporte regional em abrases.org.br.