Foco em segurança de IA ignora danos diários das plataformas

O debate contemporâneo sobre políticas tecnológicas costuma ser definido pelo pior cenário possível que um produto pode causar, deixando de lado os danos insidiosos provocados no dia a dia. Ao transicionarmos para uma era moldada por ferramentas potentes de inteligência artificial, é fundamental exigir que a indústria vá muito além da simples prevenção a danos catastróficos, garantindo que suas criações não corroiam a forma como pensamos, aprendemos e nos relacionamos.

Historicamente, comemoramos vitórias básicas quando uma empresa garante que seu chatbot não incentivará o suicídio ou quando uma rede social dificulta a compra de fentanil para menores. Tratam-se de proteções essenciais que deveriam existir desde o início. No entanto, as companhias conseguem atingir esses patamares mínimos enquanto continuam a fornecer produtos que tornam os jovens dependentes de amizades simuladas ou presos em feeds projetados para manter o consumo contínuo de conteúdo.

O impacto silencioso na juventude e na cultura

Um adolescente que desenvolve um apego não saudável a um companheiro de IA raramente aparecerá em processos judiciais ou manchetes de jornais, exceto nos casos mais graves. O mesmo vale para o estudante que passa a depender de um chatbot para redigir todas as suas redações, ou para o jovem que compara sua vida a um feed de mídia social arquitetado para gerar inveja. Um produto pode cumprir todas as exigências restritas de segurança e, ainda assim, prejudicar toda a cultura de maneiras que passam despercebidas pela grande mídia.

Essa definição limitada de sucesso, focada apenas em segurança, é politicamente conveniente para o setor tecnológico. Prevenir desastres espetaculares é um bom negócio, pois reduz processos judiciais e a pressão por regulações severas. Em contrapartida, enfrentar as consequências cotidianas da dependência exigiria medidas que ameaçam diretamente os lucros das empresas, como adicionar fricção aos produtos ou limitar ativamente engajamentos e algoritmos voltados para a atenção obsessiva.

Em vez disso, as gigantes da tecnologia têm moldado legislações para responder apenas aos danos que já enfrentam pressão direta. Este ano, por exemplo, o Google apoiou projetos de lei para regulamentar chatbots de IA em diversos estados americanos. A legislação exigia proteções básicas contra conteúdo sexual e promoção de automutilação que as empresas já deveriam ter implementado, mas incluiu brechas amplas que isentaram serviços muito populares. Essa estratégia funcionou em estados como Nebraska, gerando leis influenciadas pela indústria em detrimento de medidas que realmente responsabilizariam as corporações.

A extensão da lógica das redes sociais

Já passamos por dinâmica semelhante com as redes sociais. Globalmente, os internautas gastam hoje uma média superior a duas horas por dia nessas plataformas — tempo subtraído da vida real e entregue a companhias cujos lucros dependem dessa retenção. Ninguém, além de alguns executivos, desejava que esses algoritmos ocupassem tanto espaço, sendo que sua engenharia cultural contribuiu para episódios de violência em larga escala. As plataformas da Meta já foram apontadas por alimentar o genocídio Rohingya em Mianmar, tumultos antimuçulmanos no Sri Lanka e chamados à violência durante a guerra de Tigré, na Etiópia.

Agora, a inteligência artificial estende essa mesma lógica para áreas da vida que as redes sociais só conseguiam afetar à distância, oferecendo-se para redigir nossos pensamentos e substituir pessoas. Atualmente, um terço dos adolescentes prefere discutir assuntos sérios com companheiros de IA em vez de conversar com seres humanos. Pesquisadores do MIT descobriram que jovens que usam o ChatGPT para escrever redações apresentam menor conectividade cerebral durante a atividade, indicando que a “dívida cognitiva” persiste mesmo após o término da tarefa.

Aprofundar essa lógica nos leva a um mundo de entretenimento perfeitamente higienizado, onde chatbots nos poupam do esforço de pensar ou de lidar com os sentimentos alheios e próprios. Contudo, qualquer pessoa que já tenha lutado para redigir algo relevante ou para reparar uma amizade danificada sabe o quanto se perde nessa troca. Construímos discernimento através do esforço e da atrito, aprendendo a conviver ao confrontar as necessidades e opiniões dos outros.

A necessidade de exigências maiores

Devemos exigir segurança como patamar mínimo e, em seguida, cobrar muito mais. Distritos escolares e empresas de tecnologia devem provar, além de qualquer dúvida razoável, que a inteligência artificial melhora o aprendizado e o pensamento crítico antes de inseri-la nas salas de aula. Além disso, as companhias precisam ser proibidas de criar companheiros que simulam consciência ou professam amor aos usuários, devendo enfrentar escrutínio independente sobre como seus sistemas afetam os vínculos e a autonomia mental.

Sam Hiner é cofundador e diretor executivo da Young People’s Alliance, onde coordenou uma coalizão para aprovar leis de regulação de companheiros de IA em oito estados em 2026, como a SB1119 da Califórnia. Ele formou-se na Universidade da Carolina do Norte em Chapel Hill em 2025 e integrou a lista Forbes 30 Under 30 de impacto social em 2026.

Emma Leiken é diretora executiva do Responsible Technology Youth Power Fund na Hopelab, iniciativa que captou mais de US$ 9 milhões para ações de responsabilização tecnológica lideradas por jovens, e leciona políticas tecnológicas na Escola de Assuntos Internacionais e Públicos da Universidade Columbia. Anteriormente, atuou como chefe global de políticas de segurança e bem-estar juvenil do TikTok e trabalhou com tecnologia responsável na Omidyar Network.