Por que a inteligência artificial generativa vai falhar

A inteligência artificial generativa integra um grupo restrito de inovações que, a exemplo do computador e da eletricidade, transformam toda a economia ao redor, figurando entre as tecnologias de propósito geral que inauguram grandes superciclos de inovação. No entanto, conselheiros e administradores ainda não assimilaram uma característica fundamental dessa ferramenta, lacuna da qual decorre boa parte das falhas de adoção observadas atualmente.

A IA generativa opera como uma nuvem

Em conferência histórica intitulada “Of Clouds and Clocks“, Karl Popper contrastou duas categorias de sistemas. O relógio funciona de maneira regular, previsível e pode ser desmontado em engrenagens, ao passo que a nuvem apresenta caráter dinâmico e irregular, sem jamais se repetir, metáfora que ilumina perfeitamente o atual momento tecnológico.

Enquanto a transformação digital das últimas décadas se estruturou no mundo do relógio por meio de sistemas deterministas — que geram sempre idêntica saída para uma dada entrada e repetem o mesmo padrão de erro —, a inteligência artificial generativa funciona como uma nuvem. Trata-se de um sistema estocástico baseado em probabilidades que devolve uma amostra de possibilidades a cada execução.

Como não segue regras fechadas, a ferramenta lida com dados desestruturados encontrados em contratos, atas, e-mails, pareceres, áudios e vídeos, ambiente onde reside a maior parte da informação organizacional que permaneceu inacessível aos relógios durante meio século, lendo o mundo em sua realidade e não conforme os formulários desejariam.

A essência estatística e o risco da alucinação

Na sua essência, a tecnologia calcula a cada etapa qual palavra tem maior probabilidade de suceder a anterior, gerando sempre o texto mais plausível, embora plausibilidade não signifique verdade. Essa distância conceitual gera a chamada “alucinação”, caracterizada por uma resposta fluida, convincente e incorreta.

Otimizado em busca do plausível, o treinamento premia o palpite confiante e aprende por construção a jamais dizer “conforme a lição do “quarto chinês” de John Searle: fluência não é compreensão”. Reduzir a aleatoriedade ao baixar a “temperatura” ou aplicar filtros de entrada e saída e guardrails apenas cerca a nuvem, sem transformá-la em relógio.

A taxa de erro pode e deve ser reduzida a um patamar ótimo, mas jamais zerada, pois a mesma natureza não determinista geradora da resposta brilhante também produz a alucinação eloquente. Para a governança corporativa, a lição central é clara: não se governa uma nuvem aplicando a lógica de um relógio, substituindo-se o questionamento sobre o funcionamento do sistema pela análise de onde a falha é tolerável e quem assume a responsabilidade em cada etapa.

Organizações maduras respondem em três camadas

As empresas maduras estruturam sua atuação em três frentes distintas:

1. A camada institucional, focada na governança por meio de comitê de IA com mandato real, políticas de uso, classificação de risco e reporte direto ao conselho, evitando o uso sem supervisão. 2. A camada executiva, voltada à prontidão mediante letramento das equipes, gestão de dados e avaliação de risco por caso de uso, construída ao longo de anos. 3. A camada operacional, centrada na supervisão humana, onde toda saída gerada pela máquina constitui uma proposta e não uma decisão final.

O controle deve ser proporcional ao dano esperado e à irreversibilidade da decisão, tendo como parâmetro o processo substituído pela IA e não a busca por um erro zero inexistente nas atividades humanas. O avanço prático reside no mapeamento de riscos por tarefa, a exemplo do setor jurídico que adota zonas verde, amarela e vermelha para diferenciar autonomia, conferência reforçada e decisões indelegáveis. Desse modo, o profissional evolui de executor para maestro de uma orquestra tecnológica sob total responsabilidade humana e institucional, provando que o futuro pertencerá a quem dominar a governança de nuvens em vez de exigir delas a pontualidade de relógios.