05 nov Grounding não elimina a alucinação: o que precisamos saber antes de confiar em uma resposta de IA

Romano José Enzweiler

Uma das expectativas mais desejadas por muitos usuários da IA e que se transformou, bem por isso, em sedutora promessa, é a da resposta pronta. Queremos velocidade e precisão matemática. E nos acostumamos a esse padrão. Estamos produzindo textos com excelente estilo redacional, com aparente demonstração de domínio e conhecimento acadêmicos acompanhados, frequentemente, de referências inquestionáveis que conferem autoridade e prestígio aos seus autores. Basta observar a quantidade imensa de artigos científicos publicados em importantes revistas que têm sido produzidos com o auxílio da IA. 

 Mas a aparente qualidade de uma resposta fornecida pela IA pode ser confundida com a sua correção. 

No vocabulário corrente, convencionou-se chamar de alucinação a produção de informações falsas, imprecisas ou não comprovadas por um modelo de inteligência artificial. A expressão me parece imperfeita, porque sugere um desvio excepcional de um sistema que, em regra, conheceria a verdade. Não é assim que os modelos de linguagem funcionam. Eles não são repositórios de fatos dotados de uma consciência que eventualmente se confunde. LLMs são, na verdade, sistemas treinados para prever, a partir de padrões estatísticos, qual sequência de palavras tende a ser mais adequada à continuação de um texto. E, convenhamos, o resultado tem se mostrado excelente. 

O fenômeno explica tanto a potência quanto o limite do sistema. Um modelo pode produzir excelente síntese, identificar relações, reorganizar argumentos e redigir com notável fluência. A questão não é estética, mas de fundo, porque fluência não é prova. Quando o LLM, por exemplo, não dispõe de informação suficiente ou, ainda, quando a instrução o induz a preencher uma lacuna, o modelo pode gerar formulações aceitáveis porque linguisticamente prováveis. A frase vem bem estruturada, as referências possuem aparência de veracidade e a conclusão, não poucas vezes, decorre logicamente (em bom estilo hegeliano). Mesmo assim, o fato pode ser inexistente, a citação talvez não sustente o que lhe foi atribuído ou a inferência pode ultrapassar os dados disponíveis. E isso ocorre diariamente com enorme frequência em todos os quadrantes. 

Esse é um ponto decisivo para aqueles que trabalham com conhecimento especializado. No Direito, na saúde, na educação, na Administração Pública e em qualquer ambiente no qual uma afirmação possa orientar uma decisão relevante, o problema não está somente em o sistema errar, mas em fazê-lo de forma persuasiva. Imagine as consequências de uma IA alucinada e sedutora na elaboração de uma sentença criminal, de um laudo médico envolvendo o diagnóstico de doença rara, mas curável, de uma decisão em licitação bilionária e estratégica para o país. 

É nesse cenário que ganha importância o grounding, expressão utilizada para designar o ancoramento da resposta em fontes determinadas. Em vez de depender apenas do conhecimento geral incorporado durante o treinamento do modelo, o sistema recebe um conjunto específico de documentos e é orientado a responder a partir deles. Plataformas como o Gemini Notebook popularizaram essa possibilidade ao permitir que o usuário reúna suas próprias fontes, formule perguntas sobre o acervo e receba respostas com indicação dos trechos que lhes dão suporte. 

Em termos de fidelidade do resultado da informação, o ganho é extremamente relevante. Mas é preciso evitar outra ilusão (e digo isso porque gostamos de nos enganar frequentemente), qual seja, a de que esses modelos fazem desaparecer a alucinação, tornando a verificação e checagem da resposta dispensáveis. 

O grounding não garante a verdade, mas se transformou numa arquitetura de redução de risco. 

Quando uma resposta está ancorada em fontes definidas, o seu campo de liberdade diminui. O modelo passa a ter um universo documental mais delimitado, tornando-o capaz de recuperar passagens pertinentes, seguindo a tendência de indicar com precisão a origem da resposta. Isso reduz a dependência de lembranças probabilísticas e torna o resultado mais auditável. Dito claramente, em vez de perguntar genericamente a um sistema qual é o entendimento sobre determinado tema, o usuário pode submetê-lo a um conjunto de instruções para agentes de programação (os conhecidos agents.md), precedentes, pareceres ou documentos de um processo e exigir que trabalhe sobre esse material. 

Mas observe bem que reduzir risco não significa eliminar esse risco. Há, pelo menos, quatro pontos que precisam permanecer visíveis nesse horizonte. 

O primeiro diz respeito à qualidade da fonte. Nenhum sistema de grounding corrige, por si só, um documento equivocado, incompleto, revogado, desatualizado ou mal selecionado. Se a base contém apenas a versão antiga de uma norma, ou se omite o precedente que estabeleceu uma distinção decisiva, a resposta poderá ser internamente coerente e, ainda assim, externamente errada e, portanto, perigosamente inútil. A inteligência artificial não torna uma fonte maliciosa em algo confiável. Ela apenas irá trabalhar com maior velocidade sobre aquilo que recebeu. Portanto, mesmo que você mergulhe de cabeça no deep research, seja criterioso na escolha das fontes com as quais irá trabalhar. Disso depende a qualidade de seu output. 

O segundo ponto é a recuperação. Mesmo em um acervo adequado, o sistema pode deixar de localizar o trecho mais importante, atribuir peso excessivo a uma passagem secundária ou aproximar documentos que, lidos com atenção, tratam de situações distintas. É por essa razão que se comenta a respeito do princípio da atenção. Tem-se dito que em documentos longos, a tendência é o modelo dar maior ênfase ao início e ao fim do texto, podendo deixar de considerar aspecto essencial que se encontra, justamente, num ponto mais escondido. Veja que recuperar informação não significa compreendê-la integralmente. Um precedente não se resume à sua ementa, tampouco uma cláusula contratual se esgota em uma frase isolada e um dado administrativo, por exemplo, tende a perder sentido fora de sua série histórica. Logo, a passagem recuperada precisa voltar ao documento original. 

O terceiro ponto é a inferência. O modelo pode reproduzir corretamente uma fonte e, ainda assim, tirar dela uma conclusão excessiva e, pois, conceitualmente errada. Isso não é incomum e eu mesmo já vivenciei essa experiência quando buscava fundamentar um entendimento meu numa sentença. É também frequente a resposta dada pelo modelo apresentar uma interpretação (do sistema) como se fosse conteúdo textual. Outras vezes ele transforma uma hipótese em certeza. Noutras, combina trechos verdadeiros para afirmar algo que nenhum deles, isolada ou conjuntamente, sustenta. A citação, nesse caso, não é uma garantia automática, mas um convite à sindicância.  

O quarto ponto é a pergunta. E aqui eu não posso deixar de referir a  Kidlin’s Law. Não se trata, ao contrário do que o nome sugere, de uma lei de cunho científico. Na verdade, Kidlin era um personagem fictício do romance King Rat, de James Clavell. Daí dizer a “Lei de Kidlin” que, se você conseguir descrever um problema de forma clara, a questão já estará meio resolvida. Isso ocorre porque o ato de escrever nos força a organizar os pensamentos, a eliminar emoções vagas, a separar fatos de suposições e, principalmente, nos permite revelar gargalos ocultos. Com isso a gente consegue colocar preocupações abstratas no papel e reduzir a sobrecarga psicológica, a ansiedade e o pensamento circular, tão comum, inclusive, no resultado de muitas IAs.  

Como fazer uma pergunta “matadora”? Primeiro, faça um brain dump, i.e., escreva todas as suas tarefas, medos ou obstáculos em uma folha de papel ou na tela do seu PC, mas não perca tempo editando. Simplesmente deixe acontecer. Segundo, defina o seu problema em uma frase única, o mais específica possível, descrevendo a questão central, quem ela afeta e qual a sua causa. Terceiro, não hesite em dividir o problema em subtarefas menores, menos complexas e que possam, de fato, ser executadas. Por último, faça o mais difícil: dê o primeiro passo. Para isso, seja estratégico. Escolha a subtarefa mais fácil ou a mais urgente e, então, comece. Não procrastine, não enrole. Só comece. Dizem que quem reproduziu, quase literalmente, esse roteiro Kidlin’s Law foi Steve Jobs, num daqueles encontros icônicos nos quais lançava seus produtos disruptivos. Faz sentido? 

Aproveite esse momento: se você tiver um problema específico em mente agora, escreva-o aqui e siga o modelo. Você aprenderá muito com essa experiência. 

Repare bem. Excelentes fontes são capazes de gerar respostas inadequadas quando a formulação se mostrar vaga, quando forem pressupostos fatos não demonstrados ou quando se pedir ao sistema uma conclusão antes de organizar os dados relevantes. Perguntar “qual é a solução?” normalmente induz uma resposta conclusiva. Perguntar “quais documentos tratam da questão, quais posições aparecem no acervo, quais são as divergências e quais dados ainda faltam?” produz uma base de trabalho mais consistente e produtiva e, portanto, oferece maiores chances de ser útil. 

Essas distinções são especialmente importantes no uso pedagógico do Gemini Notebook. Como uso diariamente a ferramenta e creio extrair dela grande parte de seu potencial, atrevo-me a dizer que seu valor não está em transformar a aprendizagem em terceirização de leitura, o que seria muito raso e desinteressante. O Notebook é capaz de criar um ambiente no qual o aluno aprende a interrogar fontes, comparar respostas, identificar omissões e retornar ao texto originário, o que pode acelerar a organização do conhecimento, diminuindo nosso tempo “morto”, liberando nossa criatividade para aprender, reaprender e testar. 

Chamo a atenção para outro fato extremamente relevante. Quem utilizar plataforma fundada em fontes selecionadas deve desenvolver uma espécie de dupla competência. A primeira competência é documental, e consiste em saber escolher o que entra no acervo, verificar vigência, autoria, integridade, pertinência e atualização. Dá trabalho, muito trabalho, mas ninguém disse que aprender de verdade seria fácil. A segunda é epistemológica e consiste em compreender que uma resposta bem redigida não dissolve a diferença entre dado, interpretação, inferência e decisão. 

De fato, essa dupla competência desloca o ensino da IA para um patamar, digamos assim, mais sério. A pergunta não se resume a, simplesmente, questionar como obter respostas melhores. O que assume centralidade no debate é como tornar as respostas verificáveis. Uma cultura de uso responsável precisa ensinar, pelo menos, cinco práticas bem conhecidas: 1) delimitar o corpus documental, 2) formular perguntas que permitam conferência/verificabilidade, 3) exigir indicação precisa das fontes, 4) revisar o trecho citado no documento de origem e 5) declarar, com honestidade, aquilo que o acervo não permite concluir.  

Essas práticas não diminuem o valor da tecnologia nem, muito menos, a tornam inútil ou dispensável. Bem ao contrário, fazem com que seu uso fique mais potente. Quando o usuário confia cegamente na resposta fornecida pelo modelo, ele está utilizando a IA como atalho cognitivo. Mas quando é criterioso e seleciona fontes, controla o contexto, testa a resposta e valida as premissas, estará transformando a IA em instrumento de ampliação de sua capacidade de análise. A diferença é abissal e distingue quem conhece de IA e quem não! 

No ambiente jurídico, por exemplo, onde atuo há tantos anos, a consequência metodológica pode ser resumida em uma ordem simples: documento original, evidência recuperada, interpretação e conclusão. A ordem inversa, em minha leitura, mostra-se bastante perigosa: recebe-se uma conclusão plausível, procura-se depois uma fonte que a confirme e, dessa forma, corre-se o risco de converter a inteligência artificial em mecanismo de racionalização retrospectiva. Daí os equívocos redacionais de petições, recursos e até de decisões noticiados quase que diariamente, dando a impressão de que o problema é do modelo quando, claramente, é da estrutura (des)organizada pelo usuário.  

É preciso, portanto, abandonar dois extremos. O primeiro é o entusiasmo ingênuo, segundo o qual a IA teria superado o problema do erro porque agora “cita fontes”. O segundo é a recusa abstrata, como se a possibilidade de falha impedisse qualquer aproveitamento útil da ferramenta.  

Penso que a posição cientificamente madura reside em utilizar sistemas ancorados em fontes para reduzir o risco, desenhar fluxos de verificação para controlar o que permanece incerto e reservar ao humano a responsabilidade pela conclusão que produzirá efeitos. 

O objetivo, aqui, não é patrocinar desconfiança paralisante, mas ensinar aquilo que se pode denominar de confiança qualificada. Em tarefas de menor impacto, sugere-se que a conferência seja amostral e proporcional. Essa alternativa deve ser considerada para não sobrecarregar o fluxo em seu estágio revisor-final, porque a execução da tarefa (pela IA) está cada vez mais barata, mas corremos o risco de perder esse ganho de tempo e dinheiro se toda a conferência detalhada for humana.  

Já em análises que orientam decisões jurídicas, administrativas, acadêmicas ou empresariais relevantes, a validação deve, obrigatoriamente, ser mais rigorosa. A intensidade do controle deve acompanhar o risco, o impacto e a reversibilidade do ato. 

O Gemini Notebook oferece, de fato, uma oportunidade pedagógica particularmente valiosa porque torna visível aquilo que muitos sistemas costumam esconder, que é a fonte.  

A conclusão, portanto, é que todo usuário de ferramentas de IA deve aprender a perguntar, diante de qualquer resposta, em qual fonte isso se apoia, o que exatamente a fonte diz e qual salto interpretativo foi dado entre o texto de origem e o entregue pelo sistema. Essa atitude fundamental aumentará enormemente as chances de integridade e coerência das respostas fornecidas. 

Essa é a fronteira entre apenas utilizar inteligência artificial e trabalhar intelectualmente com ela.  

Perguntas Frequentes