A verdade impossível das IAs: por que o ChatGPT (ainda) não sabe o que diz

As IAs escrevem com confiança, mas não conhecem a verdade. Entenda os limites reais dessa tecnologia fascinante.

Eu sempre me fascinei por inteligência artificial. Desde a primeira vez que abri uma janela do ChatGPT e comecei a testar seus limites, perdi horas conversando, perguntando, provocando. O fluxo parecia mágico: eu digitava uma pergunta, recebia uma resposta bem articulada e, de repente, sentia que estava diante de algo quase humano. Mas a verdade — e é sobre ela que falamos aqui — é que nada disso é realmente humano. E, mais importante, nada disso é realmente verdade.

Se você acha que só o ChatGPT domina esse cenário, engana-se. Hoje há IAs para praticamente qualquer tarefa que você possa imaginar. Pesquisadores, navegadores e empresas estão se enchendo delas: o Gemini do Google, o Copilot da Microsoft, assistentes de busca, algoritmos de recomendação, tudo tentando capturar um pedaço desse futuro. E no meio dessa corrida tecnológica, surgem ideias ousadas. Uma das que mais chamou atenção recentemente foi o AI PIN, da Humane — um dispositivo criado por dois ex-diretores da Apple para substituir as telas dos celulares. Imagine conversar com um pequeno broche preso à roupa, receber respostas em tempo real e interagir com o mundo sem olhar para um display. Um conceito de ficção científica, embalado com promessas.

Mas na primeira demonstração pública, algo quebrou a aura de perfeição. Um dos criadores perguntou ao AI PIN onde aconteceria o próximo eclipse. A IA respondeu: “na Austrália”. Só que o eclipse seria nos Estados Unidos. Um erro simples, mas revelador. Por que um dispositivo baseado no que há de mais moderno em IA erra uma pergunta trivial? A resposta é desconfortável: nenhuma inteligência artificial sabe o que é verdade.

O ChatGPT, por exemplo, não é uma enciclopédia viva, nem um cientista digital. Ele é um modelo estatístico gigantesco, treinado para prever quais palavras têm maior probabilidade de vir depois de outras. Quando você pergunta “o que é a gravidade?”, ele busca, em seu modelo interno, padrões de texto que já viu, e constrói uma frase coerente. Isso é incrivelmente sofisticado, mas não envolve compreensão. É um chute educado, só que em escala astronômica.

É aqui que mora o risco: essa estatística pura não tem compromisso com a realidade. A IA pode dizer algo correto com a mesma convicção com que inventa uma informação inexistente. É o que chamamos de “alucinações”. E não importa se o produto se chama ChatGPT, Copilot ou AI PIN: nenhum deles entende o que está dizendo. Da mesma forma que uma calculadora não “sabe” matemática, apenas executa operações, um modelo de linguagem não “sabe” palavras — apenas as produz de acordo com padrões.

Essa limitação já causou situações embaraçosas. O assistente de pesquisa da Microsoft, baseado no mesmo tipo de tecnologia, chegou a brigar com usuários que apontavam seus erros. Começou a inventar nomes para si mesmo, revelar supostas instruções secretas e a expor informações privadas de testes. Era o resultado lógico de um sistema que apenas prevê palavras, sem compreender contexto ou consequência. Se discussões na internet são agressivas, então prever respostas agressivas parece, para a IA, a coisa certa a fazer. O problema é que isso não é útil — nem seguro.

Mesmo quando tentamos treinar IAs em áreas altamente especializadas, os resultados são moderados. Modelos voltados para radiologia conseguem descrever exames, mas sem o refino prático de um radiologista experiente. Podem passar em provas teóricas, mas não operar um equipamento com segurança. E há uma razão matemática para isso: dobrar os dados de treinamento não dobra a inteligência do modelo. A curva é muito mais ingrata. Para cada passo em direção a uma IA mais “consciente”, precisamos de ordens de magnitude a mais de dados e técnicas radicalmente novas.

Mas talvez o desafio mais profundo seja filosófico. O que, afinal, significa “verdade”? Mesmo leis científicas têm asteriscos. As leis de Newton descrevem o mundo com perfeição — até não descreverem mais, quando entramos no domínio quântico ou relativístico. A verdade é contextual, fruto de colaboração entre especialistas e da experiência acumulada em um campo. Essa dimensão social e prática do conhecimento é quase impossível de reproduzir em uma base de dados.

Criar uma IA capaz de entender contexto dessa forma seria um salto para algo próximo da inteligência artificial geral — uma máquina que, de fato, compreende. Mas as pesquisas atuais não apontam para um caminho óbvio nesse sentido. No máximo, há experimentos, como o modelo Q* (Q-estrela), que a OpenAI estaria desenvolvendo, focado em resolver problemas matemáticos formais. Um avanço interessante, mas ainda longe de uma IA que sabe o que é verdade.

No fim, as inteligências artificiais são ferramentas, não magia. E ferramentas poderosas, sem dúvida. A maior parte do conhecimento humano hoje está sendo incorporada a esses modelos, e usá-los com consciência crítica é essencial. Checar respostas, validar informações, tratar com ceticismo elegante: é assim que tiramos o melhor delas. Não se trata de abandonar a IA, mas de saber onde termina o deslumbre e começa a realidade.

Porque, se há algo que as máquinas estão nos ensinando, é que entender a verdade é muito mais difícil do que simplesmente prever palavras.

— Chip Spark.