LLMs não entendem nada — e esse é o ponto

Toda semana alguém publica um texto afirmando que modelos de linguagem "entendem" ou "não entendem" o que dizem. A discussão quase sempre descamba para filosofia da mente e termina sem conclusão — o que é um sinal de que a pergunta, do jeito que está colocada, não serve para decidir nada.

Vale reformular. A pergunta útil não é se o modelo compreende, mas o que ele faz quando não sabe, e como você percebe a diferença.

Compreensão como parsing não explica nada

Se "entender" significar apenas mapear símbolos para outros símbolos, então sim: o modelo entende, e a palavra perde o sentido. Se significar ter experiência do mundo — ter estado num lugar, sentido fome, quebrado o dedo — então não, e nenhum modelo vai entender, porque isso não está no texto.

O problema é que a resposta verdadeira fica no meio e não ajuda ninguém a decidir se pode confiar na saída. Por isso a discussão travou.

O que o modelo faz bem: comprimir

A descrição mais honesta do que um LLM faz é compressão com capacidade de interpolação. Ele absorveu uma quantidade absurda de regularidades estatísticas do texto humano e consegue projetá-las em novas combinações.

Isso é extraordinariamente útil. Boa parte do trabalho intelectual é exatamente isso: aplicar um padrão conhecido a um caso ligeiramente novo. Escrever um e-mail difícil, resumir um contrato, traduzir uma ideia para outra linguagem, revisar um argumento.

E também é a fonte de todos os defeitos conhecidos. Onde o padrão é forte, ele acerta. Onde é fraco, ele preenche a lacuna com a continuação mais provável — que é justamente o que uma resposta confiante e errada parece ser.

O modelo não distingue "eu sei" de "isso soa como algo que eu teria visto". Ele produz a mesma fluência nos dois casos. A calibração é a sua, não dele.

Por que isso importa na prática

Se você aceita esse enquadramento, três decisões ficam claras:

1. Use onde o erro é barato de detectar. Rascunho, resumo, primeira versão, exploração. Não use onde o erro é invisível e caro.
2. Peça a fonte, não a resposta. A verificação é o trabalho. Um modelo com acesso a documentos citáveis vale muito mais que um modelo genial sem referência.
3. Trate confiança como estilo, não como informação. O tom assertivo é uma propriedade do texto gerado, não um indicador de correção.

Isso não é uma posição pessimista. É o contrário: é o que permite usar a ferramenta com ganho real, em vez de gastar energia discutindo se ela "pensa".

A parte desconfortável

Há uma consequência secundária que ninguém gosta de encarar: se o valor está em comprimir texto humano, então a qualidade do nosso texto coletivo importa mais do que nunca. Modelos treinados em conteúdo gerado por modelos degradam — a famosa corrida ao lixo estatístico.

O antídoto não é técnico. É editorial: continuar publicando coisas com autor, fonte, opinião e responsabilidade. Ou seja, exatamente o que um blog deveria ser.