IA não lembra, não confere e não sai para a internet

Alguém abre o ChatGPT e pede o faturamento exato de uma empresa no trimestre passado. Vem um número redondo, com duas casas decimais e ar de quem conferiu. Está errado. Na semana seguinte, a mesma pessoa abre uma conversa nova e pergunta "lembra daquele relatório?". A resposta é educada, firme e inventada.

A surpresa não vem do modelo. Vem do nome. "Inteligência artificial" sugere alguém do outro lado entendendo o pedido, guardando o histórico e checando o que diz. Depois de 25+ sistemas de IA em produção, o padrão se repete: o projeto quebra onde alguém supôs uma capacidade que o modelo nunca teve. Então: o que essas ferramentas fazem, na mecânica, quando parecem entender?

Prever a próxima palavra é tudo o que o modelo faz

Um LLM — ChatGPT, Claude e Gemini operam assim — foi treinado para uma tarefa só: dado um trecho de texto, estimar qual token vem depois. Repita isso sobre um volume gigantesco de texto e sai um sistema que completa frases de um jeito parecido com raciocínio.

Parecido não é igual. A continuação mais provável costuma coincidir com a correta quando o assunto é comum e bem documentado. Quando não é, o modelo segue produzindo a mais provável do mesmo jeito. Sem pausa, sem aviso, sem consultar lugar nenhum.

A alucinação é o mecanismo trabalhando, não falhando

Alucinação é o nome dado a uma afirmação com cara de fato que não corresponde a nada. Aparece mais em terreno raro: nome próprio pouco citado, número exato, citação de fonte, evento recente demais para o treinamento. Quanto mais específico o pedido, maior a chance de a lacuna sair preenchida com algo plausível.

O que custa caro em produção é outro: o modelo não sinaliza a própria incerteza de forma confiável. A frase inventada sai com a mesma firmeza da frase certa. Por isso IA rende tanto em rascunho, resumo e reescrita — e exige leitura humana ou checagem programada quando o texto carrega um número que alguém vai usar para decidir.

Conversa longa esquece o começo, conversa nova começa do zero

Cada chamada cabe dentro de uma janela de contexto: um teto de quanto texto o modelo considera por vez. O tamanho varia por modelo e plano; o comportamento não varia. Passado o teto, o que ficou para trás sai do campo de visão ou entra resumido. A conversa de duas horas que "esquece" o combinado do início está no limite do desenho, não com defeito.

Entre conversas, o corte é mais seco: por padrão, uma sessão nova não sabe nada da anterior. Alguns produtos oferecem memória persistente — o ChatGPT é o caso mais conhecido —, mas é recurso do produto, que guarda anotações e devolve ao prompt na vez seguinte.

É por isso que o Mt-service, pipeline de tradução multi-passe que roda em produção, nunca conta com a memória do modelo. Cada documento entra com o contexto montado pelo pipeline: segmentos extraídos, terminologia do setor, revisão editorial, QA automatizado. Contar com lembrança entre chamadas seria construir sobre algo que não existe.

O modelo não sai para a internet; o produto traz a internet até ele

Sozinho, um LLM responde com o que ficou do treinamento e o que está no prompt daquela chamada. Ele não abre site nem consulta banco de dados ao vivo.

Busca integrada — a que ChatGPT, Claude e Gemini oferecem — funciona por fora: o produto percebe que precisa de dado atual, dispara a consulta e cola o resultado no contexto antes de o modelo escrever. A diferença parece sutil e não é: quando a busca erra a fonte ou não roda, o modelo não avisa. Volta a responder de cor, com a mesma cara de quem checou.

Peça linguagem ao modelo e confira o número fora dele

O que esses sistemas fazem bem é tarefa de linguagem e de padrão: resumir, reescrever, classificar mil mensagens por assunto, extrair campos de um documento sem estrutura. A taxa de acerto é alta e o erro sai barato — alguém lê e ajusta em minutos.

O que fazem mal é aritmética exata com muitos passos e fato específico que apareceu pouco ou nada no treinamento. A saída é dividir o trabalho: o modelo redige e organiza, a conta sai de uma query ou de código que dá para auditar linha a linha. Pedir as duas coisas ao mesmo componente é onde o erro silencioso se acumula.

O problema nunca foi a IA ser fraca. É tratar um sistema de previsão de texto como se fosse também um sistema de memória e de verificação de fato — três garantias diferentes por trás da mesma tela de chat. Quem constrói em cima disso para de esperar que o modelo resolva isso e desenha em volta dele: contexto na mão, validação por fora, e o modelo na parte em que é, de fato, muito bom.