Instalar o Ollama é fácil; escolher o modelo do tamanho certo é o que decide se ele voa ou trava

Um projeto pessoal cresce até esbarrar num ponto sensível: notas de terapia, dado de cliente sob NDA, um rascunho que não pode vazar antes do lançamento. Nesses casos, mandar o texto para o servidor de um terceiro deixa de ser questão de conveniência.

Claude e GPT resolvem a maior parte do dia a dia, e continuam sendo a escolha certa quando o dado pode circular. O que eles não resolvem é o caso em que o dado não pode sair da máquina, ou o volume é alto demais para pagar por chamada de API. Para esse recorte, a saída é rodar um modelo local: o Ollama sobe o modelo no seu computador, você escolhe o tamanho certo para o hardware disponível, e o Page Assist vira a interface de chat — sem terminal para o dia a dia.

O Research Brain, meu sistema que transforma notas, links e vídeos numa base de conhecimento com busca semântica, roda 100% local com Ollama. Não é experimento de fim de semana; é infraestrutura que uso todo dia.

O que você precisa

• Um computador com pelo menos 8GB de RAM ou VRAM unificada — o mínimo absoluto; a tabela do Passo 2 mostra o que de fato roda bem nesse patamar
• macOS, Linux ou Windows — o Ollama roda nos três
• Espaço em disco: os modelos variam de ~2GB a mais de 40GB, dependendo do tamanho
• Chrome ou Firefox, se for usar o Page Assist como interface
• Custo: o Ollama é gratuito e de código aberto; o único custo é o hardware que você já tem

Passo 1: instale o Ollama

A instalação muda por sistema operacional, mas em todos cabe num comando ou num instalador baixado do site oficial.

# macOS
brew install ollama
# ou baixar o instalador em ollama.com

# Linux (um comando)
curl -fsSL https://ollama.com/install.sh | sh

# Windows
winget install Ollama.Ollama
# ou baixar o instalador em ollama.com

Depois de instalado, o servidor normalmente já sobe sozinho, escutando em localhost:11434. Se não subir, ollama serve inicia na mão. A versão em uso no momento desta verificação é a v0.33.3, lançada em 2 de setembro de 2026 (verificado 2026-09-11) — a versão exata muda com frequência, o comando de instalação não.

Passo 2: escolha o modelo certo para o seu hardware

O tamanho do arquivo de um modelo segue uma regra de bolso: parâmetros em bilhões vezes 0,5GB, mais cerca de 1GB de overhead, na quantização padrão. Um modelo de 8B ocupa perto de 5GB; um de 70B passa dos 40GB. A tabela abaixo mostra o que roda bem em cada faixa de hardware (fonte: jun/2026):

Quando o modelo não cabe inteiro na VRAM, o Ollama empurra o que sobra para a RAM comum — e a velocidade cai de 5 a 10 vezes. A lição prática: escolha um modelo que caiba inteiro no seu hardware, não o maior que "quase cabe".

Passo 3: baixe e rode o primeiro modelo

Dois pontos de partida cobrem a maioria dos casos — um generalista, um forte em português:

ollama pull llama3.1:8b-q4_K_M   # ~5GB, ponto de partida recomendado
ollama pull qwen2.5:7b            # ~5GB, forte em português

ollama run llama3.1:8b

O sufixo q4_K_M é a quantização — a compressão que reduz o tamanho do modelo em troca de uma perda de qualidade quase imperceptível. É o padrão do Ollama por um motivo: reduz o modelo para cerca de 35% do tamanho em precisão total (FP16), mantendo perto de 95% da qualidade. Use Q4_K_M a menos que tenha um motivo específico para outra coisa — o Q8_0 chega a 95% de qualidade custando 1,1x o tamanho do FP16, e o Q3_K_M perde qualidade perceptível, reservado para RAM muito limitada.

Passo 4: configure o Page Assist como interface de chat

Instale a extensão pela Chrome Web Store. Com o Ollama rodando em localhost:11434, o Page Assist detecta automaticamente — zero configuração manual, confirmado na documentação oficial da extensão.

Abra o ícone do Page Assist, selecione o modelo baixado no Passo 3 e comece a conversar. A extensão também aceita upload de PDF para análise e consegue usar o conteúdo da página aberta como contexto — útil para perguntar sobre um artigo sem copiar e colar nada.

O que pode dar errado

Baixar um modelo maior do que o hardware suporta não dá erro explícito — dá lentidão extrema, 5 a 10 vezes mais devagar, porque o excesso foi parar na RAM em vez da VRAM. Se a resposta demorar demais, o primeiro suspeito é esse.

Achar que precisa da versão "mais forte", em FP16, desperdiça espaço em disco sem ganho perceptível de qualidade — Q4_K_M já entrega perto de 95% da referência.

Esperar que um modelo local de 7-8B raciocine como Claude ou GPT-4o também decepciona: modelos locais desse porte são de 2 a 10 vezes mais fracos em tarefas de raciocínio complexo. Local resolve privacidade, custo e uso offline — não substitui qualidade de ponta.

Se o Page Assist não detectar o Ollama sozinho, o primeiro passo é checar se ollama serve está de fato rodando antes de reportar bug na extensão.

Próximos passos

Depois de conversar com um modelo local, o próximo degrau natural é indexar conhecimento próprio — notas, documentos — em vez de só bater papo. É nesse ponto que RAG se conecta ao Ollama. Se o objetivo for treinar um comportamento específico em vez de usar um modelo pronto, a escolha entre fine-tune, RAG e prompt define o próximo passo.

Rodar IA local não é sobre ter o modelo mais forte. É sobre não precisar mandar o dado para lugar nenhum quando isso importa.