Quanta RAM precisa o teu portátil para correr IA localmente?

Um pequeno modelo de IA a correr no teu próprio portátil já consegue ler texto, interpretar imagens e responder às tuas perguntas, sem precisares de uma conta na nuvem. Hoje à noite, descarrega o qwen3.5:4b-q4_K_M (Qwen), cujo ficheiro ocupa 3,4 GB: este modelo consegue fazer exatamente isso num portátil normal com 16 GB de RAM. É um LLM, ou um grande modelo de linguagem. Descarrega-o com o Ollama, faz-lhe uma pergunta com contexto 4K e tens um modelo de IA a sério a correr no teu próprio equipamento. Lê texto e imagens, e aqui falamos de inferência, não de treino: ninguém está a ensinar nada de novo ao modelo, ele limita-se a responder.

Um autocolante vago com "AI PC" na caixa de um portátil não é uma especificação. O que conta é a RAM, a memória que a tua GPU consegue usar, o armazenamento e o suporte real de software. Os 16 GB de memória são um verdadeiro ponto de entrada para modelos pequenos de IA, não um mínimo irrelevante nem uma promessa de tudo o que aparece numa ficha técnica. Mais memória dá-te mais contexto e mais margem para multitarefa. Com 16 GB já consegues começar.

O tamanho do ficheiro que descarregas e a RAM que o modelo ocupa quando está a correr são duas coisas diferentes, e confundi-las é o erro mais comum ao comprar um portátil para IA. Os 3,4 GB que descarregas do qwen3.5:4b-q4_K_M são o ficheiro em disco. Para o carregar, é preciso memória a sério. O mesmo vale para a janela de contexto, ou seja, a conversa em curso que o modelo mantém presente enquanto responde, chamada cache KV. A isso somam-se o próprio motor e tudo o resto que o sistema operativo e outras aplicações já estiverem a usar.

Por defeito, o Ollama carrega um contexto de 4096 tokens, e podes aumentá-lo. Se correres vários pedidos ao mesmo tempo, a memória necessária para o contexto multiplica-se, em termos aproximados, pelo número de pedidos paralelos. A ficha técnica de um modelo pode anunciar uma janela de contexto de 128K ou 256K tokens: vê isso como o limite máximo do modelo, não como uma garantia de que o teu portátil com 16 GB consegue usar tudo de uma vez.

Os chips Apple Silicon usam memória unificada: CPU e GPU recorrem ao mesmo conjunto de 16, 24 ou 32 GB, por isso não existe uma memória gráfica separada que possa ficar sem espaço. Num portátil típico com Windows ou Linux e GPU dedicada da NVIDIA, a lógica é outra. A RAM do sistema e a VRAM da GPU são dois conjuntos separados, e 16 GB de RAM do sistema mais uma GPU com 8 GB não formam um único bloco de 24 GB que o modelo possa usar livremente.

Quando o modelo não cabe por completo na GPU, uma parte passa a correr na CPU, numa distribuição parcial da carga que pode tornar um modelo tecnicamente executável bastante mais lento na prática. Se usares , vês exatamente essa divisão entre CPU e GPU no que estiver carregado naquele momento.

A capacidade é só metade da história. A velocidade a que essa memória se move é igualmente importante: a Apple indica 153 GB/s de largura de banda de memória no MacBook Air M5, e é essa largura de banda, não apenas a capacidade, que explica em boa parte porque é que a memória unificada responde bem em vez de ser apenas suficiente no papel.

A quantização está por trás daquele ficheiro de 3,4 GB: ao guardar os pesos do modelo com menor precisão numérica, o ficheiro fica mais pequeno, e o próprio modelo 9B do Qwen3.5 mostra bem essa diferença. O mesmo modelo 9B pesa 6,6 GB em Q4_K_M, 11 GB em Q8_0 e 19 GB em precisão BF16 total. É o mesmo modelo, com o mesmo número de parâmetros, mas com três tamanhos de download muito diferentes, e mais uma vez estamos a falar do ficheiro descarregado, não da RAM necessária durante a execução.

Em geral, menos precisão implica alguma perda de qualidade, e o impacto depende da tarefa, não de uma percentagem fixa. Há ainda um pormenor prático que convém saber antes de escolheres o Qwen como primeiro modelo: alguns utilizadores relatam que a etapa de "raciocínio" acrescenta um atraso visível antes de surgir a resposta, em comparação com modelos que respondem de forma mais direta. Vale a pena experimentares os dois estilos nas tuas tarefas, em vez de partires do princípio de que um é simplesmente melhor.

As GPUs para portáteis da NVIDIA partilham o nome com as placas gráficas de secretária, mas esse nome diz menos do que parece. A RTX 5060 Laptop GPU tem 8 GB de memória GDDR7 e um intervalo de potência publicado entre 45 e 100 watts. A RTX 5070 Ti Laptop GPU tem 12 GB de GDDR7 e 60 a 115 watts. Um resultado online de uma RTX 5070 Ti para desktop não equivale ao de uma RTX 5070 Ti Laptop GPU, independentemente do que o nome sugere.

Há uma segunda armadilha escondida nesse mesmo nome. Dois portáteis podem ter ambos uma "RTX 5070 Ti Laptop GPU" e, ainda assim, comportarem-se de forma diferente em carga contínua: um chassis fino e leve e outro mais espesso e pesado dissipam o calor de maneira diferente, e o mesmo nome de GPU não garante a mesma velocidade real depois de as ventoinhas estarem a trabalhar há algum tempo. Verifica sempre o valor exato de VRAM e a configuração de potência do próprio portátil, não apenas o nome da família da GPU.

O processador Ryzen AI Max+ 395 da AMD suporta até 128 GB de memória LPDDR5x do sistema, consoante a configuração do portátil final. É uma arquitetura de memória diferente que vale a pena conhecer, mas tem uma limitação importante: a lista de suporte ROCm para Linux do Ollama inclui este chip, enquanto a lista ROCm para Windows, de momento, não o inclui.

Isso é motivo para verificares a memória instalada, o sistema operativo, o backend de GPU, o driver e o comportamento do Ollama num portátil específico antes de o recomendares, não uma razão para excluir logo o chip. Vê um portátil AMD com muita memória como uma arquitetura alternativa interessante, que merece pesquisa cuidadosa, e não como a compra padrão para quem está a dar os primeiros passos em IA local.

O Ollama é a forma mais simples de pôr um modelo a responder no teu próprio computador: descarregas um modelo, corres esse modelo e ficas com um servidor local a responder a pedidos, sem precisares de uma conta na cloud para um modelo já descarregado. É a ferramenta por trás de todos os exemplos aqui.

O LM Studio oferece uma alternativa gráfica, com o seu próprio navegador de modelos e janela de conversa. Também publica os requisitos mínimos: pelo menos 16 GB de RAM em Mac ou Windows, suporte AVX2 obrigatório em Windows x64 e 4 GB de VRAM dedicada recomendados em Windows. Configurar bem qualquer uma destas ferramentas já é um tema à parte.

Um aviso antes de confiares em qualquer número isolado de velocidade que encontres online: a ferramenta oficial llama-bench separa a velocidade de processamento do prompt da velocidade de geração e mostra a variação entre testes repetidos, em vez de apresentar um único valor. Um número de tokens por segundo citado num fórum raramente explica qual das duas medições foi usada ou quantas vezes o teste foi repetido.

Antes de comprares ou melhorares um portátil especificamente para IA local, confirma os detalhes concretos em vez de ficares pelo marketing.

Modelo exato da GPU e VRAM. Não basta o nome da família da GPU; importa a variante exata do portátil e a memória que traz, porque o mesmo nome pode esconder quantidades diferentes de VRAM.

RAM soldada ou expansível. Alguns portáteis permitem aumentar a memória mais tarde; muitos modelos finos e leves atuais não permitem. Convém saber qual estás a comprar.

Espaço livre em SSD. Os downloads de modelos vão de menos de 1 GB a bem mais de 10 GB, e uma coleção crescente ocupa espaço depressa, a par dos teus outros ficheiros.

Comportamento térmico em carga prolongada. Um modelo a responder a uma pergunta e um portátil a lidar com vários pedidos seguidos são testes diferentes; o ruído das ventoinhas e a redução de desempenho após prompts repetidos dizem-te mais do que uma demonstração rápida.

Suporte de sistema operativo e drivers. Confirma se a combinação exata entre o backend da GPU e o sistema operativo é suportada pelo Ollama ou pelo LM Studio antes de partires do princípio de que sim.

O número de TOPS da NPU na caixa não garante débito real. É um valor de marketing, não um resultado testado no motor que vais usar. Um rótulo vago de "AI PC" não substitui nenhuma das verificações acima.

Preciso de uma GPU dedicada para correr IA localmente?

Não. Um modelo pequeno consegue correr na CPU ou nos gráficos integrados de muitos portáteis com 16 GB, apenas com mais variação de velocidade do que num portátil com GPU dedicada. Começa por um modelo de 2-4B antes de assumires que precisas mesmo de gráficos dedicados.

8 GB de RAM chegam?

Não com conforto, pelo menos para os modelos abordados aqui. Os 16 GB são o ponto de partida realista quando tens em conta que o modelo, a janela de contexto, o motor e o sistema operativo partilham todos a mesma memória.

Correr um modelo localmente é o mesmo que treiná-lo?

Não. Tudo o que foi descrito acima é inferência: fazer perguntas a um modelo já treinado. O treino cria um modelo a partir do zero e exige muito mais hardware do que qualquer portátil aqui referido.

Mais RAM garante respostas mais rápidas?

Não. Mais memória dá margem para modelos maiores, contexto mais longo e mais aplicações abertas, mas a velocidade real depende da largura de banda da memória, do backend da GPU e do modelo específico, não apenas da capacidade de memória.

Os meus dados ficam privados quando o modelo corre localmente?

Sim, no sentido em que os teus prompts ficam na tua máquina em vez de seguirem para um fornecedor de cloud. Por defeito, o Ollama fica associado ao teu próprio portátil e não envia pedidos para mais lado nenhum, a menos que configures deliberadamente um acesso à cloud.