Roda IA local no meu PC?

Rodar um modelo de IA na sua própria máquina — sem nuvem, sem mensalidade — depende quase toda da VRAM da placa de vídeo. Abaixo, o que cada modelo popular pede e a partir de qual placa ele roda.

Phi-3 Mini 3.8B (Q4)

VRAM mín.
4 GB
RAM mín.
8 GB
Disco
3 GB

Roda a partir de: GeForce GTX 980 (4 GB), GeForce GTX 1650 SUPER (4 GB), GeForce GTX 970 (4 GB)

Llama 3 8B (Q4)

VRAM mín.
6 GB
RAM mín.
16 GB
Disco
5 GB

Roda a partir de: GeForce RTX 2060 (6 GB), GeForce GTX 980 Ti (6 GB), Radeon RX 5600 XT (6 GB)

Mistral 7B (Q4)

VRAM mín.
6 GB
RAM mín.
16 GB
Disco
5 GB

Roda a partir de: GeForce RTX 2060 (6 GB), GeForce GTX 980 Ti (6 GB), Radeon RX 5600 XT (6 GB)

Qwen 2.5 7B (Q4)

VRAM mín.
6 GB
RAM mín.
16 GB
Disco
5 GB

Roda a partir de: GeForce RTX 2060 (6 GB), GeForce GTX 980 Ti (6 GB), Radeon RX 5600 XT (6 GB)

DeepSeek R1 Distill 7B (Q4)

VRAM mín.
6 GB
RAM mín.
16 GB
Disco
5 GB

Roda a partir de: GeForce RTX 2060 (6 GB), GeForce GTX 980 Ti (6 GB), Radeon RX 5600 XT (6 GB)

Gemma 2 9B (Q4)

VRAM mín.
7 GB
RAM mín.
16 GB
Disco
6 GB

Roda a partir de: NVIDIA GeForce RTX 5060 Ti (8 GB), GeForce RTX 3070 Ti (8 GB), GeForce RTX 4060 Ti (8 GB)

Stable Diffusion XL

VRAM mín.
8 GB
RAM mín.
16 GB
Disco
7 GB

Roda a partir de: NVIDIA GeForce RTX 5060 Ti (8 GB), GeForce RTX 3070 Ti (8 GB), GeForce RTX 4060 Ti (8 GB)

Whisper Large v3

VRAM mín.
10 GB
RAM mín.
16 GB
Disco
3 GB

Roda a partir de: GeForce RTX 3080 (10 GB), Radeon RX 6750 GRE 10GB (10 GB), Radeon RX 6700 (10 GB)

Qwen 2.5 32B (Q4)

VRAM mín.
20 GB
RAM mín.
32 GB
Disco
20 GB

Roda a partir de: Radeon RX 7900 XT (20 GB), GeForce RTX 4090 (24 GB), Radeon RX 7900 XTX (24 GB)

DeepSeek R1 Distill 32B (Q4)

VRAM mín.
20 GB
RAM mín.
32 GB
Disco
20 GB

Roda a partir de: Radeon RX 7900 XT (20 GB), GeForce RTX 4090 (24 GB), Radeon RX 7900 XTX (24 GB)

Mixtral 8x7B (Q4)

VRAM mín.
26 GB
RAM mín.
32 GB
Disco
26 GB

Roda a partir de: GeForce RTX 5090 (32 GB)

Llama 3 70B (Q4)

VRAM mín.
40 GB
RAM mín.
64 GB
Disco
40 GB

Não sabe quanta VRAM sua placa tem? A análise detecta e diz quais modelos rodam no seu PC.

Analisar meu PC