Hvilken PC skal du bruge til lokal AI i 2026?
Du kan ikke vurdere en AI-computer udelukkende på, om en model kan være i hukommelsen. Hukommelsen afgør, om modellen kan starte; båndbredde og regnekraft afgør, hvor hurtigt den svarer.
16 GB VRAM er det praktiske udgangspunkt for 8B-modeller med fuld kontekst samt 14B-modeller ved 4-bit (Q4) og moderat kontekst. Skal du køre 14B med lange dokumenter (RAG), 32B-modeller rent i VRAM eller større præcision, kræves typisk 24 GB VRAM eller 32–64+ GB samlet hukommelse.
Hukommelseskrav afhænger altid af både modelstørrelse, kvantisering (bit-præcision) og kontekstlængde (KV-cache). NVIDIA tilbyder det bredeste softwareøkosystem, mens Apple Silicon og AMD giver stærke alternativer til specifikke behov.
1. Den vigtigste regel: "kan starte" er ikke det samme som "hurtig nok"
Når man læser om lokal AI på nettet, reduceres hardwarevalget ofte til et simpelt spørgsmål: Kan modellen være i min VRAM?
- Hukommelseskapacitet (VRAM/RAM i GB)
- Afgør om modellen kan indlæses uden at crashe eller fejle.
- Hukommelsesbåndbredde (GB/s)
- Afgør hvor mange ord (tokens) modellen kan skrive pr. sekund under generering.
- Regnekraft (TFLOPS / Tensor Cores / Compute Units)
- Afgør hvor hurtigt computeren tygger sig igennem din prompt (Time to First Token – TTFT), før det første ord skrives.
Hvis du tvinger en 14B-model ind på en maskine ved at lægge halvdelen af modellen over i almindelig system-RAM (CPU-offloading), vil modellen teknisk set køre. Men fordi almindelig DDR5 RAM har en båndbredde på 50–80 GB/s mod et grafikkorts 500–1.000 GB/s, falder genereringshastigheden ofte fra flydende læsehastighed (15–30 tokens/sek) til næsten ubrugelig sneglefart (1–3 tokens/sek).
2. Hvor meget hukommelse har du reelt brug for?
Hukommelsesbehovet for en model består af modellens vægte, KV-cachen (konteksten) og runtimens arbejdsbuffere. Her er de praktiske grænser for 4-bit (Q4_K_M) modeller med 8.192 tokens kontekst:
| Hukommelse / VRAM | Anbefalet model (4-bit) | Kontekstgrænse | Brugbarhed & status | Typisk hardware | Vejledende pris (DK) | Market |
|---|---|---|---|---|---|---|
| 8 GB VRAM Kort kontekst | 3B–4B flydende; 8B ved kort tekst (<4K tokens) | Op til 4K tokens | Vejledende estimat: Begrænset plads til lang kontekst. 8B-modeller overstiger hurtigt 8 GB VRAM, når kontekst eller KV-cache vokser. | RTX 4060 8GB | Fra ~2.300 kr. (vejledende) | Se priser i Market |
| 12 GB VRAM God til 8B | 8B (fuld kontekst); 14B kun ved hård kompression (IQ3) | 8K–16K tokens | Vejledende estimat: Velegnet til 8B-modeller med udvidet kontekst. 14B Q4 levner kun snæver margen til KV-cache. | RTX 4070 12GB | Fra ~4.200 kr. (vejledende) | Se priser i Market |
| 16 GB VRAM ★ Sweet Spot (8K målt) | 8B fuld kontekst; 14B (Q4_K_M) flydende | 8K tokens målt (Labs) · 16K–32K vejledende | Praktisk sweet spot i 2026. 14B (Q4_K_M) passer i VRAM ved moderat kontekst (8K målt i Labs); 32B Q4 kræver offload til system-RAM eller hård kvantisering. | Radeon RX 7800 XT / RTX 4070 Ti Super | Fra ~3.900 kr. (vejledende) | Se priser i Market |
| 24 GB VRAM Avanceret (Beregnet) | 14B (lang kontekst); 32B (Q4) i VRAM | 32K+ tokens | Vejledende estimat: Giver kapacitet til 14B med udvidet kontekst samt 32B Q4 ved standard kontekst uden RAM-offloading. | RTX 3090 (brugt) / RTX 4090 | Se aktuelle forhandlerpriser i Market | Se priser i Market |
| 32–64+ GB Samlet Max Hukommelse | 32B (ved 32 GB); 70B kræver 64+ GB | Op til 16K–32K for 32B; 70B kræver 64+ GB (moderat kontekst) | Vejledende estimat: 32 GB samlet hukommelse kan rumme 32B Q4 ved standard kontekst. 70B Q4 kræver mindst 64 GB samlet hukommelse, og store kontekster giver mærkbar ventetid (TTFT). | Mac Studio / MacBook Pro | Fra ~16.000 kr. (vejledende) | Se priser i Market |
Bemærk: Labs empiriske målinger for 16 GB dækker RX 7800 XT ved 8K kontekst (Vulkan). Rækkevidde op til 16K–32K for 8B-modeller er vejledende estimater baseret på beregnet hukommelsesforbrug. Anførte hardwarepriser er vejledende priseksempler; forhandlerpriser og tilgængelighed fremgår af de senest synkroniserede forhandlerdata i RigRoute Market.
3. Kontekstlængde: Hvorfor lange dokumenter ændrer regnestykket
Hvis du bruger AI til at analysere lange PDF-filer, store kodebaser eller lange samtaler (RAG), vokser KV-cachen markant. I RigRoute Labs testede vi Qwen 2.5-modeller fra 3B til 32B på en MacBook Pro med M1 Pro (32 GB samlet hukommelse):
Labs måling: Hvor længe venter du før første ord (TTFT)?
Målt på Apple M1 Pro (32 GB samlet hukommelse) med Qwen 2.5 14B (Q4_K_M, q8_0 KV). Begge kørsler gennemført uden swap.
⚡ Vigtig observation: Selvom modellen og hele dokumentet passer 100% i RAM uden swap, stiger beregningstiden for prompten 260× fra 1,81 s til 471,6 s.
Målingens begrænsning: Testen blev udført på én maskine med Metal-backend (Stage 1A protokol). Den beviser, at selvom en model og kontekst passer 100% i hukommelsen uden at swappe, kan beregningstiden for store prompts gøre interaktiv brug upraktisk, medmindre hardwaren har massiv regnekraft.
4. Mac, NVIDIA Desktop eller AMD: Hvilken platform skal du vælge?
Stationær PC med NVIDIA GeForce (CUDA)
BranchestandardDen sikreste og mest alsidige vej. Ubetinget bredeste softwaresupport (Ollama, LM Studio, vLLM, ComfyUI, PyTorch) via CUDA out-of-the-box. Højeste hukommelsesbåndbredde og lynhurtig prompt-behandling via Tensor Cores. Begrænsning: Forbrugerkort stopper typisk ved 16 GB VRAM eller koster over 14.000 kr. for 24 GB.
Apple Silicon (Mac Mini / MacBook Pro / Mac Studio)
Samlet hukommelseMest hukommelse for pengene til store modeller. Unified Memory tillader GPU'en at udnytte op til 75–80% af maskinens samlede RAM. En Mac med 36 GB kan rumme 32B Q4-modeller ved moderat kontekst, mens 64 GB eller 128 GB kan indlæse 70B Q4-modeller, der ellers ville kræve flere dyre PC-grafikkort. Begrænsning: Hukommelsen kan ikke opgraderes efter køb, og prompt-beregning på lange kontekster tager længere tid.
AMD Radeon på Linux eller Windows (ROCm / Vulkan)
Labs-testet (Vulkan)Mere VRAM pr. krone. F.eks. tilbyder Radeon RX 7800 XT 16 GB VRAM til under 4.000 kr. RigRoute Labs har målt fremragende genereringshastighed på RX 7800 XT under Vulkan. Begrænsning: ROCm support er primært modent på Linux, og visse avancerede fine-tuning biblioteker understøtter fortsat kun NVIDIA CUDA direkte.
5. Sådan finder du den rigtige hardware på RigRoute
Forhandlerlinks på RigRoute kan være affiliate-links; vores algoritmiske anbefalinger og benchmark-målinger påvirkes aldrig af kommission. Læs mere i vores uafhængighedsdeklaration.
Opdateret 22. oktober 2026. Uafhængig hardwareanalyse baseret på målinger fra RigRoute Labs.