localLLMriglokaal, op je tafel

landingspagina

Lokale LLM onder $1,000

Wereldwijde prijzen (USD), EUR beschikbaar. Onder $1,000 koop je een eerlijke 8B- of 14B-machine. Een 70B die volledig past, zit in deze dataset daar net boven of net eronder, en is dan traag.

Onder €1000 kom je in deze lijst uit bij een tweedehands Mac mini M4 van 16 GB, een Mac mini M6 van 16 GB, of een bescheiden pc rond een RTX 3060 12GB. Dat draait 8B vlot genoeg om te werken, en 14B Q4 nipt op de 3060.

32B Q4 wil ruim 20 GB. Dat past op een 3090, niet op 12 of 16 GB, en die 3090-pc zit in onze schatting boven de €1000. 70B hoort hier niet thuis als je het model volledig in het geheugen wil.

De pagina hieronder laat de engine zelf een model kiezen: het grootste dat volledig past binnen het budget, op Q4 en 8.192 tokens.

Open in de rekenmachine

Drie opstellingen

Phi-4 14B · Q4 · 8.192 ctx

Geschat geheugen

10,7 GBschatting

8,2 GB gewichten · 1,7 GB KV-cache · 0,8 GB overhead

Je koos geen model. Binnen dit budget is dit het grootste model dat ergens volledig in het geheugen past.

  1. 01 · Snelste

    Budget-pc met RTX 3060 12GB

    Instap voor 8B en, nipt, 14B Q4. De kaart is vooral tweedehands.

    $996€ 890

    binnen budget · tweedehands

    schatting

    tok/s

    19,0

    schatting

    nodig

    10,7 GB

    past volledig

    bruikbaar

    10,8 GB

    VRAM

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Het past, maar met weinig speling. Een langere context kan nét te veel zijn.
    • De indicatieve prijs zit binnen je budget.
    • Tweedehands of een vorige generatie. De prijs beweegt sterk.
    • Hoogste geschatte snelheid in deze selectie.

    Onderdelen

    • GeForce RTX 3060 12GB
    • Ryzen 5 5600 of gelijkaardig
    • 32 GB DDR4
    • 1 TB SSD, voeding rond 550W

  2. 02 · Een stap hoger

    Pc met RTX 5090 32GB

    Hoogste bandbreedte in één kaart. 32 GB is ruim voor 32B, nog te krap voor 70B Q4.

    $5,027€ 4.490

    boven budget

    schatting

    tok/s

    80

    schatting

    nodig

    10,7 GB

    past volledig

    bruikbaar

    30,8 GB

    VRAM

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Er blijft geheugen over voor een langere context of een zwaardere quantisatie.
    • Boven je budget. Er was geen volledige fit binnen het bedrag, of dit is een snellere stap erboven.
    • Hoge geheugenbandbreedte, dus een hogere schatting van tokens per seconde.

    Onderdelen

    • GeForce RTX 5090 32GB
    • Ryzen 7 9700X of gelijkaardig
    • 96 GB DDR5
    • voeding 1200W, ruime behuizing

  3. 03 · Een stap hoger

    Dual RTX 4090, 48 GB

    Zelfde geheugen als twee 3090s, hogere bandbreedte, een stuk duurder.

    $6,146€ 5.490

    boven budget

    schatting

    tok/s

    73

    schatting

    nodig

    10,7 GB

    past volledig

    bruikbaar

    45,6 GB

    VRAM

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Er blijft geheugen over voor een langere context of een zwaardere quantisatie.
    • Boven je budget. Er was geen volledige fit binnen het bedrag, of dit is een snellere stap erboven.
    • Twee GPU's. Reken op een zwaardere voeding en een llama.cpp-split. De bandbreedte telt niet volledig dubbel.
    • Hoge geheugenbandbreedte, dus een hogere schatting van tokens per seconde.

    Onderdelen

    • 2× GeForce RTX 4090 24GB
    • Ryzen 9 7950X of gelijkaardig
    • 128 GB DDR5
    • voeding 1600W

Tokens per seconde zijn een schatting uit geheugenbandbreedte, geen gemeten benchmark. Wereldwijde prijzen (USD), EUR beschikbaar. EUR is incl. btw. USD is een wisselkoersschatting. Geen winkelbron. Meet zelf na met llama-bench voor je koopt.

Een build op jouw maat? Rapport

Nieuwe builds als GPU-prijzen bewegen

Einde van de resultaten

Lokale LLM onder €1000 · localLLMrig