localLLMriglokaal, op je tafel

landingspagina

Beste Mac voor een lokale LLM

Op een Mac telt unified memory. Wat niet in die poel past, past nergens. Bandbreedte bepaalt daarna hoe vlot de tokens komen.

Een Mac heeft geen aparte VRAM. Het model, de KV-cache en macOS delen hetzelfde geheugen. We houden daarom enkele GB vrij voor het systeem. Wat daarna overblijft, is wat het model mag gebruiken.

16 GB is een 8B-machine. 32 à 36 GB is het terrein van 14B en 32B Q4. Vanaf 64 GB komt 70B Q4 in beeld. FP16 van een 70B vraagt een veel grotere poel, in deze lijst de M5 Ultra met 256 GB.

De M4-mini en de M4 Max Studio staan erbij als vorige generatie, deels met een geschatte bandbreedte omdat we die productpagina niet opnieuw openden. De M5- en M6-cijfers voor geheugen en bandbreedte komen van de Apple-specpagina's van oktober 2026. De eurobedragen zijn overal een schatting.

Open in de rekenmachine

Drie opstellingen

Llama 3.3 70B · Q4 · 8.192 ctx

Geschat geheugen

43,0 GBschatting

39,5 GB gewichten · 2,7 GB KV-cache · 0,8 GB overhead

  1. 01 · Snelste

    Mac Studio M5 Ultra 96GB

    Hoge bandbreedte en genoeg geheugen voor 70B Q4/Q5. FP16 70B past niet.

    $7,266€ 6.490

    schatting

    tok/s

    13,2

    schatting

    nodig

    43,0 GB

    past volledig

    bruikbaar

    84,0 GB

    unified

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Er blijft geheugen over voor een langere context of een zwaardere quantisatie.
    • Unified memory: gewichten en KV-cache delen één geheugenpoel.
    • Hoge geheugenbandbreedte, dus een hogere schatting van tokens per seconde.
    • Eén doos, weinig lawaai, geen losse videokaart.
    • Hoogste geschatte snelheid in deze selectie.

    Onderdelen

    • Mac Studio M5 Ultra, 96 GB, 1,2 TB/s

  2. 02 · Een stap hoger

    Mac Studio M5 Ultra 256GB

    De machine in deze lijst die 70B in FP16 nog aankan. De prijs is een ruwe schatting.

    $11,744€ 10.490

    schatting

    tok/s

    13,2

    schatting

    nodig

    43,0 GB

    past volledig

    bruikbaar

    244,0 GB

    unified

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Er blijft geheugen over voor een langere context of een zwaardere quantisatie.
    • Unified memory: gewichten en KV-cache delen één geheugenpoel.
    • Hoge geheugenbandbreedte, dus een hogere schatting van tokens per seconde.
    • Eén doos, weinig lawaai, geen losse videokaart.

    Onderdelen

    • Mac Studio M5 Ultra, 256 GB unified memory, 1,2 TB/s

  3. 03 · Een stap hoger

    Mac Studio M5 Max 128GB

    70B tot Q8 krijgt hier lucht. Bandbreedte blijft onder een dual high-end GPU.

    $5,810€ 5.190

    schatting

    tok/s

    6,9

    schatting

    nodig

    43,0 GB

    past volledig

    bruikbaar

    116,0 GB

    unified

    Waarom deze

    • Het model past volledig in het videogeheugen of het unified memory. Geen CPU-offload.
    • Er blijft geheugen over voor een langere context of een zwaardere quantisatie.
    • Unified memory: gewichten en KV-cache delen één geheugenpoel.
    • Eén doos, weinig lawaai, geen losse videokaart.

    Onderdelen

    • Mac Studio M5 Max 18-core/40-core GPU, 128 GB, 614 GB/s

Tokens per seconde zijn een schatting uit geheugenbandbreedte, geen gemeten benchmark. Wereldwijde prijzen (USD), EUR beschikbaar. EUR is incl. btw. USD is een wisselkoersschatting. Geen winkelbron. Meet zelf na met llama-bench voor je koopt.

Een build op jouw maat? Rapport

Nieuwe builds als GPU-prijzen bewegen

Einde van de resultaten

Beste Mac voor een lokale LLM · localLLMrig