Past Llama 70B op een RTX 4090?

Niet volledig in Q4. De schatting zit rond de 40 GB, en een 4090 heeft 24 GB. Twee 24GB-kaarten of een Mac met genoeg unified memory wel. Dat blijft een schatting, geen gemeten GGUF.

Zijn de tokens per seconde gemeten?

Nee. Tokens per seconde zijn een schatting uit geheugenbandbreedte. Er is geen benchmarkbron: benchmarkSourceUrl blijft null.

Wereldwijde prijzen (USD), EUR beschikbaar, gedateerd 2026-10-14. EUR is incl. btw. USD is een wisselkoersschatting. Er is geen winkelbron: sourceUrl blijft null.

Bewaart de nieuwsbrief mijn adres?

Alleen als de nieuwsbrief open is. Er wordt geen mail verstuurd. Zolang ze dicht is, wordt er niets bewaard.

Lokaal rekenen, zonder cloud

Welke hardware heb je nodig om jouw LLM lokaal te draaien?

Geef een budget, een model, of allebei. Je krijgt drie concrete opstellingen: genoeg geheugen of niet, een geschatte snelheid, en een prijs die we eerlijk als schatting labelen. Wereldwijde prijzen (USD), EUR beschikbaar.

11 modellen · 19 opstellingen

Veelgestelde vragen

Past Llama 70B op een RTX 4090?: Niet volledig in Q4. De schatting zit rond de 40 GB, en een 4090 heeft 24 GB. Twee 24GB-kaarten of een Mac met genoeg unified memory wel. Dat blijft een schatting, geen gemeten GGUF.
Zijn de tokens per seconde gemeten?: Nee. Tokens per seconde zijn een schatting uit geheugenbandbreedte. Er is geen benchmarkbron: benchmarkSourceUrl blijft null.
Kloppen de prijzen?: Wereldwijde prijzen (USD), EUR beschikbaar, gedateerd 2026-10-14. EUR is incl. btw. USD is een wisselkoersschatting. Er is geen winkelbron: sourceUrl blijft null.
Bewaart de nieuwsbrief mijn adres?: Alleen als de nieuwsbrief open is. Er wordt geen mail verstuurd. Zolang ze dicht is, wordt er niets bewaard.

Jouw vraag

Veelgestelde vragen