Gids
Waar moet je op letten bij een AI-laptop?
Geen marketingtaal, geen 40-punten-checklist. Drie dingen bepalen of een laptop lokale AI-modellen aankan: VRAM, werkgeheugen en koeling. Hieronder wat ze doen en waar je op let.
VRAM
Dit is de harde grens. Past een model niet in het VRAM van je videokaart, dan draait het niet — of extreem traag, omdat de laptop moet gaan lenen van je gewone werkgeheugen. Vuistregel: reken op zo'n 1GB VRAM per miljard parameters bij een 4-bit-versie van een model (de gangbare manier om modellen kleiner te maken). Een model van 8 miljard parameters past dus prima in 8GB VRAM; bij 70 miljard zit je al snel op 40GB+, en dat heeft geen enkele laptop-GPU. Dan kom je uit bij Apple's unified memory of de cloud.
Werkgeheugen (RAM)
Op een Windows-laptop met een losse GPU draait het model zelf in het VRAM — RAM is dan vooral voor de rest van je systeem. Reken op minimaal 32GB, anders gaan Windows, je browser en de tools eromheen haperen zodra het model aan het werk is. Bij een MacBook werkt het anders: daar is er geen apart VRAM, en wordt het werkgeheugen ('unified memory') gedeeld tussen processor en GPU. Daar bepaalt de hoeveelheid RAM dus direct hoe groot een model kan zijn dat je kan draaien.
Koeling
Een GPU minutenlang op vol vermogen laten draaien voor tekstgeneratie is zwaarder dan een potje gamen. Bij slechte koeling gaat de laptop na een paar minuten throttlen — de GPU vertraagt zichzelf om niet oververhit te raken, en je snelheid kelder. Let op het aantal ventilatoren/heatpipes in de specs, en reken op een dikkere, zwaardere laptop als je hier serieus mee bezig wilt: een dun ultrabook met dedicated GPU loopt sneller tegen thermische limieten aan dan een gaminglaptop met een groter chassis.
Voor wie dieper wil: een technische, actueel gehouden gids met VRAM-tabellen per model en GPU-aanbevelingen. Awesome GPU for LLM →