Van 7B- tot 70B+-modellen: een mini-pc voor lokale AI kiezen

Steeds meer mensen draaien AI-modellen lokaal. Lokale LLM's, AI-programmeertools, privé-RAG-kennisbanken, AI-agents, beeldgeneratie en documentanalyse kunnen allemaal op uw eigen hardware worden uitgevoerd, zonder voortdurend elk bestand of onderdeel van uw werkgegevens naar een externe cloudservice te sturen.

Dat maakt een mini-pc voor lokale AI een steeds praktischere optie.

Vergeleken met een groot traditioneel AI-werkstation kan een mini-pc met veel geheugen tegelijk dienen als dagelijkse computer, lokale LLM-server, AI-ontwikkelmachine en homelab-node. Sommige modellen bieden bovendien 64 GB, 96 GB of zelfs 128 GB geheugen, meerdere NVMe-SSD's, OCuLink en snellere netwerkverbindingen, zodat er ruimte overblijft om later een externe GPU of AI-NAS toe te voegen.

Of een mini-pc uw lokale AI-werklast aankan, hangt af van enkele specifiekere vragen:

1. Bent u van plan een 7B-, 14B-, 30B- of 70B-model te draaien?
2. Welk kwantisatieformaat gaat u gebruiken?
3. Hoeveel geheugen is daadwerkelijk beschikbaar?
4. Tot hoeveel geheugen heeft de GPU toegang?
5. Welke geheugenbandbreedte biedt het systeem?
6. Gebruikt uw software voornamelijk de CPU, GPU of NPU?
7. Is uw workflow afhankelijk van NVIDIA CUDA?
8. Hoeveel SSD-ruimte hebben uw modellen, RAG-database en kennisbank nodig?

Dus in plaats van alleen te vragen ‘Wat is de krachtigste AI-mini-pc?’, is een nuttigere vraag ‘Welke lokale modellen en AI-workflows wil ik daadwerkelijk uitvoeren, en welke hardware hebben ze nodig?’

Welk type mini-pc hebben 7B-, 30B- en 70B-modellen nodig?

Het aantal parameters vertaalt zich niet rechtstreeks naar geheugengebruik. Kwantisatie, contextlengte, KV-cache, inferentieframework, besturingssysteem en alle andere software die tegelijkertijd draait, beïnvloeden de uiteindelijke vereisten.

Sommige 70B-modellen passen na kwantisatie naar 4-bit theoretisch binnen een systeem met 64GB, maar het besturingssysteem, de KV-cache, context, RAG-database en andere toepassingen hebben ook geheugen nodig.

Als een lokale LLM van de 70B-klasse regelmatig deel uitmaakt van uw werklast, is 96 GB of 128 GB doorgaans een praktischere keuze voor de lange termijn dan een configuratie waarin alleen het model zelf maar net past.

Welke open modellen zijn zinvol op een mini-pc?

7B–14B: een goed startpunt voor lokale AI

Dit bereik werkt goed voor lokale chats, documentsamenvattingen, eenvoudige AI-assistenten, eenvoudige RAG, lichtere AI-programmeertaken en homelab-experimenten.

Als u pas begint met Ollama, LM Studio of een andere lokale LLM-tool, is er weinig reden om meteen voor een AI-werkstation met 128 GB te kiezen. Een mini-pc met 32 GB kan al een complete lokale AI-testomgeving ondersteunen en tegelijk dienen als gewone kantoor-, ontwikkel- of home-entertainmentmachine.

Daarmee lijkt dit type systeem meer op dagelijkse pc + ontwikkel-pc + lokale AI op instapniveau dan op een specifieke AI-server.

20B–32B: een van de nuttigste bereiken voor persoonlijke lokale AI

Zodra modellen het bereik van 20B–32B bereiken, zijn er meer opties die rechtstreeks aansluiten op praktische werklasten.

1. Mistral Small 24B: nuttig voor algemene chats, functieaanroepen en lokale agents.

2. Qwen3-30B-A3B: nuttig voor redeneren, programmeren, meertalig werk en agentworkflows.

3. Qwen2.5-Coder-32B: meer gericht op het genereren en begrijpen van code en op AI-programmeren.

4. DeepSeek-R1-Distill-Qwen-32B: meer gericht op taken die veel redeneervermogen vereisen.

Hier is het de moeite waard om onderscheid te maken tussen een dicht model en een MoE-model . Qwen3-30B-A3B is geen conventioneel dicht 30B-model waarbij alle parameters bij elke inferentiestap betrokken zijn.

Volgens de officiële modelinformatie van Qwen heeft het ongeveer 30.5B parameters in totaal, waarvan ongeveer 3.3B per token worden geactiveerd. Het is een Mixture-of-Experts-model (MoE). MoE vermindert het aantal parameters dat bij elke inferentiestap betrokken is, maar de volledige modelgewichten nemen nog steeds opslag en geheugen in. Bij het inschatten van de hardwarevereisten mag het dus niet worden behandeld alsof het slechts een 3.3B-model is.

Daarom is ‘30B’ of ‘32B’ in een modelnaam op zichzelf ook onvoldoende om de ervaring te voorspellen. De modelarchitectuur en kwantisatie zijn eveneens belangrijk.

Voor lokaal AI-programmeren, privé-RAG, persoonlijke kennisbanken en AI-agents is het bereik van lokale LLM's in de 30B-klasse bijzonder interessant. Dit is ook het punt waarop een mini-pc met 64 GB zinvol begint te worden als echt werkstation voor persoonlijke lokale AI-ontwikkeling in plaats van enkel een pc met veel RAM.

70B: lokale assistenten van hogere kwaliteit en grotere RAG-systemen

70B-modellen hebben doorgaans aanzienlijk meer geheugen nodig. Een goed voorbeeld is Llama 3.3 70B Instruct. Meta presenteert dit als een meertalig tekstmodel met 70 miljard parameters dat onder meer Engels, Duits, Frans, Italiaans, Portugees en Spaans ondersteunt. Dit maakt het bijzonder relevant voor Europese toepassingen van lokale AI.

Een productie- of ingenieursbedrijf in Duitsland kan bijvoorbeeld producthandleidingen, onderhouds- en reparatiedocumentatie, kwaliteitscontrolemateriaal, interne processen, productkennis, klantvragen en aftersalesgegevens in een eigen lokale kennisbank bewaren.

Die documenten kunnen in het Engels, Duits, Frans en Italiaans zijn. Een meertalige lokale LLM van de 70B-klasse kan boven op het RAG-systeem worden gebruikt om dit materiaal te doorzoeken, samen te vatten en te ordenen.

In die opstelling verzorgt een mini-pc of lokaal AI-werkstation de AI-rekenkracht.

Een NAS beheert modellen + documenten + RAG-kennisbank + projecten + back-ups.

Zo ontstaat vanzelf een typische opstelling met mini-pc voor lokale AI + AI-NAS + RAG opstelling.

Waarom werkt een mini-pc goed voor lokale AI?

Van oudsher waren de GPU-capaciteit en interne uitbreidingsmogelijkheden de duidelijkste beperkingen van een mini-pc.

Lokale AI brengt een ander hardwareprobleem met zich mee. Veel grotere lokale modellen hebben allereerst voldoende geheugen nodig zodat de CPU of GPU überhaupt toegang tot het model heeft. Mini-pc's met veel geheugen zijn zeer geschikt om dit type hardwareomgeving te bieden.

Meer geheugen vergroot het aanbod lokale LLM's dat u kunt draaien

Grafische kaarten voor consumenten worden meestal geleverd met een vaste hoeveelheid VRAM. Een GPU kan zeer snel zijn, maar als het model aanzienlijk groter is dan het beschikbare VRAM, moet een deel van de werklast naar het systeemgeheugen uitwijken of een vorm van CPU/GPU-offloading gebruiken.

Dat is een van de redenen waarom mini-pc's met veel geheugen relevanter zijn geworden voor gebruikers van lokale LLM's. 32 GB, 64 GB, 96 GB en 128 GB zijn niet langer alleen niveaus voor algemene multitasking. Ze beginnen ook overeen te komen met verschillende niveaus van lokale LLM-capaciteit.

Gedeeld geheugen geeft geïntegreerde GPU's meer flexibiliteit

Geïntegreerde GPU's zoals de Radeon 780M en Radeon 890M werken niet met een volledig vaste VRAM-pool van 8 GB, 12 GB of 16 GB zoals een conventionele afzonderlijke GPU. Ze kunnen gedeeld systeemgeheugen gebruiken.

Met de juiste software, drivers en inferentiebackend kan een grotere pool systeemgeheugen meer geheugen beschikbaar maken voor lokale AI-werklasten. Voor sommige gebruikers van lokale LLM's verschillen 64 GB RAM + geïntegreerde GPU en 32 GB RAM + geïntegreerde GPU dus in meer opzichten dan alleen gewone pc-multitasking.

Het extra geheugen kan ook bepalen hoeveel ruimte beschikbaar is voor lokale modellen, context, RAG-services en andere toepassingen die tegelijkertijd draaien.

Uniform geheugen brengt een mini-pc dichter bij een AI-werkstation

Platforms zoals Ryzen AI Max+ 395 werken dit idee verder uit. Ze gebruiken LPDDR5x-geheugen met hoge capaciteit en bandbreedte, waarbij de CPU en Radeon 8060S rond een grote uniforme geheugenpool werken.

In deze context betekent 128 GB niet simpelweg ‘de CPU heeft 128 GB RAM’. De waarde zit erin dat een grote geheugenpool de CPU, GPU en de bredere lokale AI-workflow gezamenlijk kan bedienen.

De geheugencapaciteit bepaalt hoe groot een model en hoe complex een workflow kan zijn; een hogere geheugenbandbreedte en krachtigere GPU kunnen vervolgens de reactiesnelheid en inferentieprestaties tijdens dagelijks gebruik verbeteren.

De echte aantrekkingskracht van een platform met uniform geheugen met hoge capaciteit ontstaat wanneer groot lokaal model + GPU-toegang + multitasking allemaal op dezelfde machine nodig zijn.

Moet u voor lokale AI vooral op de CPU, GPU of NPU letten?

Alle drie zijn belangrijk, maar ze vervullen verschillende taken.

CPU vormt de basis van het hele systeem. Het besturingssysteem, Docker, databases, embeddings, RAG-services, codecompilatie en bepaalde modelinferentie kunnen allemaal op de CPU steunen. Als de mini-pc ook moet dienen als ontwikkelmachine, homelab-node en lokale AI-server, worden sterkere multicore-CPU-prestaties nuttiger.

GPU is belangrijker voor veel werklasten met lokale LLM's, beeldgeneratie en visuele AI. Naast de ruwe rekenkracht is het verstandig om te controleren tot hoeveel geheugen de GPU toegang heeft en of het gewenste inferentieframework die GPU-backend ondersteunt.

NPU is een energiezuinige versneller die specifiek voor AI-werklasten is ontworpen. Deze kan compatibele AI-functies op het apparaat zelfstandig verwerken, zodat meer AI-taken niet volledig van de CPU of GPU afhankelijk zijn.

Bij het kiezen van een mini-pc voor lokale AI is het zinvoller om geheugencapaciteit + GPU + softwareondersteuning + NPU gezamenlijk te bekijken dan systemen uitsluitend op TOPS te rangschikken.

Als een lokale LLM uw hoofddoel is, begin dan bij de modelgrootte en het geheugen. Gebruikt u voornamelijk beeldgeneratie of GPU-versnelde software, let dan extra op de GPU-capaciteit en softwarecompatibiliteit. Verwacht u meer AI-functies van Windows op het apparaat of voor de NPU geoptimaliseerde toepassingen te gebruiken, dan wordt de NPU relevanter.

Hoe kiest u tussen verschillende typen mini-pc voor lokale AI?

Mini-pc met 32 GB: instapniveau voor lokale AI

Dit niveau is geschikt voor lokale 7B–14B-modellen, sommige grotere gekwantiseerde modellen, eenvoudige RAG, AI-programmeren op instapniveau, Ollama, LM Studio en homelabgebruik.

Denk aan een student of zelfstandige ontwikkelaar in Frankrijk of Duitsland die een lokale programmeerassistent wil draaien en tegelijk VS Code, een browser en Docker wil gebruiken.

In die situatie is er weinig reden om met een AI-werkstation van 128 GB te beginnen. Een mini-pc met 32 GB kan op één machine al dienen als dagelijkse pc + ontwikkel-pc + lokale AI op instapniveau op één machine.

Mini-pc met 64 GB: persoonlijke lokale AI van 30B+

Dit is een praktischer niveau voor mensen die regelmatig lokale AI willen gebruiken. Het past bij modellen en werklasten zoals Mistral Small 24B, Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, RAG, lokale programmeerassistenten, AI-agents en meerdere op Docker gebaseerde AI-services.

Een Europese freelanceontwikkelaar kan bijvoorbeeld lokaal een programmeermodel van de 30B-klasse draaien en tegelijkertijd een IDE, Git, Docker, browser, database en lokale LLM-server openhouden.

De waarde van 64 GB is dat de rest van de ontwikkelomgeving kan blijven werken terwijl het model draait.

Mini-pc met 96 GB–128 GB: lokale LLM van 70B

Als het hoofddoel al Llama 3.3 70B, een meertalige assistent van de 70B-klasse, een groter RAG-systeem, een lange context, meerdere agents of meerdere modellen tegelijk is, is het tijd om naar platforms met een hogere capaciteit te kijken.

Sommige naar 4 bits gekwantiseerde 70B-modellen vallen op een systeem met 64 GB binnen het bereik ‘mogelijk om te proberen’. Als 70B echter een reguliere werklast wordt, is 96 GB–128 GB praktischer.

Het systeem heeft tegelijkertijd ruimte nodig voor modelgewichten + KV-cache + besturingssysteem + RAG + database + toepassingen tegelijkertijd.

AI-werkstation met 128 GB uniform geheugen: 70B+ en grotere lokale modellen

Dit is een andere productcategorie dan een conventionele mini-pc voor kantoorwerk. Het lijkt meer op een compact AI-werkstation / lokaal LLM-werkstation / privé-AI-server.

Het is geschikter voor lokale LLM's van 70B, grote gekwantiseerde modellen, experimenten met modellen van 100B+, AI-agents met meerdere modellen, particuliere zakelijke kennisbanken, AI-labs en gedeelde inferentie voor kleine teams.

Het belangrijkste is niet alleen de capaciteit, maar de combinatie van uniform geheugen met hoge capaciteit + hoge geheugenbandbreedte + krachtige geïntegreerde GPU.

Hoe kan een Europees homelab voor lokale AI eruitzien?

Neem een gebruiker in Duitsland of elders in Europa die overdag een computer nodig heeft voor ontwikkeling en werk en later lokale AI op dezelfde opstelling wil draaien.

Deze persoon kan ook een lokale LLM, familiefoto's, werkdocumenten, een RAG-kennisbank, Docker-services, automatische back-ups en AI-agents hebben.

De eenvoudigste eerste fase is meestal één mini-pc. Die kan fungeren als werkstation + lokale AI-server + ontwikkelmachine. Zolang de modelbibliotheek en dataset nog relatief klein zijn, kan alles op interne NVMe-opslag blijven staan. Later kan een NAS worden toegevoegd naarmate de lokale AI-omgeving groeit.

Op dat moment geldt: mini-pc = rekenlaag, voor inferentie van lokale LLM's, AI-agents, embeddings, programmeren en beeldgeneratie.

NAS = gegevenslaag, voor het opslaan van modellen, documenten, de RAG-kennisbank, media, projecten en back-ups.

Als beide systemen snellere netwerkverbindingen zoals 10GbE hebben, kan de lokale AI-server grotere kennisbanken en projectgegevens rechtstreeks vanaf de NAS benaderen. Voor Europese homelabs, kleine studio's, zelfstandige ontwikkelaars en kleine teams is zo'n opstelling met mini-pc + NAS voor lokale AI op termijn eenvoudiger uit te breiden dan elke taak permanent in één apparaat te forceren.

Als u de rollen van een rekensysteem en gecentraliseerde opslag nog vergelijkt, lees dan Mini-pc of NAS? Wat ik leerde bij het kiezen tussen beide.

Heeft een mini-pc voor lokale AI een NAS nodig?

Aanvankelijk meestal niet. Als u slechts enkele modellen en een privékennisbank gebruikt, is de eigen NVMe-opslag van de mini-pc normaal gesproken voldoende.

Naarmate de lokale AI-omgeving uitgroeit tot meerdere 30B- of 70B-modellen, grote embeddingverzamelingen, documentdatabases, afbeeldingen en video, verschillende modelversies, teambestanden en automatische back-ups, wordt een NAS nuttiger.

Een mini-pc levert voornamelijk rekenkracht voor lokale AI.

Een NAS biedt voornamelijk opslag voor lokale AI.

Daarom zijn een mini-pc voor lokale AI en een AI-NAS niet echt concurrerende producten. U kunt ze beter zien als twee onderdelen van dezelfde privé-AI-infrastructuur.

Voor een persoonlijke opstelling is het redelijk om met één mini-pc te beginnen. Wanneer de modellen, documenten en back-ups groeien, kan de opslag later worden afgesplitst. Dat maakt het ook eenvoudiger om het lokale AI-werkstation later te upgraden zonder telkens de volledige dataset te verplaatsen.

Hoeveel SSD-opslag heeft een mini-pc voor lokale AI nodig?

Modelbestanden zijn slechts één onderdeel van een lokale AI-omgeving. Na verloop van tijd raakt lokale opslag ook gevuld met verschillende modelkwantisaties, embeddingmodellen, vectordatabases, Docker-images, codeopslagplaatsen, kennisbankbestanden, afbeeldingen, video en gegenereerde uitvoer.

1TB is geschikter voor iemand die pas begint met lokale AI en slechts een klein aantal modellen en projecten bewaart.

2TB is praktischer voor langdurig AI-programmeren, RAG of het tegelijk onderhouden van meerdere modellen.

4 TB of meer is zinvoller voor grotere modelbibliotheken, AI-projecten voor afbeeldingen en video, omvangrijke kennisbanken en professionele workflows.

Controleer naast de capaciteit van de vooraf geïnstalleerde SSD hoeveel M.2-slots de mini-pc daadwerkelijk heeft. Een systeem met twee of drie M.2-slots biedt meer flexibiliteit om het besturingssysteem, de modellen en projectgegevens te scheiden naarmate de opslagbehoefte groeit.

Bekijk voor een bredere bespreking van capaciteit onze gids voor SSD-opslag in mini-pc's.

Wanneer is OCuLink + een externe GPU zinvol?

Niet elke gebruiker van lokale AI heeft een afzonderlijke GPU nodig.

OCuLink is zinvoller wanneer de CPU, het geheugen en de opslag nog toereikend zijn, maar de GPU-vereisten blijven toenemen. Dat kan betekenen dat u meer GPU-versnelde tools voor beeldgeneratie gebruikt, professionele software draait waarvoor NVIDIA CUDA nodig is, meer GPU-inferentieprestaties nodig hebt of dezelfde mini-pc gebruikt voor geavanceerdere games en contentcreatie.

In dat geval kunt u via OCuLink een desktop-GPU toevoegen en de oorspronkelijke mini-pc behouden, in plaats van het hele systeem te vervangen.

Als u die upgrademogelijkheid overweegt, lees dan onze gids voor OCuLink-eGPU-docks.

Een MINISFORUM-mini-pc voor lokale AI kiezen op basis van modelgrootte

X1-Lite 255: lokale AI op instapniveau voor 7B–14B-modellen

De X1-Lite 255 wordt geleverd met 32 GB DDR5 en 1 TB SSD-opslag, plus Radeon 780M-grafische hardware, USB4 en OCuLink.

Hij is geschikter voor lokale 7B–14B-LLM's, RAG op instapniveau, experimenten met AI-programmeren, homelabgebruik en dagelijks computergebruik. Zijn rol is eenvoudig: een voordeligere instap in lokale AI, waarbij later nog een upgrademogelijkheid naar een externe GPU beschikbaar is.

UM880 Plus: een upgradebare mini-pc voor lokale AI / homelab

De UM880 Plus biedt upgradebaar DDR5-geheugen, dubbele M.2-opslag en OCuLink.

Hij past beter bij gebruikers die met een gewone ontwikkelmachine willen beginnen en deze geleidelijk in een lokale AI-server willen veranderen. Hij kan bijvoorbeeld beginnen met 32 GB voor 7B–14B-modellen en na een geheugenupgrade doorgroeien naar 20B–32B-modellen, RAG en meer Docker-services. Als de GPU uiteindelijk de bottleneck wordt, laat OCuLink ruimte om een desktopgrafische kaart toe te voegen.

Het belangrijkste voordeel is het upgradetraject.

AI X1 Pro-370: startpunt met 64 GB voor persoonlijke lokale AI van 30B+

De AI X1 Pro-370 wordt geleverd met 64 GB RAM en een SSD van 2 TB en ondersteunt tot 128 GB DDR5.

Voor persoonlijke gebruikers van lokale AI brengt 64 GB duidelijk andere typen werklasten binnen bereik. Het is zeer geschikt voor Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, lokale RAG, AI-programmeren, AI-agents en contentcreatie.

Ondersteuning tot 128 GB biedt ook meer geheugenruimte voor grotere gekwantiseerde modellen in de toekomst.

MS-S1 MAX: lokaal AI-werkstation met uniform geheugen voor 70B+

De MS-S1 MAX combineert Ryzen AI Max+ 395 met Radeon 8060S-grafische hardware en ondersteunt tot 128 GB uniform LPDDR5x-geheugen.

Hij is gericht op werklasten zoals lokale 70B-LLM's, Llama 3.3 70B, grotere RAG-systemen, workflows met meerdere agents, omvangrijke lokale kennisbanken, privé-AI-servers, AI-labs en implementaties voor kleine teams.

Voor dit type werklast is de belangrijke combinatie 128 GB uniform geheugen + hoge geheugenbandbreedte + Radeon 8060S. Daarmee lijkt hij meer op een compact lokaal AI-werkstation dan op een conventionele mini-pc.

Als u dit type AI-platform met hoge capaciteit vergelijkt met een traditionelere krachtige mini-pc, lees dan Ryzen AI Max+ 395 versus krachtige Intel-mini-pc's.

Waarom zouden Europese gebruikers een mini-pc voor lokale AI overwegen?

Voor personen, freelancers en kleine of middelgrote teams in Europa draait de waarde van lokale AI niet alleen om prestaties.

Een ontwerpstudio in Duitsland houdt niet-gepubliceerd klantmateriaal mogelijk liever op eigen apparaten en het eigen netwerk.

Een ontwikkelteam in Frankrijk wil zijn codebase, testgegevens en interne documentatie mogelijk voornamelijk binnen de eigen lokale omgeving houden.

Een detailhandelaar, groothandelaar of kleine fabrikant die in meerdere EU-landen verkoopt, beheert mogelijk productinformatie, technische documenten, klantvragen, reparatiemateriaal en interne standaardprocedures in het Engels, Duits, Frans, Italiaans en Spaans. Een opstelling met meertalige lokale LLM + RAG kan die informatie samenbrengen in een interne AI-kennisbank voor ondersteuning van de klantenservice, productvragen, intern zoeken, documentorganisatie en personeelstraining.

Lokale AI kan de hoeveelheid werkgegevens verminderen die voortdurend naar externe AI-services moet worden verzonden.

Wat moeten Europese kopers nog meer controleren voordat ze een mini-pc voor lokale AI kopen?

Zodra een systeem zich van een standaard mini-pc met 32 GB naar 64 GB, 128 GB of het niveau van een AI-werkstation ontwikkelt, draait de aankoopbeslissing niet meer alleen om CPU, GPU en geheugen. Lokale aftersalesondersteuning en reparatieroutes worden dan ook onderdeel van de werkelijke eigendomskosten.

De MINISFORUM EU-winkel verkoopt MINISFORUM-mini-pc's, werkstations en NAS-systemen aan Europese klanten. Voor bestellingen die naar EU-landen worden verzonden, vermeldt de winkel dat de btw bij de weergegeven prijs is inbegrepen en dat voorradige producten vanuit het Duitse magazijn worden verzonden.

Voor in aanmerking komende pc's, werkstations en NAS-producten die op of na 9 maart 2026 bij de EU-winkel zijn gekocht, biedt het huidige garantiebeleid 36 maanden dekking. MINISFORUM EU biedt ook een Europees reparatieproces, met het EU-reparatiecentrum in Hamburg, Duitsland.

Voor een mini-pc voor lokale AI met hoge capaciteit is het daarom zinvol om EU-btw + Duits magazijn + EU-garantie + Europese reparatie naast de hardware zelf te overwegen. Geen van deze factoren vergroot de modellen die u kunt draaien, maar ze beïnvloeden wel de aankoop-, reparatie- en aftersaleskosten van het bezit van een geavanceerd AI-werkstation in Europa.

Als u slechts drie dingen overweegt

1. Begin bij de toepassing en het model en kies daarna de mini-pc.

Werklasten van 7B, 30B en 70B vereisen sterk verschillende hardware.

2. Controleer voor lokale AI eerst de geheugencapaciteit en geheugenarchitectuur.

Het model, de context en de rest van de AI-workflow hebben allemaal ruimte in het beschikbare geheugen nodig.

3. Een lokale AI-opstelling met mini-pc + NAS lost twee verschillende problemen op.

De mini-pc verzorgt de rekenkracht. De NAS beheert modellen, documenten, kennisbanken en back-ups. Naarmate de lokale AI-omgeving groeit, kan elke kant worden geüpgraded of afgesplitst zonder telkens het hele systeem opnieuw op te bouwen.