Från 7B till 70B+ modeller: Så väljer du en Mini PC för lokal AI

Fler börjar köra AI-modeller lokalt. Lokala LLM:er, AI-kodverktyg, privata RAG-kunskapsbaser, AI-agenter, bildgenerering och dokumentanalys kan alla köras på din egen hårdvara utan att varje fil eller del av arbetsdata hela tiden skickas till en tredjepartstjänst i molnet.

Det gör en Mini PC för lokal AI till ett allt mer praktiskt alternativ.

Jämfört med en stor traditionell AI-arbetsstation kan en Mini PC med mycket minne fungera både som vardagsdator, lokal LLM-server, AI-utvecklingsmaskin och hemmalabb-nod. Vissa modeller erbjuder dessutom 64GB, 96GB eller till och med 128GB minne, flera NVMe SSD-enheter, OCuLink och snabbare nätverk, vilket lämnar utrymme för att senare lägga till en extern GPU eller AI NAS.

Om en Mini PC kan hantera din arbetsbelastning för lokal AI beror på några mer specifika frågor:

1. Planerar du att köra en 7B-, 14B-, 30B- eller 70B-modell?
2. Vilket kvantiseringsformat ska du använda?
3. Hur mycket minne är faktiskt tillgängligt?
4. Hur mycket minne kan GPU:n komma åt?
5. Vilken typ av minnesbandbredd erbjuder systemet?
6. Använder din programvara främst CPU, GPU eller NPU?
7. Är ditt arbetsflöde beroende av NVIDIA CUDA?
8. Hur mycket SSD-utrymme behöver dina modeller, din RAG-databas och kunskapsbas?

Så i stället för att bara fråga ”Vilken är den kraftfullaste AI Mini PC:n?”är en mer användbar fråga ”Vilka lokala modeller och AI-arbetsflöden vill jag faktiskt köra, och vilken hårdvara behöver de?”

Vilken typ av Mini PC behöver 7B-, 30B- och 70B-modeller?

Antalet parametrar motsvarar inte direkt minnesanvändningen. Kvantisering, kontextlängd, KV cache, inferensramverk, operativsystem och annan programvara som körs samtidigt påverkar alla det slutliga behovet.

Vissa 70B-modeller kan rymmas inom det teoretiska området för ett 64GB-system när de kvantiseras till 4-bit, men även operativsystemet, KV cache, kontext, RAG-databas och andra program behöver minne.

Om en lokal LLM i 70B-klassen ska vara en regelbunden del av din arbetsbelastning är 96GB eller 128GB vanligtvis ett mer praktiskt långsiktigt val än en konfiguration som precis rymmer själva modellen.

Vilka öppna modeller passar bra på en Mini PC?

7B–14B: En bra startpunkt för lokal AI

Det här intervallet fungerar bra för lokal chatt, dokumentsammanfattningar, grundläggande AI-assistenter, enkel RAG, lättare AI-kodning och hemmalabb-experiment.

Om du precis har börjat med Ollama, LM Studio eller ett annat lokalt LLM-verktyg finns det liten anledning att gå direkt till en 128GB AI-arbetsstation. En 32GB Mini PC kan redan stödja en komplett testmiljö för lokal AI och samtidigt fungera som en vanlig kontors-, utvecklings- eller hemunderhållningsdator.

Det placerar den här typen av system närmare Vardags-PC + utvecklings-PC + lokal AI på instegsnivå än en dedikerad AI-server.

20B–32B: Ett av de mest användbara intervallen för personlig lokal AI

När modeller går upp till 20B–32B finns det fler alternativ som direkt motsvarar verkliga arbetsbelastningar.

1. Mistral Small 24B: användbart för allmän chatt, funktionsanrop och lokala agenter.

2. Qwen3-30B-A3B: användbart för resonemang, kodning, flerspråkigt arbete och agentarbetsflöden.

3. Qwen2.5-Coder-32B: mer inriktat på kodgenerering, kodförståelse och AI-kodning.

4. DeepSeek-R1-Distill-Qwen-32B: mer inriktat på resonemangstunga uppgifter.

Det är värt att skilja mellan en Tät modell och en MoE-modell här. Qwen3-30B-A3B är inte en konventionell dense 30B-modell där alla parametrar deltar i varje inferenssteg.

Enligt Qwens officiella modellinformation har den omkring 30.5B totala parametrar, varav cirka 3.3B aktiveras per token. Det är en Mixture-of-Experts (MoE)-modell. MoE minskar antalet parametrar som deltar i varje inferenssteg, men hela modellvikterna tar fortfarande lagringsutrymme och minne, så den bör inte behandlas som om den bara vore en 3.3B-modell när hårdvarukraven uppskattas.

Det är också därför ”30B” eller ”32B” i ett modellnamn inte ensamt räcker för att förutsäga upplevelsen. Modellarkitektur och kvantisering spelar också roll.

För lokal AI-kodning, privat RAG, personliga kunskapsbaser och AI-agenter är Lokal LLM i 30B-klassen särskilt intressant. Det är också här en 64GB Mini PC börjar bli meningsfull som en genuin personlig utvecklingsarbetsstation för lokal AI snarare än bara en PC med mycket RAM.

70B: Lokala assistenter med högre kvalitet och större RAG-system

70B-modeller behöver vanligtvis betydligt mer minne. Ett bra exempel är Llama 3.3 70B Instruct. Meta positionerar den som en flerspråkig textmodell med 70B, med stöd för bland annat engelska, tyska, franska, italienska, portugisiska och spanska. Det gör den särskilt relevant för europeiska användningsområden för lokal AI.

Till exempel skulle ett tillverknings- eller teknikföretag i Germany kunna behålla produktmanualer, underhålls- och reparationsdokumentation, kvalitetskontrollmaterial, interna processer, produktkunskap, kundfrågor och eftermarknadsregister i sin egen lokala kunskapsbas.

Dokumenten kan omfatta engelska, tyska, franska och italienska. En flerspråkig lokal LLM i 70B-klassen kan ligga ovanpå RAG-systemet för att söka, sammanfatta och organisera materialet.

I den installationen hanterar en Mini PC eller lokal AI-arbetsstation AI-beräkning.

En NAS hanterar Modeller + dokument + RAG-kunskapsbas + projekt + säkerhetskopior.

Det skapar naturligt en typisk Lokal AI Mini PC + AI NAS + RAG installation.

Varför fungerar en Mini PC bra för lokal AI?

Historiskt har de tydligaste begränsningarna hos en Mini PC varit GPU-kapacitet och intern expansion.

Lokal AI introducerar ett annat hårdvaruproblem. Många större lokala modeller behöver först tillräckligt med minne för att CPU:n eller GPU:n faktiskt ska kunna komma åt modellen, och Mini PC-datorer med mycket minne lämpar sig väl för att erbjuda den typen av hårdvarumiljö.

Mer minne utökar utbudet av lokala LLM-modeller du kan köra

Grafikkort för konsumentdatorer levereras vanligtvis med en fast mängd VRAM. En GPU kan vara mycket snabb, men om modellen är betydligt större än tillgängligt VRAM måste en del av arbetsbelastningen flyttas till systemminnet eller använda någon form av CPU/GPU-offload.

Det är en anledning till att Mini PC-datorer med mycket minne har blivit mer relevanta för lokala LLM-användare. 32GB, 64GB, 96GB och 128GB är inte längre bara olika nivåer för allmän multitasking. De börjar också motsvara olika nivåer av kapacitet för lokal LLM.

Delat minne ger integrerade GPU:er större flexibilitet

Integrerade GPU:er som Radeon 780M och Radeon 890M arbetar inte med en helt fast pool på 8GB, 12GB eller 16GB VRAM på samma sätt som en konventionell diskret GPU. De kan använda delat systemminne.

Med rätt programvara, drivrutiner och inferensbackend kan en större pool av systemminne göra mer minne tillgängligt för arbetsbelastningar inom lokal AI. För vissa lokala LLM-användare skiljer sig därför 64GB RAM + integrerad GPU och 32GB RAM + integrerad GPU åt på mer än vanlig PC-multitasking.

Det extra minnet kan också påverka hur mycket utrymme som finns för lokala modeller, kontext, RAG-tjänster och andra program som körs samtidigt.

Enhetligt minne för en Mini PC närmare AI-arbetsstationsklassen

Plattformar som Ryzen AI Max+ 395 tar idén längre. De använder LPDDR5x-minne med hög kapacitet och hög bandbredd, där CPU:n och Radeon 8060S arbetar kring en stor pool med enhetligt minne.

I det här sammanhanget betyder 128GB inte bara ”CPU:n har 128GB RAM”. Värdet ligger i att en stor minnespool kan betjäna CPU, GPU och det bredare arbetsflödet för lokal AI tillsammans.

Minneskapaciteten påverkar hur stor modell och hur komplext arbetsflöde du kan hantera. Högre minnesbandbredd och en starkare GPU kan sedan förbättra respons och inferensprestanda i vardaglig användning.

Den verkliga styrkan hos en plattform med enhetligt minne med hög kapacitet uppstår när Stor lokal modell + GPU-åtkomst + multitasking alla behöver finnas på samma maskin.

För lokal AI, bör du fokusera på CPU, GPU eller NPU?

Alla tre spelar roll, men de gör olika jobb.

CPU är grunden för hela systemet. Operativsystemet, Docker, databaser, embeddings, RAG-tjänster, kodkompilering och viss modellinferens kan alla vara beroende av CPU:n. Om Mini PC:n också ska fungera som utvecklingsmaskin, hemmalabb-nod och lokal AI-server blir starkare flerkärnig CPU-prestanda mer användbar.

GPU är viktigare för många arbetsbelastningar inom lokal LLM, bildgenerering och visuell AI. Utöver rå beräkningskraft är det värt att kontrollera hur mycket minne GPU:n kan komma åt och om inferensramverket du planerar att använda stöder den GPU-backenden.

NPU är en strömsnål accelerator som är särskilt utformad för AI-arbetsbelastningar. Den kan hantera kompatibla AI-funktioner direkt på enheten självständigt, så fler AI-uppgifter behöver inte helt förlita sig på CPU eller GPU.

När du väljer en Mini PC för lokal AI är det mer logiskt att titta på Minneskapacitet + GPU + programvarustöd + NPU tillsammans i stället för att rangordna system enbart efter TOPS.

Om ditt huvudmål är en lokal LLM, börja med modellstorlek och minne. Om du främst använder bildgenerering eller GPU-accelererad programvara, lägg större vikt vid GPU-kapacitet och programvarukompatibilitet. Om du förväntar dig att använda fler Windows-funktioner för AI direkt på enheten eller NPU-optimerade program blir NPU:n mer relevant.

Hur bör du välja mellan olika typer av Mini PC för lokal AI?

32GB Mini PC: Lokal AI på instegsnivå

Den här nivån passar för lokala 7B–14B-modeller, vissa kvantiserade större modeller, enkel RAG, AI-kodning på instegsnivå, Ollama, LM Studio och hemmalabb-användning.

Föreställ dig en student eller oberoende utvecklare i France eller Germany som vill köra en lokal kodassistent och samtidigt använda VS Code, en webbläsare och Docker.

I den situationen finns det liten anledning att börja med en 128GB AI-arbetsstation. En 32GB Mini PC kan redan täcka Vardags-PC + utvecklings-PC + lokal AI på instegsnivå på en enda maskin.

64GB Mini PC: 30B+ personlig lokal AI

Det här är en mer praktisk nivå för personer som förväntar sig att använda lokal AI regelbundet. Den passar modeller och arbetsbelastningar som Mistral Small 24B, Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, RAG, lokala kodassistenter, AI-agenter och flera Docker-baserade AI-tjänster.

En europeisk frilansutvecklare skulle till exempel kunna köra en kodmodell i 30B-klassen lokalt och samtidigt ha en IDE, Git, Docker, en webbläsare, en databas och en lokal LLM-server öppna.

Värdet med 64GB är att resten av utvecklingsmiljön kan fortsätta fungera medan modellen körs.

96GB–128GB Mini PC: 70B lokal LLM

Om huvudmålet redan är Llama 3.3 70B, en flerspråkig assistent i 70B-klassen, ett större RAG-system, lång kontext, flera agenter eller flera modeller samtidigt är det dags att titta på plattformar med högre kapacitet.

Vissa 4-bit-kvantiserade 70B-modeller kan komma in i området ”möjligt att prova” på ett 64GB-system. Men om 70B ska vara en regelbunden arbetsbelastning är 96GB–128GB mer praktiskt.

Systemet behöver utrymme för Modellvikter + KV cache + OS + RAG + databas + program samtidigt.

128GB enhetligt minne i AI-arbetsstation: 70B+ och större lokala modeller

Det här är en annan produktkategori än en konventionell Mini PC för kontorsbruk. Den ligger närmare en Kompakt AI-arbetsstation / lokal LLM-arbetsstation / privat AI-server.

Den passar bättre för 70B lokala LLM-modeller, stora kvantiserade modeller, experiment med 100B+ modeller, AI-agenter med flera modeller, privata kunskapsbaser för företag, AI-laboratorier och delad inferens för små team.

Det viktiga är inte bara kapaciteten utan kombinationen av Enhetligt minne med hög kapacitet + hög minnesbandbredd + kraftfull integrerad GPU.

Hur kan ett europeiskt hemmalabb för lokal AI se ut?

Ta en användare i Germany eller någon annanstans i Europe som behöver en dator för utveckling och arbete på dagen och sedan vill köra lokal AI på samma installation senare.

De kan också ha en lokal LLM, familjefoton, arbetsdokument, en RAG-kunskapsbas, Docker-tjänster, automatiska säkerhetskopior och AI-agenter.

Det enklaste första steget är vanligtvis en enda Mini PC. Den kan fungera som en Arbetsstation + lokal AI-server + utvecklingsmaskin. Så länge modellbiblioteket och datauppsättningen fortfarande är relativt små kan allt ligga på intern NVMe-lagring. En NAS kan läggas till senare när miljön för lokal AI växer.

Då blir Mini PC = beräkningslager, som hanterar lokal LLM-inferens, AI-agenter, embeddings, kodning och bildgenerering.

NAS = datalager, som lagrar modeller, dokument, RAG-kunskapsbasen, media, projekt och säkerhetskopior.

Om båda systemen har snabbare nätverk som 10GbE kan den lokala AI-servern komma åt större kunskapsbaser och projektdata direkt från NAS:en. För europeiska hemmalabb, små studior, oberoende utvecklare och små team är en sådan Mini PC + NAS för lokal AI installation enklare att bygga ut över tid än att permanent tvinga in varje uppgift i en enda enhet.

Om du fortfarande jämför rollerna för ett beräkningssystem och centraliserad lagring, se Mini PC eller NAS? Vad jag lärde mig när jag valde mellan dem.

Behöver en Mini PC för lokal AI en NAS?

Vanligtvis inte i början. Om du bara kör några få modeller och en privat kunskapsbas räcker Mini PC:ns egen NVMe-lagring normalt.

När miljön för lokal AI växer till att omfatta flera 30B- eller 70B-modeller, stora embeddingsamlingar, dokumentdatabaser, bilder och video, olika modellversioner, teamfiler och automatiska säkerhetskopior blir en NAS mer användbar.

En Mini PC är främst beräkning för lokal AI.

En NAS är främst lagring för lokal AI.

Därför är en Mini PC för lokal AI och en AI NAS egentligen inte konkurrerande produkter. De förstås bättre som två delar av samma privata AI-infrastruktur.

För en personlig installation är det rimligt att börja med en Mini PC. När modeller, dokument och säkerhetskopior växer kan lagringen separeras senare. Det gör det också enklare att uppgradera den lokala AI-arbetsstationen i framtiden utan att flytta hela datauppsättningen varje gång.

Hur mycket SSD-lagring behöver en Mini PC för lokal AI?

Modellfiler är bara en del av en lokal AI-miljö. Med tiden fylls den lokala lagringen också av olika modellkvantiseringar, embeddingmodeller, vektordatabaser, Docker-avbilder, kodarkiv, filer för kunskapsbaser, bilder, video och genererad utdata.

1TB passar bättre för den som precis börjar med lokal AI och bara behåller ett litet antal modeller och projekt.

2TB är mer praktiskt för långsiktig AI-kodning, RAG eller för att underhålla flera modeller samtidigt.

4TB eller mer är mer logiskt för större modellbibliotek, AI-projekt med bild och video, omfattande kunskapsbaser och professionella arbetsflöden.

Utöver den förinstallerade SSD-kapaciteten bör du kontrollera hur många M.2-platser Mini PC:n faktiskt har. Ett system med två eller tre M.2-platser ger större flexibilitet att separera operativsystem, modeller och projektdata när lagringsbehovet växer.

För en bredare genomgång av kapacitet, se vår Guide till SSD-lagring för Mini PC.

När är OCuLink + en extern GPU meningsfullt?

Alla användare av lokal AI behöver inte en dedikerad GPU.

OCuLink är mer logiskt när CPU, minne och lagring fortfarande räcker, men GPU-kraven fortsätter att öka. Det kan innebära att fler GPU-accelererade bildgenereringsverktyg används, att professionell programvara kräver NVIDIA CUDA, att högre GPU-inferensprestanda behövs eller att samma Mini PC används för mer avancerad gaming och innehållsskapande.

I så fall kan du lägga till en stationär GPU via OCuLink och behålla den ursprungliga Mini PC:n i stället för att byta ut hela systemet.

Om du överväger den uppgraderingsvägen, se vår guide till OCuLink eGPU-docka.

Välj en MINISFORUM Mini PC för lokal AI efter modellstorlek

X1-Lite 255: Lokal AI på instegsnivå för 7B–14B-modeller

X1-Lite 255 levereras med 32GB DDR5 och 1TB SSD-lagring samt Radeon 780M-grafik, USB4 och OCuLink.

Den passar bättre för 7B–14B lokala LLM-modeller, RAG på instegsnivå, AI-kodningsexperiment, hemmalabb-användning och vardaglig databehandling. Rollen är enkel: en billigare väg in i lokal AI, med möjlighet att senare uppgradera med en extern GPU.

UM880 Plus: En uppgraderingsbar Mini PC för lokal AI / hemmalabb

UM880 Plus erbjuder uppgraderingsbart DDR5-minne, dubbla M.2-lagringsenheter och OCuLink.

Den passar bättre för användare som vill börja med en vanlig utvecklingsmaskin och gradvis göra om den till en lokal AI-server. Den kan till exempel börja med 32GB för 7B–14B-modeller och sedan gå mot 20B–32B-modeller, RAG och fler Docker-tjänster efter en minnesuppgradering. Om GPU:n till slut blir flaskhalsen lämnar OCuLink utrymme för att lägga till ett grafikkort för stationära datorer.

Dess främsta fördel är uppgraderingsvägen.

AI X1 Pro-370: 64GB som startpunkt för 30B+ personlig lokal AI

AI X1 Pro-370 levereras med 64GB RAM och en 2TB SSD, med stöd för upp till 128GB DDR5.

För personliga användare av lokal AI innebär 64GB en tydligt annorlunda klass av arbetsbelastning. Det passar väl för Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, lokal RAG, AI-kodning, AI-agenter och innehållsskapande.

Stöd för upp till 128GB lämnar också mer minnesmarginal för större kvantiserade modeller senare.

MS-S1 MAX: 70B+ lokal AI-arbetsstation med enhetligt minne

MS-S1 MAX kombinerar Ryzen AI Max+ 395 med Radeon 8060S-grafik och stöder upp till 128GB LPDDR5x enhetligt minne.

Den är inriktad på arbetsbelastningar som 70B lokala LLM-modeller, Llama 3.3 70B, större RAG-system, arbetsflöden med flera agenter, omfattande lokala kunskapsbaser, privata AI-servrar, AI-laboratorier och installationer för små team.

För den här arbetsbelastningsklassen är den viktiga kombinationen 128GB enhetligt minne + hög minnesbandbredd + Radeon 8060S. Det placerar den närmare en kompakt lokal AI-arbetsstation än en konventionell Mini PC.

Om du jämför den här typen av AI-plattform med hög kapacitet med en mer traditionell högpresterande Mini PC, se jämförelse mellan Ryzen AI Max+ 395 och högpresterande Intel Mini PC.

Varför kan europeiska användare överväga en Mini PC för lokal AI?

För privatpersoner, frilansare och små eller medelstora team i Europa handlar värdet med lokal AI inte bara om prestanda.

En designstudio i Tyskland kan föredra att behålla opublicerat kundmaterial på sina egna enheter och sitt eget nätverk.

Ett utvecklingsteam i Frankrike kan vilja att kodbas, testdata och intern dokumentation huvudsakligen stannar i den lokala miljön.

En återförsäljare, grossist eller liten tillverkare som säljer i flera EU-länder kan hantera produktinformation, tekniska dokument, kundfrågor, reparationsmaterial och interna SOP:er på engelska, tyska, franska, italienska och spanska. En flerspråkig lokal LLM + RAG-installation kan samla informationen i en intern AI-kunskapsbas för kundsupport, produktfrågor, intern sökning, dokumentorganisation och personalutbildning.

Lokal AI kan minska mängden arbetsdata som kontinuerligt behöver skickas till AI-tjänster från tredje part.

Vad mer bör europeiska köpare kontrollera innan de köper en Mini PC för lokal AI?

När ett system går från en vanlig 32GB Mini PC till 64GB, 128GB eller AI-arbetsstationsklass handlar köpbeslutet inte längre bara om CPU, GPU och minne. Lokal eftermarknadsservice och reparationsvägar blir också en del av den verkliga ägandekostnaden.

Modellen MINISFORUM EU Store säljer MINISFORUM Mini PC-datorer, arbetsstationer och NAS-system till europeiska kunder. För beställningar som skickas till EU-länder anger butiken att moms ingår i det angivna priset och att lagerförda produkter skickas från det tyska lagret.

För berättigade PC-, arbetsstations- och NAS-produkter som köpts från EU Store den 9 March 2026 eller senare ger den aktuella garantipolicyn ger 36 månaders garanti. MINISFORUM EU erbjuder också en europeisk reparationsprocess, med sitt EU-reparationscenter i Hamburg, Tyskland.

För en Mini PC för lokal AI med hög kapacitet är det därför rimligt att överväga EU-moms + lager i Tyskland + EU-garanti + europeisk reparation tillsammans med själva hårdvaran. Inget av detta ökar modellstorleken du kan köra, men det påverkar köp-, reparations- och eftermarknadskostnaden för att äga en avancerad AI-arbetsstation i Europa.

Om du bara tar hänsyn till tre saker

1. Börja med användningsområdet och modellen, välj sedan Mini PC.

Arbetsbelastningar på 7B, 30B och 70B kräver mycket olika hårdvara.

2. För lokal AI, kontrollera först minneskapacitet och minnesarkitektur.

Modellen, kontexten och resten av AI-arbetsflödet behöver alla plats i det tillgängliga minnet.

3. En Mini PC + NAS-installation för lokal AI löser två olika problem.

Mini PC:n hanterar beräkning. NAS:en hanterar modeller, dokument, kunskapsbaser och säkerhetskopior. När miljön för lokal AI växer kan varje sida uppgraderas eller separeras utan att hela systemet behöver byggas om varje gång.