Od modelů 7B po 70B+: jak vybrat mini PC pro lokální AI

Stále více lidí začíná provozovat modely AI lokálně. Lokální LLM, AI nástroje pro programování, soukromé znalostní báze RAG, AI agenti, generování obrázků a analýza dokumentů mohou běžet na vašem vlastním hardwaru, aniž by bylo nutné neustále odesílat každý soubor či pracovní data do cloudové služby třetích stran.

Díky tomu je mini PC pro lokální AI stále praktičtější možností.

Ve srovnání s velkou tradiční AI pracovní stanicí může mini PC s velkou kapacitou paměti zároveň fungovat jako běžný počítač, server pro lokální LLM, zařízení pro vývoj AI a uzel domácí laboratoře. Některé modely navíc nabízejí 64GB, 96GB nebo dokonce 128GB paměti, několik NVMe SSD, OCuLink a rychlejší síť, takže zůstává prostor pro pozdější přidání externího GPU nebo AI NAS.

To, zda mini PC zvládne vaši pracovní zátěž lokální AI, závisí na několika konkrétnějších otázkách:

1. Plánujete spouštět model 7B, 14B, 30B nebo 70B?
2. Jaký formát kvantizace použijete?
3. Kolik paměti je skutečně k dispozici?
4. K jak velké paměti má přístup GPU?
5. Jakou šířku pásma paměti systém poskytuje?
6. Používá váš software hlavně CPU, GPU nebo NPU?
7. Závisí váš pracovní postup na NVIDIA CUDA?
8. Kolik prostoru SSD budou potřebovat vaše modely, databáze RAG a znalostní báze?

Místo jednoduché otázky „Který AI mini PC je nejvýkonnější?“je tedy užitečnější se zeptat „Které lokální modely a AI pracovní postupy chci skutečně provozovat a jaký hardware potřebují?“

Jaký mini PC potřebují modely 7B, 30B a 70B?

Počet parametrů se nepřevádí přímo na využití paměti. Konečný požadavek ovlivňuje kvantizace, délka kontextu, KV cache, framework inference, operační systém i další software běžící současně.

Některé modely 70B se teoreticky vejdou do systému s 64GB po kvantizaci na 4-bit, ale paměť potřebují také operační systém, KV cache, kontext, databáze RAG a další aplikace.

Pokud má být lokální LLM třídy 70B pravidelnou součástí vaší pracovní zátěže, je 96GB nebo 128GB obvykle praktičtější dlouhodobou volbou než konfigurace, do které se sotva vejde samotný model.

Které otevřené modely dávají na mini PC smysl?

7B–14B: dobrý výchozí bod pro lokální AI

Tento rozsah dobře funguje pro lokální chat, shrnutí dokumentů, základní AI asistenty, jednoduché RAG, lehčí AI programování a experimenty v domácí laboratoři.

Pokud s Ollama, LM Studio nebo jiným nástrojem pro lokální LLM teprve začínáte, není důvod hned přecházet na AI pracovní stanici s 128GB. Mini PC s 32GB už dokáže podporovat kompletní testovací prostředí lokální AI a zároveň fungovat jako běžný kancelářský, vývojový nebo domácí zábavu počítač.

Takový systém je tedy blíže kombinaci Běžný PC + vývojový PC + lokální AI základní než dedikovanému AI serveru.

20B–32B: jeden z nejužitečnějších rozsahů pro osobní lokální AI

Jakmile se modely dostanou do rozsahu 20B–32B, objeví se více možností, které přímo odpovídají pracovním zátěžím z reálného provozu.

1. Mistral Small 24B: užitečné pro obecný chat, volání funkcí a lokální agenty.

2. Qwen3-30B-A3B: užitečné pro uvažování, programování, vícejazyčnou práci a agentní pracovní postupy.

3. Qwen2.5-Coder-32B: více zaměřené na generování kódu, porozumění kódu a AI programování.

4. DeepSeek-R1-Distill-Qwen-32B: více zaměřené na úlohy náročné na uvažování.

Vyplatí se rozlišovat mezi hustým modelem a a modelem MoE . Qwen3-30B-A3B není běžný hustý model 30B, ve kterém se při každém kroku inference zapojují všechny parametry.

Podle oficiálních informací společnosti Qwen má přibližně 30.5B parametrů celkem, přičemž na token se aktivuje asi 3.3B. Jde o model směs expertů (MoE). MoE snižuje počet parametrů zapojených do jednotlivých kroků inference, plné váhy modelu však stále zabírají úložiště a paměť, takže při odhadu hardwarových požadavků jej nelze považovat jednoduše za model 3.3B.

Proto ani „30B“ nebo „32B“ v názvu modelu samo o sobě nestačí k předpovědi zkušenosti. Záleží také na architektuře modelu a kvantizaci.

Pro lokální AI programování, soukromé RAG, osobní znalostní báze a AI agenty je třída lokálních LLM 30B zvlášť zajímavá. Právě zde začíná mini PC s 64GB dávat smysl jako skutečná pracovní stanice pro osobní vývoj lokální AI spíše než jen PC s velkým množstvím RAM.

70B: lokální asistenti Vyšší kvalita a větší systémy RAG

Modely 70B obvykle potřebují podstatně více paměti. Dobrým příkladem je Llama 3.3 70B Instruct. Meta jej prezentuje jako vícejazyčný textový model 70B, který mezi podporovanými jazyky zahrnuje angličtinu, němčinu, francouzštinu, italštinu, portugalštinu a španělštinu. Díky tomu je zvlášť relevantní pro evropské scénáře lokální AI.

Například výrobní nebo strojírenská společnost v Německu může uchovávat produktové příručky, dokumentaci údržby a oprav, materiály kontroly kvality, interní procesy, produktové znalosti, dotazy zákazníků a záznamy poprodejní ve vlastní lokální znalostní bázi.

Tyto dokumenty mohou být v angličtině, němčině, francouzštině i italštině. Vícejazyčný lokální LLM třídy 70B může být nad systémem RAG použit k vyhledávání, sumarizaci a organizaci těchto materiálů.

V takové sestavě mini PC nebo pracovní stanice pro lokální AI zajišťuje výpočty AI.

NAS zajišťuje modely + dokumenty + znalostní bázi RAG + projekty + zálohy.

Tím přirozeně vzniká typická sestava Mini PC pro lokální AI + AI NAS + RAG .

Proč mini PC dobře funguje pro lokální AI?

Historicky byly nejzřetelnějšími omezeními mini PC možnosti GPU a interní rozšíření.

Lokální AI přináší jiný hardwarový problém. Mnoho větších lokálních modelů nejprve potřebuje dostatek paměti, aby měl CPU nebo GPU k modelu vůbec přístup, a mini PC s velkou kapacitou paměti se pro tento typ hardwarového prostředí dobře hodí.

Více paměti rozšiřuje rozsah lokálních LLM, které můžete spustit

Spotřebitelské stolní grafické karty mají obvykle pevně dané množství VRAM. GPU může být velmi rychlý, ale pokud je model výrazně větší než dostupná VRAM, část pracovní zátěže musí přetéct do systémové paměti nebo využít určitý způsob odlehčení CPU/GPU.

To je jeden z důvodů, proč jsou mini PC s velkou kapacitou paměti pro uživatele lokálních LLM stále relevantnější. 32GB, 64GB, 96GB a 128GB už nejsou jen běžné úrovně multitaskingu. Začínají také odpovídat různým úrovním kapacity lokálních LLM.

Sdílená paměť dává integrovaným GPU větší flexibilitu

Integrované GPU jako Radeon 780M a Radeon 890M nepracují se zcela pevně daným fondem VRAM 8GB, 12GB nebo 16GB stejným způsobem jako běžný samostatný GPU. Mohou využívat sdílenou systémovou paměť.

Se správným softwarem, ovladači a backendem inference může větší fond systémové paměti zpřístupnit více paměti úlohám lokální AI. Pro některé uživatele lokálních LLM se tedy 64GB RAM + integrovaný GPU a a 32GB RAM + integrovaný GPU liší ve více než jen běžném multitaskingu PC.

Dodatečná paměť může ovlivnit také prostor dostupný pro lokální modely, kontext, služby RAG a další současně spuštěné aplikace.

Sjednocená paměť posouvá mini PC blíže k AI pracovní stanici

Platformy jako Ryzen AI Max+ 395 tuto myšlenku posouvají dále. Používají paměť s vysokou kapacitou, s vysokou propustností LPDDR5x, přičemž CPU a Radeon 8060S pracují s velkým fondem sjednocené paměti.

V tomto kontextu 128GB neznamená jen „CPU má 128GB RAM“. Hodnota spočívá v tom, že velký fond paměti může společně sloužit CPU, GPU a širšímu pracovnímu postupu lokální AI.

Kapacita paměti ovlivňuje, jak velký model a jak složitý pracovní postup lze provozovat; vyšší šířka pásma paměti a výkonnější GPU pak mohou zlepšit odezvu a výkon inference při každodenním používání.

Skutečný přínos platformy s vysokou kapacitou sjednocené paměti se projeví, když velký lokální model + přístup GPU + multitasking musí existovat na stejném počítači.

Na co se u lokální AI zaměřit: CPU, GPU, nebo NPU?

Všechny tři jsou důležité, ale každá má jinou roli.

CPU je základem celého systému. Operační systém, Docker, databáze, embeddingy, služby RAG, kompilace kódu a část inference modelu mohou všechny záviset na CPU. Pokud mini PC zároveň slouží jako vývojový stroj, uzel domácí laboratoře a server lokální AI, je vyšší výkon vícejádrového CPU užitečnější.

GPU je důležitější pro mnoho pracovních zátěží lokálních LLM, generování obrázků a vizuální AI. Vedle hrubého výkonu se vyplatí zkontrolovat, k jak velké paměti má GPU přístup a zda framework inference, který chcete používat, podporuje daný backend GPU.

NPU je úsporný akcelerátor navržený přímo pro úlohy AI. Dokáže samostatně zpracovávat kompatibilní AI funkce přímo v zařízení, takže více AI úloh nemusí zcela spoléhat na CPU nebo GPU.

Při výběru mini PC pro lokální AI dává větší smysl sledovat kapacitu paměti + GPU + softwarovou podporu + NPU společně než řadit systémy pouze podle TOPS.

Pokud je hlavním cílem lokální LLM, začněte velikostí modelu a pamětí. Pokud používáte hlavně generování obrázků nebo software akcelerovaných pomocí GPU, věnujte větší pozornost možnostem GPU a softwarové kompatibilitě. Pokud očekáváte více funkcí AI Windows přímo v zařízení nebo aplikací optimalizovaný pro NPU, roste význam NPU.

Jak vybírat mezi různými typy mini PC pro lokální AI?

Mini PC s 32GB: základní úroveň lokální AI

Tato úroveň je vhodná pro lokální modely 7B–14B, některé kvantizované větší modely, jednoduché RAG, základní AI programování, Ollama, LM Studio a použití v domácí laboratoři.

Představte si studenta nebo nezávislého vývojáře ve Francii či Německu, který chce provozovat lokálního programovacího asistenta a zároveň používat VS Code, prohlížeč a Docker.

V takové situaci není příliš důvod začínat s AI pracovní stanicí s 128GB. Mini PC s 32GB už dokáže pokrýt Běžný PC + vývojový PC + lokální AI základní na jednom počítači.

Mini PC s 64GB: osobní lokální AI 30B+

Tato úroveň je praktičtější pro lidi, kteří očekávají pravidelné používání lokální AI. Hodí se pro modely a pracovní zátěže jako Mistral Small 24B, Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, RAG, lokální programovací asistenty, AI agenty a více AI služeb založených na Dockeru.

Evropský nezávislý vývojář by například mohl lokálně spouštět programovací model třídy 30B a zároveň mít otevřené IDE, Git, Docker, prohlížeč, databázi a server lokálního LLM.

Hodnota 64GB spočívá v tom, že zbytek vývojového prostředí může dál fungovat i během běhu modelu.

Mini PC s 96GB–128GB: lokální LLM 70B

Pokud je hlavním cílem už Llama 3.3 70B, vícejazyčný asistent třídy 70B, větší systém RAG, dlouhý kontext, více agentů nebo několik modelů současně, je čas podívat se na platformy s vyšší kapacitou.

Některé 4bitové kvantizované modely 70B se mohou na systému s 64GB dostat do kategorie „lze vyzkoušet“. Pokud však má 70B představovat pravidelnou pracovní zátěž, je praktičtější 96GB–128GB.

Systém potřebuje současně prostor pro váhy modelu + KV Cache + operační systém + RAG + databázi + aplikace .

AI pracovní stanice s 128GB sjednocené paměti: 70B+ a větší lokální modely

Jde o jinou produktovou kategorii než běžný kancelářský mini PC. Je blíže kompaktní AI pracovní stanici / pracovní stanici pro lokální LLM / soukromému AI serveru.

Lépe se hodí pro lokální LLM 70B, velké kvantizované modely, experimenty s modely 100B+, AI agenty více modelů, soukromé podnikové znalostní báze, AI laboratoře a sdílenou inferenci pro malé týmy.

Důležitá není jen kapacita, ale kombinace s vysokou kapacitou sjednocené paměti + vysoké šířky pásma paměti + výkonného integrovaného GPU.

Jak může vypadat evropská domácí laboratoř pro lokální AI?

Představte si uživatele v Německu nebo jinde v Evropě, který přes den potřebuje počítač pro vývoj a práci a později chce na stejné sestavě provozovat lokální AI.

Může mít také lokální LLM, rodinné fotografie, pracovní dokumenty, znalostní bázi RAG, služby Docker, automatické zálohy a AI agenty.

Nejjednodušší první krok je obvykle jeden mini PC. Může fungovat jako pracovní stanice + server lokální AI + vývojový počítač. Dokud jsou knihovna modelů a datová sada relativně malé, vše může zůstat na interním úložišti NVMe. Jakmile prostředí lokální AI poroste, lze později přidat NAS.

V takovém případě Mini PC = výpočetní vrstva, která zajišťuje inferenci lokálních LLM, AI agenty, embeddingy, programování a generování obrázků.

NAS = datová vrstva, která ukládá modely, dokumenty, znalostní bázi RAG, média, projekty a zálohy.

Pokud oba systémy mají rychlejší síť, například 10GbE, server lokální AI může přistupovat k větším znalostním bázím a projektovým datům přímo z NAS. Pro evropské domácí laboratoře, malá studia, nezávislé vývojáře a malé týmy je taková sestava Mini PC + NAS pro lokální AI dlouhodobě snáze rozšiřitelná než trvalé nucení všech úloh do jednoho zařízení.

Pokud stále porovnáváte role výpočetního systému a centralizovaného úložiště, podívejte se na Mini PC nebo NAS? Co jsem zjistil při rozhodování mezi nimi.

Potřebuje mini PC pro lokální AI NAS?

Na začátku obvykle ne. Pokud provozujete jen několik modelů a soukromou znalostní bázi, vlastní úložiště NVMe mini PC zpravidla stačí.

Jakmile prostředí lokální AI naroste a zahrnuje několik modelů 30B nebo 70B, velké sbírky embeddingů, dokumentové databáze, obrázky a video, různé verze modelů, týmové soubory a automatické zálohy, stává se NAS užitečnějším.

Mini PC slouží především jako výpočetní vrstva lokální AI.

NAS slouží především jako úložiště lokální AI.

Proto mini PC pro lokální AI a AI NAS nejsou ve skutečnosti konkurenční produkty. Je lepší je chápat jako dvě části stejné soukromé infrastruktury AI.

Pro osobní sestavu je rozumné začít s jedním mini PC. Když modely, dokumenty a zálohy porostou, lze úložiště později oddělit. To také usnadní budoucí rozšíření pracovní stanice lokální AI bez nutnosti pokaždé přesouvat celou datovou sadu.

Kolik úložiště SSD potřebuje mini PC pro lokální AI?

Soubory modelů jsou jen jednou částí prostředí lokální AI. Postupem času lokální úložiště zaplňují také různé kvantizace modelů, embeddingové modely, vektorové databáze, obrazy Docker, repozitáře kódu, soubory znalostní báze, obrázky, video a generované výstupy.

1TB se lépe hodí pro někoho, kdo s lokální AI teprve začíná a uchovává jen malý počet modelů a projektů.

2TB je praktičtější pro dlouhodobé AI programování, RAG nebo současnou správu několika modelů.

4TB nebo více dává větší smysl pro rozsáhlejší knihovny modelů, AI projekty s obrázky a videem, velké znalostní báze a profesionální pracovní postupy.

Vedle kapacity předinstalovaný SSD zkontrolujte, kolik slotů M.2 mini PC skutečně má. Systém se dvěma nebo třemi sloty M.2 poskytuje větší flexibilitu při oddělení operačního systému, modelů a projektových dat s rostoucími nároky na úložiště.

Širší přehled kapacit najdete v našem průvodci úložištěm SSD pro mini PC.

Kdy dává smysl OCuLink + externí GPU?

Ne každý uživatel lokální AI potřebuje dedikovaný GPU.

OCuLink dává větší smysl tehdy, když jsou CPU, paměť a úložiště stále dostačující, ale požadavky na GPU rostou. Může jít o používání více nástrojů akcelerovaných pomocí GPU generování obrázků, profesionálního softwaru vyžadujícího NVIDIA CUDA, potřebu vyššího výkonu inference GPU nebo využití stejného mini PC pro hraní vyšší třídy a tvorbu obsahu.

V takovém případě lze přidat stolní GPU přes OCuLink a zachovat původní mini PC místo výměny celého systému.

Pokud tuto cestu rozšíření zvažujete, podívejte se na náš průvodce dokem OCuLink eGPU.

Výběr mini PC MINISFORUM pro lokální AI podle velikosti modelu

X1-Lite 255: lokální AI základní pro modely 7B–14B

X1-Lite 255 se dodává s 32GB DDR5 a úložištěm 1TB SSD, grafikou Radeon 780M, USB4 a OCuLink.

Lépe se hodí pro lokální LLM 7B–14B, základní RAG, experimenty s AI programováním, použití v domácí laboratoři a běžné výpočty. Jeho role je jednoduchá: cenově dostupnější cesta do lokální AI s možností pozdějšího externího rozšíření GPU.

UM880 Plus: rozšiřitelný mini PC pro lokální AI / domácí laboratoř

UM880 Plus nabízí rozšiřitelnou paměť DDR5, duální úložiště M.2 a OCuLink.

Lépe se hodí uživatelům, kteří chtějí začít s běžným vývojovým počítačem a postupně jej proměnit v server lokální AI. Může například začít s 32GB pro modely 7B–14B a po rozšíření paměti přejít k modelům 20B–32B, RAG a více službám Docker. Pokud se nakonec úzkým hrdlem stane GPU, OCuLink ponechává prostor pro přidání stolní grafické karty.

Jeho hlavní výhodou je cesta rozšíření.

AI X1 Pro-370: 64GB jako výchozí bod pro osobní lokální AI 30B+

AI X1 Pro-370 se dodává s 64GB RAM a 2TB SSD, s podporou až 128GB DDR5.

Pro osobní uživatele lokální AI posouvá 64GB možnosti do znatelně jiné třídy. Dobře se hodí pro Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, lokální RAG, AI programování, AI agenty a tvorbu obsahu.

Podpora až 128GB také ponechává větší paměťovou rezervu pro budoucí větší kvantizované modely.

MS-S1 MAX: pracovní stanice lokální AI 70B+ se sjednocenou pamětí

MS-S1 MAX kombinuje Ryzen AI Max+ 395 s grafikou Radeon 8060S a podporuje až 128GB sjednocené paměti LPDDR5x.

Je zaměřen na pracovní zátěže jako lokální LLM 70B, Llama 3.3 70B, větší systémy RAG, pracovní postupy víceagentní, rozsáhlé lokální znalostní báze, soukromé AI servery, AI laboratoře a nasazení malých týmů.

Pro tuto třídu úloh je důležitá kombinace 128GB sjednocené paměti + vysoké šířky pásma paměti + Radeon 8060S. Tím se systém posouvá blíže ke kompaktní pracovní stanici pro lokální AI než k běžnému mini PC.

Pokud porovnáváte tento typ AI platformy s vysokou kapacitou s tradičnějším vysoce výkonným mini PC, podívejte se na porovnání Ryzen AI Max+ 395 vs. vysoce výkonné mini PC Intel.

Proč mohou evropští uživatelé zvážit mini PC pro lokální AI?

Pro jednotlivce, freelancery a malé či středně velké týmy v Evropě není hodnota lokální AI jen ve výkonu.

Designérské studio v Německu může chtít uchovávat nezveřejněné materiály klientů na vlastních zařízeních a síti.

Vývojový tým ve Francii může chtít, aby jeho kód, testovací data a interní dokumentace zůstaly převážně v lokálním prostředí.

Prodejce, velkoobchodník nebo malý výrobce působící v několika zemích EU může spravovat informace o produktech, technickou dokumentaci, dotazy zákazníků, materiály k opravám a interní SOP v angličtině, němčině, francouzštině, italštině a španělštině. Vícejazyčný lokální LLM + sestava RAG může tyto informace spojit do interní AI znalostní báze pro pomoc zákaznické podpory, produktové dotazy, interní vyhledávání, organizaci dokumentů a školení zaměstnanců.

Lokální AI může snížit množství pracovních dat, která je nutné průběžně odesílat do AI služeb třetích stran.

Co dalšího by měli evropští zákazníci před nákupem mini PC pro lokální AI zkontrolovat?

Jakmile systém přejde ze standardního mini PC s 32GB do kategorie 64GB, 128GB nebo AI pracovní stanice, není rozhodnutí o nákupu jen o CPU, GPU a paměti. Součástí skutečných nákladů na vlastnictví se stává také místní podpora poprodejní a dostupnost oprav.

Model Obchod MINISFORUM EU prodává evropským zákazníkům mini PC MINISFORUM, pracovní stanice a systémy NAS. U objednávek zasílaných do zemí EU obchod uvádí, že DPH je zahrnuta v uvedené ceně a produkty skladem jsou odesílány z německého skladu.

Pro způsobilé PC, pracovní stanice a produkty NAS zakoupené v EU Store dne nebo po 9. březnu 2026, současná záruční politika poskytuje krytí po dobu 36 měsíců. MINISFORUM EU také nabízí evropský proces oprav a jeho servisní centrum EU se nachází v Hamburku v Německu.

U mini PC pro lokální AI s vysokou kapacitou proto dává smysl vedle samotného hardwaru zvažovat také DPH v EU + německý sklad + záruku EU + evropský servis . Nic z toho nezvýší velikost modelu, který můžete spustit, ale ovlivňuje náklady na nákup, opravy a poprodejního vlastnictví špičkové pracovní stanice AI v Evropě.

Pokud zvažujete jen tři věci

1. Začněte způsobem použití a modelem, teprve potom vybírejte mini PC.

Pracovní zátěže 7B, 30B a 70B potřebují velmi odlišný hardware.

2. Pro lokální AI nejprve zkontrolujte kapacitu a architekturu paměti.

Model, kontext i zbytek pracovního postupu AI potřebují prostor v dostupné paměti.

3. Sestava Mini PC + NAS pro lokální AI řeší dva různé problémy.

Mini PC zajišťuje výpočty. NAS ukládá modely, dokumenty, znalostní báze a zálohy. S růstem prostředí lokální AI lze každou část rozšiřovat nebo oddělit, aniž by bylo nutné pokaždé přestavovat celý systém.