Modelos de 7B a 70B+: cómo elegir un Mini PC para IA local

Cada vez más personas están comenzando a ejecutar modelos de IA de manera local. LLM locales, herramientas de codificación de IA, bases de conocimientos privadas RAG, agentes de IA, generación de imágenes y análisis de documentos pueden ejecutarse en tu propio hardware, sin enviar constantemente cada archivo o dato de trabajo a un servicio en la nube de terceros.

Eso hace que una Mini PC para IA local una opción cada vez más práctica.

En comparación con una estación de trabajo de IA tradicional de gran tamaño, un Mini PC de alta memoria puede funcionar como ordenador cotidiano, servidor LLM local, máquina de desarrollo de IA y nodo de laboratorio en casa. Algunos modelos también ofrecen 64GB, 96GB o incluso 128GB de memoria, múltiples NVMe SSDs, OCuLink y redes más rápidas, dejando espacio para añadir una GPU externa o un NAS de IA más adelante.

Si un Mini PC puede gestionar su carga de trabajo de IA local se reduce a unas preguntas más específicas:

1. ¿Planea ejecutar un modelo 7B, 14B, 30B o 70B?
2. ¿Qué formato de cuantización va a usar?
3. ¿Cuánta memoria está realmente disponible?
4. ¿Cuánta memoria puede acceder la GPU?
5. ¿Qué tipo de ancho de banda de memoria proporciona el sistema?
6. ¿Su software utiliza principalmente la CPU, GPU o NPU?
7. ¿Su flujo de trabajo depende del NVIDIA CUDA?
8. ¿Cuánto espacio de SSD necesitarán sus modelos, base de datos RAG y base de conocimiento?

Entonces en lugar de simplemente preguntar “¿Cuál es el Mini PC más potente para IA?”, una pregunta más útil es “¿Qué modelos locales y flujos de trabajo de IA quiero realmente ejecutar, y qué hardware necesitan?”

¿Qué tipo de Mini PC necesitan los modelos 7B, 30B y 70B?

El recuento de parámetros no se traduce directamente en uso de memoria. La cuantización, la longitud del contexto, la caché KV, el marco de inferencia, el sistema operativo y cualquier otro software ejecutándose al mismo tiempo afectan el requisito final.

Algunos modelos 70B pueden encajar dentro del rango teórico de un sistema 64GB una vez cuantizados a 4 bits, pero el sistema operativo, la caché KV, el contexto, la base de datos RAG y otras aplicaciones también necesitan memoria.

Si un LLM local de clase 70B va a ser una parte regular de tu carga de trabajo, 96GB o 128GB suele ser una opción más práctica a largo plazo que una configuración que apenas encaja con el modelo en sí.

¿Qué Modelos Abiertos Tienen Sentido en un Mini PC?

7B–14B: Un buen punto de partida con IA local

Esta gama funciona bien para chat local, resúmenes de documentos, asistentes de IA básicos, RAG simples, codificación ligera de IA y experimentos en el laboratorio doméstico.

Si apenas estás comenzando con Ollama, LM Studio u otra herramienta LLM local, hay pocas razones para saltar directamente a una estación de trabajo de IA 128GB. Un 32GB Mini PC ya puede soportar un entorno de prueba completo de IA local mientras sigue sirviendo como una máquina de oficina normal, de desarrollo o de entretenimiento en casa.

Eso coloca a este tipo de sistema más cerca de PC diario + PC de desarrollo + IA local de nivel de entrada que de un servidor de IA dedicado.

20B–32B: Una de las gamas más útiles para IA local personal

Una vez que los modelos entran en el rango 20B–32B, hay más opciones que se ajustan directamente a cargas de trabajo del mundo real.

1. Mistral Pequeño 24B: útil para chat general, llamadas a funciones y agentes locales.

2. Qwen3-30B-A3B: útil para razonamiento, programación, trabajo multilingüe y flujos de trabajo de agentes.

3. Qwen2.5-Coder-32B: más enfocado en generación de código, comprensión de código y codificación con IA.

4. DeepSeek-R1-Distill-Qwen-32B: más enfocado en tareas que requieren razonamiento intenso.

: Vale la pena distinguir entre un Modelo Denso y un Modelo MoE Aquí. Qwen3-30B-A3B no es un modelo denso convencional 30B donde todos los parámetros se involucran en cada paso de inferencia.

: Según la información oficial del modelo de Qwen, tiene alrededor de 30.5B parámetros totales, con aproximadamente 3.3B activados por token. Es un modelo de Mezcla de Expertos (MoE). MoE reduce el número de parámetros involucrados en cada paso de inferencia, pero los pesos completos del modelo todavía ocupan espacio de almacenamiento y memoria, por lo que no debe considerarse como si fuera simplemente un modelo 3.3B al estimar los requisitos de hardware.

Eso también explica por qué el “30B” o “32B” en el nombre de un modelo no es suficiente por sí solo para predecir la experiencia. La arquitectura del modelo y la cuantización también importan.

Para la codificación de IA local, RAG privados, bases de conocimiento personales y agentes de IA, la Rango de 30B-clase LLM local es especialmente interesante. También es donde un 64GB Mini PC comienza a tener sentido como un genuino Desarrollo de IA Personal Local estación de trabajo en lugar de simplemente un PC con muchos RAM.

70B: Asistentes Locales de Mayor Calidad y Sistemas RAG Más Grandes

70B generalmente necesitan mucha más memoria. Un buen ejemplo es Llama 3.3 70B Instruir. Meta lo posiciona como un modelo de texto multilingüe 70B, con soporte para inglés, alemán, francés, italiano, portugués y español entre sus idiomas soportados. Eso lo hace particularmente relevante para casos de uso de IA local en Europa.

Por ejemplo, una empresa de fabricación o ingeniería en Alemania podría mantener manuales de productos, documentación de mantenimiento y reparación, material de control de calidad, procesos internos, conocimiento del producto, preguntas de clientes y registros de posventa en su propia base de conocimientos local.

Esos documentos pueden abarcar inglés, alemán, francés e italiano. Un 70B local multilingüe de clase LLM puede colocarse sobre el sistema RAG para buscar, resumir y organizar ese material.

En esa configuración, una estación de trabajo Mini PC o IA local se encarga de Cómputo de IA.

Un NAS se encarga de Modelos + Documentos + Base de Conocimientos RAG + Proyectos + Copias de Seguridad.

Eso crea naturalmente un típico Mini PC para IA local + IA NAS + RAG configuración.

¿Por qué funciona bien un Mini PC para la IA local?

Históricamente, las limitaciones más evidentes de un Mini PC eran la capacidad GPU y la expansión interna.

La IA local introduce un problema de hardware diferente. Muchos modelos locales más grandes necesitan primero suficiente memoria para que la CPU o GPU puedan acceder al modelo en primer lugar, y los Mini PCs de alta memoria son adecuados para proporcionar ese tipo de entorno de hardware.

Más memoria amplía el rango de LLM locales que puedes ejecutar

Las tarjetas gráficas de escritorio para consumidores suelen venir con una cantidad fija de VRAM. Una GPU puede ser muy rápido, pero si el modelo es significativamente más grande que la VRAM disponible, parte de la carga de trabajo tiene que trasladarse a la memoria del sistema o usar alguna forma de descarga CPU/GPU.

Esa es una de las razones por las que los Mini PCs de alta memoria se han vuelto más relevantes para los usuarios locales de LLM. 32GB, 64GB, 96GB y 128GB ya no son solo niveles generales de multitarea. También comienzan a corresponder a diferentes niveles de Capacidad de LLM Local.

La Memoria Compartida Da Mayor Flexibilidad a GPUs Integrados

Los GPUs integrados como el Radeon, 780M y Radeon, 890M no funcionan con un grupo de VRAM completamente fijo 8GB, 12GB o 16GB de la misma manera que una GPU discreto convencional. Pueden usar memoria del sistema compartida.

Con el software, controladores y backend de inferencia adecuados, un grupo de memoria del sistema más grande puede hacer que haya más memoria disponible para cargas de trabajo de IA local. Así que para algunos usuarios de LLM Local, 64GB de RAM + GPU integrada y 32GB de RAM + GPU integrada difieren más que el multitarea ordinario de PC.

La memoria adicional también puede afectar cuánto espacio está disponible para modelos locales, contexto, servicios RAG y otras aplicaciones que se ejecutan al mismo tiempo.

La Memoria Unificada Empuja a un Mini PC Más Hacia el Territorio de Estaciones de Trabajo de IA

Plataformas como Ryzen AI Max+ 395 llevan esta idea más lejos. Utilizan memoria LPDDR5x de gran capacidad y ancho de banda, con la CPU y Radeon 8060S trabajando sobre un amplio conjunto de memoria unificada.

En este contexto, 128GB no significa simplemente “la CPU tiene 128GB de RAM”. El valor es que un gran grupo de memoria puede servir a la CPU, GPU y al flujo de trabajo más amplio de IA local juntos.

La capacidad de memoria determina el tamaño que puede alcanzar un modelo y la complejidad del flujo de trabajo que se puede ejecutar; un mayor ancho de banda de memoria y una GPU más potente pueden mejorar la capacidad de respuesta y el rendimiento de inferencia en el uso diario.

El verdadero atractivo de una plataforma de memoria unificada de alta capacidad es cuando Modelo local grande + Acceso GPU + Multitarea todos necesitan existir en la misma máquina.

Para IA local, ¿deberías enfocarte en la CPU, GPU o NPU?

Los tres importan, pero cumplen trabajos diferentes.

CPU es la base de todo el sistema. El sistema operativo, Docker, bases de datos, embeddings, servicios RAG, compilación de código y parte de la inferencia de modelos pueden depender de la CPU. Si el Mini PC también necesita funcionar como máquina de desarrollo, nodo de laboratorio en casa y servidor IA local, un rendimiento más fuerte de múltiples núcleos de la CPU se vuelve más útil.

GPU resulta más importante en muchas cargas de trabajo con LLM locales, generación de imágenes e IA visual. Además de la potencia de cálculo bruta, conviene comprobar a cuánta memoria puede acceder la GPU y si el entorno de inferencia que piensas utilizar es compatible con ese backend de GPU.

NPU es un acelerador de bajo consumo diseñado específicamente para cargas de trabajo de IA. Puede gestionar funciones de IA compatibles en el dispositivo de forma independiente, por lo que más tareas de IA no tienen que depender completamente de la CPU o de la GPU.

Al elegir un IA local Mini PC, tiene más sentido considerar la Capacidad de Memoria + GPU + Soporte de Software + NPU en conjunto, en lugar de clasificar los sistemas solo por TOPS.

Si tu objetivo principal es un LLM Local, comienza con el tamaño del modelo y la memoria. Si utilizas principalmente generación de imágenes o software acelerado por GPU, presta más atención a la capacidad de GPU y a la compatibilidad del software. Si esperas usar más funciones de IA en el dispositivo Windows o aplicaciones optimizadas para NPU, el NPU se vuelve más relevante.

¿Cómo deberías elegir entre los diferentes tipos de Mini PC de IA local?

32GB Mini PC: Nivel de entrada de IA local

Este nivel es adecuado para modelos locales 7B–14B, algunos modelos más grandes cuantizados, RAG simples, codificación de IA de nivel inicial, Ollama, LM Studio y uso en laboratorio doméstico.

Imagina a un estudiante o desarrollador independiente en Francia o Alemania que quiere ejecutar un asistente de codificación local mientras sigue usando VS Code, un navegador y Docker.

Hay pocas razones para comenzar con una estación de trabajo de IA 128GB en esa situación. Un 32GB Mini PC ya puede cubrir PC diario + PC de desarrollo + IA local de nivel de entrada en una sola máquina.

64GB Mini PC: 30B+ IA local Personal

Este es un nivel más práctico para las personas que esperan usar IA local regularmente. Se adapta a modelos y cargas de trabajo como Mistral Small 24B, Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, RAG, asistentes de codificación locales, agentes de IA y múltiples servicios de IA basados en Docker.

Un desarrollador freelance europeo, por ejemplo, podría ejecutar un modelo de codificación de clase 30B localmente mientras mantiene abierto un IDE, Git, Docker, un navegador, una base de datos y un servidor LLM local al mismo tiempo.

El valor de 64GB es que el resto del entorno de desarrollo puede seguir funcionando mientras el modelo se ejecuta.

96GB–128GB Mini PC: 70B LLM local

Si el objetivo principal ya es Llama 3.3 70B, un asistente multilingüe de clase 70B, un sistema RAG más grande, contexto largo, múltiples agentes o varios modelos a la vez, es hora de considerar plataformas de mayor capacidad.

Algunos modelos 4 de 70B cuantizados de N bits pueden entrar en el rango de “posible de probar” en un sistema 64GB. Pero si 70B va a ser una carga de trabajo regular, 96GB–128GB es más práctico.

El sistema necesita espacio para Pesos del modelo + Caché KV + SO + RAG + Base de datos + Aplicaciones al mismo tiempo.

Estación de Trabajo de IA con Memoria Unificada 128GB: 70B+ y Modelos Locales Más Grandes

Esta es una categoría de producto diferente a un Mini PC de oficina convencional. Es más cercana a una Estación de trabajo de IA compacta / Estación de trabajo local LLM / Servidor de IA privado.

Es más adecuado para 70B LLM locales, modelos cuantizados grandes, experimentos de modelos 100B+, agentes de IA multi-modelo, bases de conocimiento privadas de empresas, laboratorios de IA y inferencia compartida para equipos pequeños.

El punto importante no es solo la capacidad, sino la combinación de Memoria Unificada de Alta Capacidad + Ancho de Banda de Memoria Alto + Potente GPU Integrado.

¿Cómo podría ser un laboratorio de IA local europeo en casa?

Pensemos en un usuario en Alemania o en otra parte de Europa que necesita un ordenador para desarrollo y trabajo durante el día, y luego quiere ejecutar IA local en la misma configuración más tarde.

También puede tener un LLM local, fotos familiares, documentos de trabajo, una base de conocimiento RAG, servicios Docker, copias de seguridad automáticas y agentes de IA.

La primera etapa más sencilla suele ser un solo Mini PC. Puede actuar como un Estación de Trabajo + Servidor de IA local + Máquina de Desarrollo. Mientras la biblioteca de modelos y el conjunto de datos todavía sean relativamente pequeños, todo puede permanecer en el almacenamiento interno de NVMe. Más adelante se puede añadir un NAS a medida que crezca el entorno de IA local.

En ese momento, Mini PC = Capa de Cómputo, gestionando inferencia local de LLM, agentes de IA, incrustaciones, codificación y generación de imágenes.

NAS = Capa de Datos, almacenando modelos, documentos, la base de conocimiento de RAG, medios, proyectos y copias de seguridad.

Si ambos sistemas tienen redes más rápidas como 10GbE, el servidor de IA local puede acceder a bases de conocimiento más grandes y proyectar datos directamente desde el NAS. Para laboratorios domésticos europeos, pequeños estudios, desarrolladores independientes y equipos pequeños, este tipo de Mini PC + NAS para IA local configuración es más fácil de expandir con el tiempo que forzar permanentemente cada tarea en un solo dispositivo.

Si todavía estás comparando los roles de un sistema de cómputo y almacenamiento centralizado, ve Mini PC o NAS? Lo que aprendí al elegir entre ellos.

¿Necesita un IA local Mini PC un NAS?

Normalmente no al principio. Si solo estás ejecutando algunos modelos y una base de conocimientos privada, el propio almacenamiento NVMe del Mini PC suele ser suficiente.

A medida que el entorno de IA local crece para incluir varios modelos 30B o 70B, grandes colecciones de embeddings, bases de datos de documentos, imágenes y vídeos, diferentes versiones de modelos, archivos de equipo y copias de seguridad automatizadas, un NAS se vuelve más útil.

Un Mini PC es principalmente cómputo de IA local.

Un NAS es principalmente almacenamiento para IA local.

Por eso, un Mini PC para IA local y un NAS con IA no son realmente productos que compiten. Se entienden mejor como dos partes de la misma infraestructura privada de IA.

Para una configuración personal, empezar con un Mini PC es razonable. Cuando los modelos, documentos y copias de seguridad crezcan, el almacenamiento se puede separar más adelante. Eso también facilita actualizar la estación de trabajo IA local en el futuro sin mover todo el conjunto de datos cada vez.

¿Cuánto almacenamiento SSD necesita un IA local Mini PC?

Los archivos de modelos son solo una parte de un entorno IA local. Con el tiempo, el almacenamiento local también se llena con diferentes cuantizaciones de modelos, modelos de incrustación, bases de datos vectoriales, imágenes de Docker, repositorios de código, archivos de base de conocimiento, imágenes, vídeo y resultados generados.

1TB es más adecuado para alguien que recién comienza con IA local y mantiene solo un pequeño número de modelos y proyectos.

2TB es más práctico para la programación de IA a largo plazo, RAG o para mantener varios modelos al mismo tiempo.

4TB o más tiene más sentido para bibliotecas de modelos más grandes, proyectos de IA de imágenes y vídeo, bases de conocimiento sustanciales y flujos de trabajo profesionales.

Junto con la capacidad de SSD preinstalada, comprueba cuántas ranuras M.2 tiene realmente el Mini PC. Un sistema con dos o tres ranuras M.2 te brinda más flexibilidad para separar el sistema operativo, los modelos y los datos de proyectos a medida que crecen las necesidades de almacenamiento.

Para una visión más amplia de la capacidad, consulta nuestro Guía de Almacenamiento Mini PC SSD.

¿Cuándo tiene sentido OCuLink + una GPU externa?

No todos los usuarios de IA local necesitan una GPU dedicado.

OCuLink tiene más sentido cuando la CPU, la memoria y el almacenamiento aún son suficientes, pero los requisitos de GPU siguen aumentando. Eso podría significar usar más herramientas de generación de imágenes aceleradas por GPU, ejecutar software profesional que necesita CUDA de NVIDIA, necesitar un mayor rendimiento de inferencia de GPU, o usar el mismo Mini PC para juegos de gama alta y creación de contenido.

En ese caso, añadir una GPU de sobremesa mediante OCuLink te permite conservar el Mini PC original en lugar de reemplazar todo el sistema.

Si estás considerando esa ruta de actualización, consulta nuestro Guía del Dock OCuLink eGPU.

Elegir un MINISFORUM IA local Mini PC por tamaño de modelo

X1-Lite 255: IA local de Nivel de Entrada para Modelos 7B–14B

El X1-Lite 255 viene con 32GB de memoria DDR5 y un SSD de 1TB, además de gráficos Radeon 780M, USB4 y OCuLink.

Está mejor adaptado para 7B–14B LLM locales, nivel de entrada RAG, experimentos de codificación de IA, uso en laboratorio casero y computación diaria. Su papel es sencillo: una vía de menor coste hacia la IA local, con una ruta de actualización externa GPU aún disponible más adelante.

UM880 Plus: IA local Actualizable / Mini Laboratorio Doméstico PC

El UM880 Plus ofrece memoria DDR5 actualizable, almacenamiento dual M.2 y OCuLink.

Es más adecuado para usuarios que quieran comenzar con una máquina de desarrollo normal y convertirla gradualmente en un servidor de IA local. Por ejemplo, puede comenzar con 32GB para modelos 7B–14B, luego avanzar hacia modelos 20B–32B, RAG y más servicios Docker después de una actualización de memoria. Si GPU eventualmente se convierte en el cuello de botella, OCuLink deja espacio para añadir una tarjeta gráfica de escritorio.

Su principal ventaja es la Ruta de Actualización.

AI X1 Pro-370: 64GB Punto de inicio para 30B+ IA local Personal

AI X1 Pro-370 viene con 64GB de RAM y una SSD de 2TB, y admite hasta 128GB de DDR5.

Para los usuarios personales de IA local, 64GB pasa a una clase de carga de trabajo notablemente diferente. Es muy adecuado para Qwen3-30B-A3B, Qwen2.5-Coder-32B, DeepSeek-R1-Distill-Qwen-32B, RAG Local, codificación de IA, agentes de IA y creación de contenido.

El soporte de hasta 128GB también deja más espacio de memoria disponible para modelos cuantizados más grandes en el futuro.

MS-S1 MAX: 70B+ Estación de Trabajo Local de IA con Memoria Unificada

El MS-S1 MAX combina Ryzen AI Max+ 395 con gráficos Radeon 8060S y admite hasta 128GB LPDDR5x de memoria unificada.

Está orientado a cargas de trabajo como LLM locales 70B, Llama 3.3 70B, sistemas RAG de mayor tamaño, flujos de trabajo multiagente, grandes bases de conocimiento locales, servidores de IA privada, laboratorios de IA e implementaciones para equipos pequeños.

Para esta clase de carga de trabajo, la combinación importante es 128GB Memoria Unificada + Ancho de Banda de Memoria Alto + Radeon 8060S. Eso lo coloca más cerca de una compacta Estación de Trabajo de IA local que de un Mini PC convencional.

Si está comparando este tipo de plataforma de IA de alta capacidad con un Mini PC de alto rendimiento más tradicional, vea Ryzen AI Max+ 395 frente a Mini PC Intel de alto rendimiento.

¿Por qué podrían los usuarios europeos considerar un Mini PC de IA local?

Para individuos, profesionales autónomos y equipos pequeños o medianos en Europa, el valor de la IA local no es solo el rendimiento.

Un estudio de diseño en Alemania puede preferir mantener el material de clientes no publicado en sus propios dispositivos y red.

Un equipo de desarrollo en Francia puede querer que su base de código, datos de prueba y documentación interna permanezcan principalmente dentro de su entorno local.

Un minorista, mayorista o pequeño fabricante que vende en varios países de la UE puede estar gestionando información de productos, documentos técnicos, preguntas de clientes, material de reparación y procedimientos operativos internos en inglés, alemán, francés, italiano y español. Una configuración multilingüe local LLM + RAG puede integrar esa información en una base de conocimientos interna de IA para asistencia al cliente, consultas de productos, búsqueda interna, organización de documentos y capacitación del personal.

La IA local puede reducir la cantidad de datos de trabajo que necesitan enviarse continuamente a servicios de IA de terceros.

¿Qué más deberían comprobar los compradores europeos antes de comprar un Mini PC para IA local?

Cuando un sistema pasa de un Mini PC estándar con 32GB a configuraciones de 64GB, 128GB o de nivel estación de trabajo para IA, la decisión de compra ya no depende solo de la CPU, la GPU y la memoria. La asistencia posventa local y las opciones de reparación también forman parte del coste real de propiedad.

El Tienda de la UE MINISFORUM vende MINISFORUM Mini PCs, estaciones de trabajo y sistemas NAS a clientes europeos. Para pedidos enviados a países de la UE, la tienda indica que el IVA está incluido en el precio listado, y los productos en stock se despachan desde su almacén en Alemania.

Para los PC, estaciones de trabajo y productos NAS que cumplan los requisitos y se hayan comprado en la tienda de la UE a partir del 9 de marzo de 2026, la actual política de garantía ofrece 36 meses de cobertura. MINISFORUM UE también proporciona un proceso de reparación europeo, con su centro de reparación de la UE ubicado en Hamburgo, Alemania.

Por tanto, al elegir un Mini PC de alta capacidad para IA local, conviene tener en cuenta IVA de la UE + Almacén en Alemania + Garantía de la UE + Reparación Europea además del propio hardware. Ninguno de estos factores aumenta el tamaño del modelo que puedes ejecutar, pero sí influye en los costes de compra, reparación y posventa de una estación de trabajo de IA de alta gama en Europa.

Si solo consideras tres cosas

1. Empieza por el caso de uso y el modelo; después, elige el Mini PC.

Las cargas de trabajo 7B, 30B y 70B requieren hardware muy diferente.

2. Para la IA local, comprueba primero la capacidad y la arquitectura de la memoria.

El modelo, el contexto y el resto del flujo de trabajo de la IA necesitan espacio en la memoria disponible.

3. Una configuración de IA local con Mini PC + NAS resuelve dos problemas distintos.

El Mini PC gestiona el cálculo. El NAS gestiona los modelos, documentos, bases de conocimiento y copias de seguridad. A medida que el entorno de IA local crece, cada lado se puede actualizar o separar sin reconstruir todo el sistema cada vez.