Para correr un modelo de lenguaje en tu computador, lo que más pesa es la memoria de la tarjeta de video (VRAM). Cuantizado a 4 bits y con 8 mil tokens de contexto, un modelo de 8 mil millones de parámetros usa unos 6,5 GB, uno de 32 mil millones unos 21,5 GB y uno de 70 mil millones unos 43,3 GB. En Mangos Lab elegimos las piezas para el modelo que quieres usar, armamos el equipo, lo dejamos funcionando con tus herramientas (Ollama, LM Studio, llama.cpp o vLLM) y te entregamos la medición de tokens por segundo.
Tus documentos, tu código y tus conversaciones no salen del computador. Una vez descargado el modelo, funciona sin internet.
Desarrollo y agentes
Para probar modelos abiertos, agentes y asistentes de código sin pagar por cada consulta ni depender de un servicio externo.
Imágenes y video
Generación de imágenes y video con ComfyUI, Flux o Stable Diffusion, que piden VRAM y una tarjeta que aguante horas de carga.
Un servidor para la oficina
Un equipo en la red local que atiende a todo un equipo de trabajo, con acceso por navegador o por API.
Tres configuraciones de referencia
Precios de las piezas en tiendas de Chile, consultados el 10-11-2026, 17:33 en SoloTodo. Cambian a diario y se confirman al comprar, con factura. No incluyen el armado, la optimización ni la medición.
Modelos de hasta 14B
16GBVRAM
Modelos de 8 a 14 mil millones de parámetros con contexto largo, e imágenes con Flux o SDXL.
Tarjeta de videoNVIDIA GeForce RTX 5060 Ti de 16 GB
Calculamos la memoria que necesita el modelo con el contexto que vas a usar y elegimos la tarjeta, o las tarjetas, con margen.
Memoria y almacenamiento
RAM suficiente para cargar y repartir modelos (64 a 128 GB) y discos NVMe rápidos: un modelo puede pesar de 5 a más de 100 GB.
Carga sostenida
La inferencia y el entrenamiento cargan la tarjeta por horas. Fuente con margen, flujo de aire y curvas de ventiladores para esa carga, no para una prueba de minutos.
Software listo
Drivers, CUDA o ROCm, Ollama, LM Studio, llama.cpp o vLLM, Python y, si lo pides, acceso desde otros equipos de tu red.
Qué medimos antes de entregarlo
Cada medición va en el informe que recibes con el equipo, con la fecha, la prueba que se usó y la temperatura de la sala.
Tokens por segundo
Generación y lectura del prompt, con el modelo y el largo de contexto que vas a usar.
Temperatura en carga
Núcleo y memoria de la tarjeta de video después de 30 minutos de inferencia continua.
Consumo
Potencia de la tarjeta y del procesador que informan sus sensores, en reposo y en carga.
Estabilidad
Prueba de estrés y prueba de memoria sin errores antes de entregar.
Cotiza con los precios de hoy
Tú pones los componentes o el capital para comprarlos, y la compra se hace con factura. Nosotros elegimos las piezas, las armamos, optimizamos y medimos el equipo.
¿Cuánta VRAM necesito para correr un modelo de IA en local?
Una regla simple: a 4 bits, cada mil millones de parámetros ocupan unos 0,56 GB, más el contexto y cerca de 1 GB para el programa. Con 8 mil tokens de contexto, un modelo de 8 mil millones de parámetros (8B) necesita unos 6,5 GB; uno de 14B, 10,6 GB; uno de 32B, 21,5 GB, y uno de 70B, 43,3 GB. En la guía de VRAM está el cálculo completo y lo que cabe en cada tarjeta.
¿Es mejor una tarjeta NVIDIA o AMD para IA local?
NVIDIA, con CUDA, tiene el soporte más amplio: casi todas las herramientas funcionan sin ajustes. Las AMD recientes funcionan bien con llama.cpp, Ollama y LM Studio, y a veces dan más VRAM por el mismo precio. Para entrenar modelos o usar herramientas de investigación, NVIDIA sigue siendo lo más simple.
¿Puedo usar dos tarjetas de video para un modelo más grande?
Sí. llama.cpp, Ollama y vLLM reparten el modelo entre varias tarjetas y la VRAM se suma para cargarlo. Hace falta una placa madre con espacio y líneas PCIe para las dos, una fuente que aguante el consumo de ambas y un gabinete con flujo de aire para tarjetas de 3 o 4 slots.
¿Qué pasa si el modelo no cabe en la VRAM?
Se puede repartir entre la VRAM y la RAM del computador, pero la velocidad cae varias veces, porque la RAM es mucho más lenta que la memoria de la tarjeta. Para modelos grandes conviene más VRAM antes que más RAM.
¿Puedo correr un modelo de OpenAI en mi computador?
Sí, los modelos abiertos de OpenAI: gpt-oss-20b funciona con 16 GB de VRAM, y gpt-oss-120b, con una tarjeta de 80 GB o más (sus pesos ocupan 60,8 GB). ChatGPT no se puede instalar, pero modelos abiertos como Llama, Qwen, Gemma, Mistral o DeepSeek hacen tareas parecidas en tu equipo.