GPU 시세 · VRAM · 온디바이스 AI

Al elegir una GPU para deep learning, la primera pregunta no es rendimiento sino capacidad de carga. Incluso con el mismo presupuesto, 12GB frente a 24GB de VRAM cambian el tamaño de modelo que realmente carga. Este artículo presenta una tabla de referencia de VRAM por uso para GPUs de deep learning, con tablas y aritmética, y añade una GPU de ejemplo a cada fila.

🌐 · English · 中文 · Español · 한국어 · · Español Hub

Por qué la VRAM varía según el uso

El entrenamiento se atasca en este orden: capacidad de VRAM, ancho de banda, núcleos; en inferencia, la VRAM es directamente el tamaño de modelo que puedes cargar. Para generación de imágenes, 8GB es el suelo real; en LLM, pesos y KV cache deben encajar a la vez. Por eso los mínimos y recomendados varían según el uso.

Uso VRAM mínima VRAM recomendada Puntos de atención GPU de ejemplo
Entrenamiento de clasificación de imágenes (transfer learning) 8 GB 12 GB El tamaño de lote es proporcional a la VRAM RTX 4060 8GB / 5060 Ti 16GB
Stable Diffusion / generación de vídeo 8 GB 16 GB o más La VRAM se dispara al subir la resolución RTX 4060 Ti 16GB
Inferencia LLM (cuantizado 7~8B) 8 GB 12~16 GB El ancho de banda decide la velocidad de tokens RTX 5070 12GB
Inferencia LLM (13~24B 4bit) 12 GB 24 GB Por debajo de 16GB, a rendirse RTX 3090 24GB de segunda mano
3D Gaussian Splatting / NeRF 12 GB 24 GB Las escenas grandes exigen 24GB RTX 4090 24GB

Cómo calcular la VRAM necesaria para ejecutar un LLM en local

Con Q4_K_M de la familia llama.cpp, los pesos ocupan ~0.61GB por cada 1B de parámetros. En Windows, descontado el overhead de CUDA, solo se usa el 88% de la VRAM nominal: 12GB quedan en ~10.6GB, 24GB en ~21.1GB. Con estos dos números sale la tabla.

Tamaño del modelo (Q4_K_M) Pesos (B x 0,61) Margen para la caché KV Total necesario Tarjeta mínima
8B 4.9 GB 3.0 GB 7.9 GB 12 GB (10,6 GB útiles, holgado)
12B 7.3 GB 3.3 GB 10.6 GB 12GB (10,6GB disponibles, encaje justo)
24B 14.6 GB 6.5 GB 21.1 GB 24 GB (21,1 GB útiles)
70B 42.7 GB 4.0 GB 46.7 GB Categoría 48GB o dividido en 2 tarjetas

El camino se bifurca entre 12B y 24B. Un 24B suma 21,1GB: solo los pesos (14,6GB) ya no caben en una tarjeta de 12GB; un 70B pide 46,7GB frente a los 42,2GB disponibles de una sola tarjeta de 48GB, así que una tarjeta de consumo nunca fue opción. Hasta dónde llega la 5070 12GBRTX 5070 con 12GB de VRAM: límites realesLo calculé con más detalle en

¿Cuántos GB para Stable Diffusion?

La generación a 512px sobre SD 1.5 funciona con 8GB. Pero al pasar a SDXL 1024px con lote 4 o más, entrenamiento LoRA o generación de vídeo, la necesidad sube de golpe a 16GB o más. En ese tramo, una tarjeta de 8GB falla en silencio recortando la generación en vez de dar error, así que para uso de imágenes recomiendo empezar con 16GB.

Qué GPU encaja en un PC de inicio para entrenar

Si compras nuevo para iniciarte en el entrenamiento, la RTX 4060 Ti 16GB es el punto más razonable. Aguanta la generación a resolución básica de SD y el ajuste fino de 7B; añade también 32GB o más de RAM del sistema. Pero su ancho de banda es de 288GB/s, así que los límites son evidentes en entrenamiento con lotes grandes o inferencia rápida. Para un principiante a lo que le urge no es la velocidad de cómputo sino la capacidad de carga, la capacidad va primero.

Opciones realistas según presupuesto del laboratorio

  • Presupuesto bajo: RTX 3090 24GB de segunda mano — la única forma de meter 24GB en la misma ranura por la mitad de presupuesto
  • Gama media: RTX 5060 Ti 16GB (más lenta pero más profunda) o RTX 5070 12GB (más rápida pero más superficial) — elige según la prioridad de uso
  • Presupuesto alto: RTX 4090 24GB, y 5090 cuando se agote el stock — 24GB más un ancho de banda de 1TB/s asegurados a la vez

Precios 2026: cuándo se actualizan las cifras de la tabla

En tiempo real, a la cuarta semana de septiembre de 2026:RTX 5070 ₩1,383,800 · RTX 5060 Ti 8GB ₩801,200 · RTX 3060 12GB ₩540,300 (mediana de anuncios reales en Danawa · recogida automática diaria a las 09:00). Los veredictos de VRAM de la tabla de arriba se mantienen al margen del precio; solo los precios se actualizan semanalmente en este párrafo. El análisis semanal por GB está enSemanal de seguimiento de precioscontinúa en

Preguntas frecuentes

¿Más VRAM acelera el entrenamiento de forma proporcional?

No. La capacidad decide cuántos caben; la velocidad la deciden el ancho de banda y los núcleos. Una 3090 usada iguala en capacidad a la 4090 pero va una generación por detrás en velocidad. Lea los dos ejes por separado en la tabla.

¿Se puede hacer ajuste fino con una tarjeta de 12GB?

El techo es LoRA de 7B. Seguir entrenando o afinar 13B+ necesita sitio para el estado del optimizador: 24GB. Si el objetivo es entrenar, empieza por una 3090/4090 y no malgastes presupuestos.

¿Se puede aplicar la misma tabla de referencia a los portátiles?

No lo apliques tal cual. Una GPU de portátil con el mismo nombre rinde un 60~80% de la de sobremesa según el TGP, y la VRAM también suele recortarse. Asume desarrollo e inferencia en el portátil y entrenamiento en servidor, y toma como mínimo 8GB de VRAM y 32GB de RAM.

Fuentes y criterios: los pesos llama.cpp Q4_K_M a 0.61GB por 1B y el descuento del 12% de sobrecarga CUDA (88% utilizable) siguen las mismas hipótesis que la columna de pruebas de la 5070; las bandas de precio son un recuento de mayo de 2026 según el artículo de RTX 50 en Namuwiki y Danawa; las especificaciones de GPU, según datos públicos del fabricante. Los precios reales fluctúan: revisa el mercado antes de comprar.

Comprar a los precios de hoy: cotización de 9 GPU

Anuncios reales de Danawa + agregación de fragmentos del mercado de segunda mano · actualización automática diaria a las 09:00 KST ·DAILY 09:00

GPU Precio mediano de hoy Posición en la franja de precios Tendencia frente al día anterior
RTX 5090 32GB 8.699.990 KRW
▼ -0.0%
RTX 5080 16GB 2,599,000 wones
▲ +3.4%
RTX 5070 Ti 16GB ₩1,959,000
▼ -1.6%
RX 9070 XT 16GB 1,501,600 KRW
▲ +0.2%
RTX 5070 12GB 1,383,800 wones
▲ +0.3%
RTX 5060 Ti 8GB 801,200 KRW
▲ +1.2%
RTX 5060 8GB 757,000 wones
▲ +3.3%
RTX 5050 8GB 605.200 wons
▲ +5.8%
RTX 3060 12GB 540.300 KRW
▲ +0.2%
Nueva = mediana de anuncios reales del open market de Danawa · Usada = mezcla de precios de oferta en comunidad y mercados de segunda mano · ±5% frente al precio real de compra
Última actualización: 2026-09-28 09:02 KST

.