GPU 시세 · VRAM · 온디바이스 AI

El TGP de una GPU de portátil es el límite de potencia que puede separar el rendimiento hasta 40 puntos porcentuales con el mismo chip. Si compras solo por el nombre de la GPU, acabarás con un ultrabook fino entrenando a la mitad de velocidad que un gaming de gama alta. Recogemos en tabla cómo comprobar el TGP, Dynamic Boost y temperatura, y los criterios de elección para entrenamiento ML.

🌐 · English · 中文 · Español · 한국어 · · Español Hub

Por qué importa tanto el TGP

El TGP (Total Graphics Power) es el tope de potencia (W) que el fabricante del portátil asigna a la GPU. El mismo chip puede funcionar a 35W o a 115W con boost dinámico hasta 140W. Las frecuencias y voltajes se deciden dentro de ese tope, así que el TGP determina el rendimiento real antes que el nombre de la GPU.

Por qué dos portátiles con la misma RTX 5070 difieren un 40% en rendimiento

Compara la parte superior e inferior de la tabla: el rendimiento percibido frente al escritorio va del 40–55% al 80–95%, una brecha de 40 puntos (95-55=40). Incluso GPUs con el mismo nombre operan en rangos de voltaje y reloj distintos si su límite de potencia difiere, y esa diferencia se refleja tal cual en FPS y velocidad de entrenamiento.

Tramo de TGP Portátil típico Rendimiento percibido frente a RTX de escritorio Rendimiento de inferencia 7B INT4 (relativo) Clase de ejemplo
35~60W Ultrabook fino y ligero (bajo consumo categoría MAX-Q) 40~55% Unos 15–25 tok/s Ultraligero tipo LG Gram
80~100W Gaming de entrada 60~75% Unos 30–45 tok/s Categoría Legion 5 / ROG Strix G
115~140W (con Dynamic Boost) Gaming/estación de trabajo de gama alta 80~95% unos 55–80 tok/s Gama Legion Pro/MSI Titan

Las bandas de rendimiento son valores relativos basados en medias de benchmarks públicos, suponiendo un modelo INT4 de 7B con lote 1; varían según modelo y refrigeración.

Dónde consultar la potencia de la GPU (W)

La regla es buscar primero el apartado ‘GPU Maximum Power’ en la ficha de especificaciones oficial del fabricante. Si el número es ambiguo, comprueba la potencia sostenida real en la captura de carga con GPU-Z de alguna reseña, y cruza con un benchmark como Notebookcheck que compara la misma GPU entre modelos con distinto TGP. Comprueba también siempre si la cifra indicada incluye Dynamic Boost.

Dynamic Boost y calor: por qué los benchmarks se derrumban en entrenamientos largos

Dynamic Boost transfiere el margen de potencia de la CPU a la GPU cuando la CPU está poco cargada; las filas 115W+25W=140W de la tabla se completan así. El problema es la duración: los benchmarks duran segundos o minutos y el boost se mantiene, pero el entrenamiento ML corre durante horas, el chasis satura de calor y salta el throttling térmico, con relojes sostenidos que se estabilizan un 10~20% por debajo del pico. Ahí está la razón de que un portátil de TGP alto elegido por puntuaciones de benchmark cortas defraude en entrenamientos largos.

Qué hacer con un portátil de TGP bajo

Si tu esquema es ‘entrenamiento en servidor/Colab, portátil para desarrollo + inferencia ligera’, un ultrabook de bajo TGP es en realidad lo razonable. Gana en batería, ruido y peso, y con 32GB o más de RAM combinado con inferencia cuantizada es bastante usable como entorno de desarrollo. Solo que el límite de capacidad de VRAM es un asunto aparte que fija el techo de los LLM locales, así queRTX 5070 con 12GB de VRAM: límites realesrecomiendo leerlo también junto a.

En la era del MacBook M5, ¿es una eGPU la respuesta?

Yendo al grano: una eGPU para CUDA no es una opción realista. Los MacBook con Apple Silicon no pueden usar GPUs externas para entrenar, y una eGPU de sobremesa rinde poco frente al coste de enclosure y cables: con el mismo presupuesto conviene más subir el TGP y la refrigeración del propio portátil. Lo sensato es dividir roles y dejar el MacBook para inferencia en GPU Apple.

Checklist de compra de portátil para entrenamiento ML

  1. Comprueba la potencia de la GPU (W) en la ficha oficial del fabricante — distingue si la cifra incluye Dynamic Boost
  2. Rendimiento comparado con otros modelos con la misma GPU en bancos de pruebas (ver Notebookcheck)
  3. Enfriamiento bajo carga sostenida: mira los relojes a los 30 minutos, no el pico
  4. Comprueba 32GB de RAM y una ranura SSD libre: la posibilidad de ampliar decide la vida útil más que la GPU

Preguntas frecuentes

¿Funciona un LLM local con una GPU de portátil de 8GB?

Los modelos INT4 de 7–8B funcionan. Pero al alargar el contexto, la caché KV se come la VRAM y la longitud de respuesta queda limitada, y en ultrabooks de TGP bajo la velocidad por token también cae. Si resume muchos documentos, recomiendo 12GB o más.

Si la ficha técnica lista dos cifras de potencia, ¿a cuál haces caso?

Cuando figuran a la vez el TGP por defecto y la potencia máxima con Dynamic Boost, juzgue el rendimiento sostenido por el TGP por defecto. En cargas donde todos los núcleos trabajan sin descanso, como entrenamiento, el margen del boost casi no aparece.

¿Se puede hacer fine-tuning en un portátil de TGP bajo?

El fine-tuning ligero tipo LoRA es posible incluso en la clase de 100W, pero al alargarse el entrenamiento el calor se acumula. Si vas a entrenar de forma continua, mejor un modelo de 115W o más, o dejar el portátil para desarrollo y pasar el entrenamiento a un servidor: rinde mejor por hora.

Fuente: los ratios de rendimiento son medias de benchmarks públicos (Notebookcheck, etc.); hay variación según modelo y refrigeración. Las bandas de tok/s son valores relativos suponiendo cuantización INT4 de 7B y inferencia con lote 1; no incluyen precios.