Guías
Cuánto cuesta entrenar GPT en la nube
La pregunta que todo el mundo hace: ¿cuánto cuesta entrenar GPT en la nube?
Si estás leyendo esto, probablemente ya sabes que entrenar un modelo tipo GPT no es gratis. La respuesta corta: depende. Depende del tamaño del modelo, del número de tokens, de la GPU que elijas y de si usas spot o bajo demanda. Pero para que te hagas una idea, un modelo de 7B parámetros en una sola GPU A100 puede costar entre 50 y 200 euros por entrenamiento completo, mientras que un modelo de 70B en un cluster de H100 se va a miles de euros. Vamos a desglosarlo sin humo.
El coste de entrenar un LLM en la nube no es un número mágico: es la multiplicación de horas de GPU por el precio por hora. Y ahí es donde la mayoría de la gente se equivoca: no cuenta el tiempo real de entrenamiento, ni las iteraciones de prueba, ni el coste de los fallos. Yo he quemado más de una factura por no calcular bien el número de pasos.
¿Cuánto cuesta entrenar un modelo de lenguaje en GPU? La fórmula básica
Para calcular cuánto cuesta entrenar un modelo de lenguaje en GPU, necesitas tres datos: el precio por hora de la GPU, el número de GPUs que usas en paralelo y el tiempo total de entrenamiento. La fórmula es simple: coste = (precio/hora de GPU) × (nº de GPUs) × (horas).
Pero ojo, el tiempo no es trivial. Depende de los tokens de entrenamiento y de la eficiencia del hardware. Una regla rápida: para un modelo de 7B, con 100 mil millones de tokens, en una A100 80GB, necesitas unas 3.000 horas de GPU. En una H100, ese mismo entrenamiento baja a la mitad, más o menos. Te recomiendo usar la ley de Chinchilla para estimar el número de tokens óptimo, pero eso es otro tema.
Precios orientativos por GPU en la nube
Estos son rangos que he visto en proveedores como Lambda, Vast.ai, RunPod o Azure, con precios por hora en euros (con IVA aparte):
| GPU | VRAM | Precio/hora (bajo demanda) | Precio/hora (spot) |
|---|---|---|---|
| A100 | 80GB | 2,50 – 4,00 € | 1,00 – 2,00 € |
| H100 | 80GB | 6,00 – 10,00 € | 3,00 – 6,00 € |
| RTX 4090 | 24GB | 0,60 – 1,20 € | 0,30 – 0,80 € |
| L40S | 48GB | 2,00 – 3,50 € | 1,00 – 2,00 € |
Estos precios son orientativos y varían según la región y la disponibilidad. Nunca te fíes de un solo proveedor; yo siempre comparo tres o cuatro antes de lanzar un entrenamiento largo.
Cuánto cuesta entrenar un modelo de 7B en la nube: ejemplo real
Vamos a un caso concreto: quieres entrenar un modelo de 7B desde cero, con 100B tokens. En una A100 80GB, el throughput típico es de unos 1.500 tokens por segundo por GPU. Con 8 GPUs en paralelo, tardarías: 100B / (1.500 × 8) = 8,33 millones de segundos ≈ 2.315 horas. A un precio de 3 €/hora por GPU, la cuenta da: 2.315 × 8 × 3 = 55.560 €. Eso es cuánto cuesta entrenar un modelo de 7B en la nube en el peor caso.
Pero si usas H100, el throughput sube a ~3.000 tokens/s por GPU, y el precio por hora es ~8 €. Con 8 GPUs: 100B / (3.000 × 8) = 4.167 segundos ≈ 1.157 horas. Coste: 1.157 × 8 × 8 = 74.048 €. ¡Más caro! Por eso no siempre la GPU más potente es la más rentable. Si tu presupuesto es ajustado, un cluster de A100 o incluso de 4090 puede ser mejor opción para modelos pequeños.
Y no olvides los fallos: yo siempre añado un 20% de margen por reintentos, porque el software falla, los nodos se caen y tienes que repetir pasos.
Cuánto cuesta entrenar un modelo de 70B en la nube: el salto de escala
Un modelo de 70B ya no cabe en una sola GPU. Necesitas al menos 8 GPUs con 80GB para entrenarlo con tensor parallelism y ZeRO. El coste se dispara. Supongamos 200B tokens, algo razonable para un modelo de ese tamaño. Con 16 H100, a 8 €/hora, y un throughput de 1.200 tokens/s por GPU (el overhead de paralelismo reduce la eficiencia), el tiempo sería: 200B / (1.200 × 16) = 10,4 millones de segundos ≈ 2.900 horas. Coste: 2.900 × 16 × 8 = 371.200 €. Eso es cuánto cuesta entrenar un modelo de 70B en la nube si lo haces desde cero.
Si usas A100 (más lenta, pero más barata), con 24 GPUs a 3 €/hora y 800 tokens/s por GPU: 200B / (800 × 24) = 10,4 millones de segundos ≈ 2.900 horas (sí, la misma duración porque tienes más GPUs). Coste: 2.900 × 24 × 3 = 208.800 €. Más barato, pero necesitas más GPUs y más memoria agregada.
Para la mayoría de los equipos, entrenar un 70B desde cero no es viable. El precio de entrenar GPT en la nube para un 70B rara vez baja de 200.000 €. Por eso el fine-tuning es tan popular: ajustar un 7B con un dataset de 10M tokens cuesta solo unas 50 horas de A100, unos 150 €. Ojo, no confundas entrenar con afinar.
Coste de entrenar un modelo de IA en la nube: desglose por partidas
Cuando pides presupuesto para entrenar un modelo, la factura no es solo las GPUs. Hay más partidas que la gente ignora:
- Almacenamiento: datasets grandes en NVMe o EBS cuestan entre 0,10 y 0,50 €/GB/mes. Un dataset de 500GB son 250 € al mes.
- Transferencia de datos: subir y bajar checkpoints puede ser caro si pasas de una región a otra. Mejora comprimir los datos antes.
- Instancias de CPU: para el preprocesado de tokens, necesitas nodos CPU. Una instancia con 16 vCPUs cuesta ~1 €/hora.
- Logging y monitoreo: Weights & Biases o MLflow tienen capas gratuitas, pero si usas mucho, te cobran.
En mi experiencia, el coste de entrenar un modelo de IA en la nube total es un 15-25% más alto que solo el coste de GPU. Así que cuando calcules, multiplica por 1,2. No te lleves sustos.
¿Cuánto cuesta entrenar un modelo tipo GPT en la nube con precios spot?
Una forma de abaratar el coste de entrenar un LLM en la nube es usar instancias spot. En AWS, GCP o Azure, las spot pueden ser un 60-70% más baratas que el bajo demanda. Pero tienen un problema: te pueden matar el trabajo en cualquier momento. Para entrenamiento, eso es un dolor de cabeza porque pierdes el progreso si no tienes checkpointing cada pocos minutos.
Mi consejo: usa spot solo para experimentos pequeños o para fine-tuning con datasets pequeños, donde puedas reanudar rápido. Para entrenamientos de varios días, el bajo demanda es más fiable. Yo he perdido 3 días de entrenamiento por no pagar el extra, y la factura final fue mayor por reintentos.
Otra estrategia: alquilar GPUs en mercados peer-to-peer como Vast.ai o RunPod, donde puedes conseguir una H100 por 3 €/hora. Eso reduce el precio de entrenar GPT en la nube drásticamente, pero la fiabilidad es menor. Si tu proyecto tolera interrupciones, es una opción brutal.