He pasado los últimos seis meses alquilando GPUs por hora para entrenar modelos de lenguaje y fine-tuning. No soy una empresa con presupuesto infinito, así que he tenido que comparar precios en al menos ocho proveedores diferentes. Lo que voy a conta

El precio real por hora de una H100: lo que nadie te dice en la web

Cuando buscas "H100 precio por hora", encuentras desde 0,99 $ hasta 4,50 $. Esa horquilla es tan amplia que no sirve para decidir. Mi experiencia concreta: en plataformas como Vast.ai, Lambda, RunPod y CoreWeave, el precio de una NVIDIA H100 SXM de 80 GB oscila entre 1,80 $ y 2,80 $ por hora en alquiler on-demand. Si compras reserva (commit de 1 mes), baja a 1,30 $ – 1,60 $/hora. He pagado 2,10 $/hora en un nodo con 4x H100 en un clúster dedicado, y 1,90 $ en una máquina compartida con NVLink.

Lo importante: el precio por hora no incluye el coste de almacenamiento persistente. He visto ofertas de 0,95 $/hora que al final sumaban 0,30 $/hora por un volumen NVMe de 500 GB. Siempre calcula el coste total: instancia + storage + transferencia de datos. En una prueba de 24 horas con una H100, el precio final fue 2,35 $/hora frente a los 1,99 $ anunciados.

• H100 SXM 80 GB: 1,80 $ – 2,80 $/hora (on-demand)
• H100 PCIe 80 GB: 1,50 $ – 2,20 $/hora (más barato pero sin NVLink)
• A100 80 GB: 1,20 $ – 1,80 $/hora (aún útil para inferencia)
• H200 141 GB: 3,20 $ – 4,50 $/hora (muy escasa, solo en 2-3 proveedores)
• L40S 48 GB: 0,70 $ – 1,10 $/hora (ideal para fine-tuning ligero)

Comparativa real: H100 vs A100 vs L40S en mi carga de trabajo

No todas las GPU sirven para lo mismo. Mi caso típico: fine-tuning de un modelo de 7B parámetros con LoRA y batch de 8. En una A100 80 GB, el entrenamiento tardaba 2 horas y 15 minutos por época. En una H100, la misma época bajó a 1 hora y 20 minutos. El coste por época fue: A100 a 1,50 $/hora = 3,37 $; H100 a 2,20 $/hora = 2,93 $. La H100 es más cara por hora, pero más barata por trabajo completado.

Para inferencia en producción con un modelo de 13B, la L40S me sorprendió. A 0,90 $/hora, logré 1.200 tokens/segundo con vLLM, frente a 1.800 tokens/segundo en la H100 a 2,50 $. Si tu tráfico es intermitente, la L40S es la opción racional. Para preentrenamiento de modelos grandes, no hay debate: la H100 con NVLink gana porque la escalabilidad lineal reduce el tiempo total.

Un detalle que casi nadie menciona: las H200 no están disponibles en la mayoría de los mercados spot. He intentado alquilarlas en tres proveedores y solo uno tenía stock, a 4,10 $/hora. El rendimiento es ~15% superior a la H100 en memoria, pero el precio por hora es 80% mayor. No compensa a menos que tu modelo necesite más de 80 GB de VRAM.

Cómo conseguir el mejor precio por hora sin sacrificar rendimiento

Mi estrategia después de meses de pruebas tiene tres reglas. Primero, usar instancias spot o interruptibles siempre que sea posible. En Vast.ai, las ofertas con etiqueta "interruptible" son un 30-40% más baratas. He entrenado un modelo de 3B durante 6 horas a 1,20 $/hora en una H100, con un solo aviso de interrupción a los 45 minutos. Si tu framework guarda checkpoints cada 5 minutos, no pierdes nada.

Segundo, comparar el precio por hora de cómputo efectivo, no por hora de reloj. Ejecuto un benchmark estándar (MLPerf o un script de entrenamiento propio) durante 10 minutos en cada proveedor. He visto una H100 en un proveedor A rendir un 12% menos que la misma GPU en el proveedor B, por throttling térmico o por CPU lenta. El precio por hora más bajo puede ser el más caro si el trabajo tarda más.

Tercero, agrupar GPUs en un solo nodo. Alquilar 8x H100 en una máquina suele costar 16 $/hora, pero si las alquilas sueltas en 8 instancias, pagas 18-20 $/hora y además pierdes NVLink. Para entrenamiento distribuido con DeepSpeed o FSDP, el NVLink es imprescindible. He cometido el error de alquilar 4 GPU sueltas y el all-reduce se convirtió en cuello de botella.

• Usa spot para trabajos no críticos (ahorro 30-40%)
• Ejecuta un benchmark de 10 minutos antes de comprometerte
• Prefiere nodos con 4 u 8 GPU juntas para entrenamiento distribuido

Mi experiencia con Vast.ai: precios bajos pero con trampas

Después de probar Lambda (2,49 $/hora H100, estable pero caro), RunPod (2,20 $/hora, buena interfaz) y CoreWeave (2,80 $/hora, alto rendimiento pero mínimo de reserva), me quedé con Vast.ai como principal opción para trabajos flexibles. He alquilado allí una H100 por 1,85 $/hora de media, y he visto ofertas puntuales de 1,40 $/hora en nodos de usuarios con buena reputación. La clave: filtrar por "verified" y por uptime superior al 99%.

El problema de Vast.ai es la variabilidad. He tenido una instancia con una H100 que reportaba 79 GB de VRAM en lugar de 80, y otra con un driver antiguo que tuve que actualizar manualmente. Pero para trabajos que toleran interrupciones, el ahorro es real. He calculado que en un mes con 200 horas de uso, Vast.ai me costó 370 $ frente a los 500 $ que habría pagado en Lambda.

Mi recomendación final: no te cases con un solo proveedor. Para trabajos críticos con fecha límite, paga el precio alto de Lambda o CoreWeave. Para experimentos y fine-tuning iterativo, usa Vast.ai. Y siempre, siempre, mide el coste por época de entrenamiento, no el coste por hora. Si quieres empezar a comparar precios en tiempo real, te dejo mi enlace de referencia de Vast.ai: https://vast.ai/?ref_id=91324. Ahí verás las ofertas actuales de H100 y A100 sin necesidad de registrarte. Con ese enlace, si alquilas algo, yo recibo un pequeño crédito, pero a ti no te cuesta nada extra. Es la forma más honesta que conozco de cerrar este artículo: te he dado los números reales, las trampas que encontré y el proveedor que mejor relación precio/rendimiento me dio. El resto es cuestión de que ejecutes tus propios benchmarks.