NVIDIA H100 precio por hora en la nube: lo que pagas y por qué

Por qué el precio de la H100 en la nube varía tanto según el proveedor

Si llevas un tiempo alquilando GPUs, sabes que el nvidia h100 precio por hora en la nube puede ir de 1,5€ a más de 4€. Esa horquilla no es casualidad: depende de tres factores que casi nadie explica bien: la generación del hardware, el tipo de instancia y el contrato.

Las H100 SXM con 80 GB de HBM3 y NVLink no cuestan lo mismo que las PCIe, que rinden peor en comunicación entre GPUs. Además, los proveedores aplican descuentos por reserva (1, 3 o 12 meses) que pueden bajar la tarifa hasta un 40% respecto al precio on-demand. Si solo necesitas unas horas para un experimento, pagarás el precio máximo. Si sabes que vas a entrenar durante semanas, la reserva te ahorra una barbaridad.

Otro factor es la ubicación. Las instancias en Europa suelen ser más caras que en EE. UU., pero a veces te ahorras problemas de latencia y de RGPD. No es lo mismo mandar datos de clientes a un clúster en Oregón que tener todo en Frankfurt.

Precio NVIDIA H100 en la nube: comparativa real entre plataformas

He probado las principales plataformas durante los últimos seis meses. Esto es lo que he visto de media, sin contar ofertas flash ni descuentos por volumen. Los precios son orientativos, porque cambian cada semana, pero la relación entre proveedores se mantiene.

Como ves, el precio de nvidia h100 en runpod es de los más agresivos, pero no todo es tarifa. En RunPod, si la máquina se cae, te toca reanudar el trabajo manualmente. En AWS, la infraestructura es más sólida, pero configurar una cola de spot para no pagar el on-demand requiere tiempo. Para mí, la clave está en saber cuánto vale tu tiempo de ingeniero: si una hora de tu trabajo cuesta más que el ahorro en GPU, no merece la pena pelearse con el proveedor barato.

Cuánto cuesta una H100 en la nube para entrenamiento de LLM

Cuando hablamos de alquilar nvidia h100 para entrenamiento, el precio por hora es solo la mitad de la ecuación. La otra mitad es cuántas horas necesitas. Un fine-tuning de un modelo de 7B parámetros con LoRA puede llevarte 2-4 horas en una H100. Un preentrenamiento desde cero de un modelo de 70B, en cambio, son miles de horas.

Pongamos un ejemplo real: ajustar un Llama 3.1 8B con un dataset de 100k ejemplos, secuencia de 4096 tokens, batch de 16, en una sola H100. Con optimizaciones tipo FlashAttention y DeepSpeed, hablamos de unas 6 horas. A 2€/hora, son 12€. Eso es asumible para cualquier equipo pequeño. Si necesitas hacer lo mismo en 1 hora, tendrás que alquilar 6 GPUs en paralelo, y la factura sube a 72€, pero el tiempo de experimentación baja.

Aquí es donde entra la decisión de alquiler de nvidia h100 para llm en clúster. Muchos proveedores ofrecen instancias con 8 GPUs conectadas por NVLink. Para entrenar modelos grandes, necesitas esa interconexión, porque si no, la comunicación entre GPUs se convierte en el cuello de botella. Alquilar 8 H100 por hora puede costar entre 15€ y 30€, dependiendo de la plataforma. Si tu proyecto dura 100 horas, la diferencia entre un proveedor y otro son 1.500€. Ahí ya no es broma.

Cómo calcular tu presupuesto real de entrenamiento

Te recomiendo que hagas una prueba de rendimiento antes de firmar nada. La mayoría de plataformas permiten alquilar una GPU por hora sin compromiso. Entrena un modelo pequeño, mide los tokens por segundo y extrapola. No te fíes de los benchmarks publicados porque el rendimiento real depende del software, la biblioteca de comunicación y el almacenamiento.

NVIDIA H100 para inferencia precio: cuándo no te compensa

Para inferencia, el nvidia h100 para inferencia precio suele ser demasiado alto si tu tráfico es bajo. Una H100 sirve para servir un LLM de 70B con cuantización de 4 bits y latencia de menos de 100 ms, pero si solo recibes 10 peticiones por minuto, estás pagando una capacidad que no usas.

En ese caso, mejor usa una A10 o una L4, que cuestan 0,3-0,6€/hora, o incluso alquila por minutos en plataformas serverless. Pero si tu servicio tiene picos de demanda impredecibles, la H100 te da margen. Por ejemplo, en una demo en vivo ante clientes, no quieres que la GPU se quede corta. Ahí pagar el precio alto por hora es un seguro.

Otro caso claro es el fine-tuning continuo de un modelo que ya está en producción. Si necesitas reentrenar cada noche con datos nuevos, alquilar una H100 por 3 horas diarias a 2€/hora son 180€ al mes. Eso es viable para una startup. Para una empresa grande, quizás sale mejor tener una dedicada.

Estrategias para abaratar el coste de la H100 en la nube

Hay varias tácticas que uso cada semana para no pagar de más:

• Instancias spot o interruptibles: en AWS, Azure y Google puedes alquilar con descuentos de hasta 70%, pero pueden matarte el proceso en cualquier momento. Para fine-tuning con checkpoints frecuentes, es ideal.
• Reservas a corto plazo: si sabes que vas a necesitar GPUs durante 30 días, una reserva mensual suele bajar el precio un 30-40%.
• Almacenamiento efímero: no dejes los datos en el volumen persistente si no los necesitas. Pagas por el almacenamiento además de la GPU.
• Optimiza el código: usar vLLM para inferencia o DeepSpeed para entrenamiento reduce las horas necesarias. A veces, una hora de optimización te ahorra 20 horas de GPU.

Otra cosa que aprendí por las malas: revisa siempre la región. He visto diferencias de 0,5€/hora entre us-east y eu-west por la misma GPU. Si no te importa la latencia, elige la región barata.

Preguntas frecuentes sobre el precio de la H100 en la nube

¿Cuál es el precio medio de una H100 en la nube por hora?

En 2025, el rango típico on-demand está entre 1,5€ y 3,8€ por hora según el proveedor y la región. Con reservas de 1 mes, puedes bajar a 1,1€-2,3€. Las instancias spot pueden llegar a 0,5€, pero no son fiables para entrenamiento largo.

¿Merece la pena alquilar una H100 para fine-tuning de un modelo pequeño?

Depende del tamaño. Para un modelo de 7B con LoRA, una H100 es sobrada y quizás una A100 o incluso una RTX 4090 te sirva por menos dinero. Si tu modelo es de 30B o más, la H100 marca la diferencia en tiempo y coste total.

¿Qué incluye el precio de alquiler de una H100?

Normalmente incluye la GPU, la RAM de la instancia y el ancho de banda de red básico. No incluye almacenamiento persistente, IP estática ni soporte premium. Revisa siempre la letra pequeña: algunos proveedores cobran el almacenamiento por GB y hora, lo que puede añadir un 10-20% a la factura.

¿Cuánto cuesta alquilar una H100 en RunPod?

RunPod suele ofrecer precios más bajos que los hiperescaladores, a menudo por debajo de 2€/hora para una H100 SXM. Pero la disponibilidad puede ser limitada en horas punta, y la gestión de instancias es menos automatizada que en AWS o Azure.

¿Puedo usar una H100 para inferencia de LLM y cuánto cuesta?

Sí, es excelente para modelos grandes, pero si tu tráfico es bajo, te sale más rentable usar GPUs más pequeñas. Para un modelo de 70B cuantizado, una H100 puede manejar cientos de peticiones concurrentes, así que el coste por petición es bajo si tienes volumen.

¿Cómo calculo el coste total de entrenar un LLM con H100?

Multiplica el precio por hora por el número de GPUs y por las horas estimadas. Añade un 15% de margen por reintentos y almacenamiento. Por ejemplo, 8 GPUs × 2€ × 200 horas = 3.200€ + 480€ de extras, total 3.680€. Esa es la cifra realista.