Precio de NVIDIA H100 en la nube: qué pagas según lo que hagas

Comparo tarifas de GPU casi todas las semanas para los proyectos de mi equipo, y si hay una pregunta que me repiten sin descanso es la del precio de NVIDIA H100 en la nube. La respuesta corta: no existe un precio único. Hay tarifas muy distintas según el proveedor, el compromiso que firmes y, sobre todo, el trabajo que le vayas a meter a la tarjeta. Entrenar, ajustar y servir un modelo son tres juegos diferentes, y cada uno castiga la factura a su manera. Vamos caso por caso.

Precio de NVIDIA H100 en la nube: qué mueve la tarifa

Cuatro variables explican casi toda la diferencia que ves entre ofertas. La primera, el tipo de proveedor: un marketplace de GPUs puede costar varias veces menos que la lista de una gran nube por la misma tarjeta. La segunda, el compromiso: bajo demanda, spot o reserva a uno o tres años mueven la aguja más que cualquier negociación. La tercera, la configuración del nodo: no es lo mismo un equipo SXM con NVLink e interconexión rápida que una H100 PCIe aislada con discos modestos. Y la cuarta, la región y el stock disponibles ese día exacto.

Cuando alguien me pregunta cuánto cuesta alquilar una H100 en la nube, siempre devuelvo la pregunta: ¿para qué la necesitas y cuántas horas va a estar encendida? Recuerda además que hablamos de una tarjeta con 80 GB de VRAM y soporte MIG, que permite partirla en hasta siete instancias. Ese detalle cambia por completo el coste efectivo si compartes GPU entre personas o servicios del mismo proyecto.

Alquilar H100 para entrenar LLM: el caso más exigente

Entrenar un modelo de lenguaje desde cero es el escenario donde más se sufre. Hablamos de clústeres de varios nodos, semanas de cómputo y una interconexión que no puede convertirse en cuello de botella. Un nodo de 8 GPUs durante tres semanas suma más de 4.000 horas de GPU; con cifras así, un 10 % de mejora en utilización ahorra más dinero que pelearse por céntimos en la tarifa.

Mi consejo a la hora de alquilar H100 para entrenar LLM es hacer antes una prueba corta con tu propio código y medir tokens por segundo reales, no los del folleto. Si tu pipeline de datos frena, la GPU más barata del mundo sale cara. Y el spot solo tiene sentido en runs largas si llevas un checkpointing agresivo que te permita retomar el trabajo sin perder días.

Alquilar H100 para fine tuning: a veces te sobra tarjeta

Aquí viene la parte incómoda: muchos trabajos de ajuste no necesitan una H100 completa. Con LoRA o QLoRA sobre un modelo de 7B u 8B parámetros, cabes de sobra en GPUs más pequeñas y baratas. La H100 se justifica cuando el modelo es grande, el contexto se alarga o quieres iterar rápido sin quedarte sin memoria en la mitad de un experimento.

Si varias personas del equipo van a alquilar H100 para fine tuning a la vez, mira MIG antes de reservar cuatro tarjetas. Partir una H100 de 80 GB en varias instancias y poner una cola de trabajos nos ha sacado de más de un apuro con presupuesto ajustado. Y otra cosa: apaga la instancia cuando termines. Dejarla encendida todo el fin de semana es el impuesto más tonto que se puede pagar.

Precio de NVIDIA H100 en la nube para inferencia: donde el compromiso manda

La inferencia cambia las reglas del juego: el servicio está levantado las 24 horas, así que la tarifa se multiplica por las 720 horas del mes. Aquí es donde las reservas y los descuentos por uso comprometido se amortizan de verdad, y donde merece la pena sentarse a negociar si tu tráfico es estable.

Cuando evalúo el precio de H100 en la nube para inferencia no miro solo el coste por hora, sino el throughput por euro: cuántas peticiones por segundo sostiene la tarjeta con tu modelo, tu batch y tu longitud de respuesta. Un endpoint con poco tráfico suele ir mejor en una GPU menor o en una porción MIG; guarda la H100 para producción con carga real y deja los entornos de prueba en autoscaling con scale to zero.

Precio por hora de NVIDIA H100 en la nube: cómo estimar tu factura

El cálculo honesto tiene tres sumandos: tarifa por hora multiplicada por horas activas, más almacenamiento de datasets y checkpoints, más el tráfico de salida si sirves el modelo fuera del proveedor. Ese precio por hora de NVIDIA H100 en la nube que ves en la portada del proveedor es solo el primer número de la operación, no la factura final.

Un ejemplo hipotético, solo para ver la palanca más importante. Pongamos una tarifa de 3 € por hora a modo ilustrativo. Si tu trabajo real son 60 horas de cómputo al mes, hablamos de 180 €. Si dejas la máquina encendida las 720 horas del mes, son 2.160 €. Misma tarjeta, misma tarifa, doce veces de diferencia. Antes de ir a regatear tarifas, asegúrate de no estar pagando horas muertas.

NVIDIA H100 alquiler en la nube: cinco errores que disparan el coste

1. No apagar: una instancia olvidada durante un puente de tres días cuesta exactamente lo mismo que una trabajando.
2. Elegir la configuración máxima por inercia cuando MIG o una GPU más pequeña cubren perfectamente el trabajo.
3. Renunciar al spot en tareas reanudables por miedo a gestionar checkpoints.
4. Firmar una reserva anual sin haber medido antes tu throughput real ni tu carga estable.
5. Comparar solo la tarifa por hora y olvidar el disco, las snapshots y el tráfico de salida.

Y una última cosa antes de cerrar: cuando comparas H100 en la nube, precio y disponibilidad pesan casi igual. La tarifa más baja del mercado no sirve de nada si no hay stock el día que tienes reservada la ventana de entrenamiento con tu equipo. Yo prefiero pagar algo más por hora y tener la certeza de que la máquina estará ahí cuando la necesite.