Alquiler de H100 en la nube: cómo elegir GPU por hora

Qué mueve el precio de alquiler de H100 en la nube

El alquiler de H100 en la nube se ha convertido en la vía más común para trabajar con esta GPU sin comprar hardware. Aun así, la tarifa que aparece en una página de precios rara vez coincide con lo que pagas a fin de mes. El importe final depende de la variante de la tarjeta, del número de GPU que reservas, del tipo de instancia, del almacenamiento asociado, de la región y del tráfico de red.

La variante es el primer filtro. La H100 SXM está pensada para nodos conectados por NVLink, mientras que las versiones PCIe encajan en servidores más convencionales y se comportan distinto cuando el trabajo reparte datos entre varias tarjetas. Antes de comparar plataformas, mira los precios actuales de alquiler de H100 SXM: te dan una referencia realista de la horquilla por GPU y hora.

Alquiler de H100 por hora: lo que se factura y lo que no

El alquiler de H100 por hora casi nunca se cobra por horas completas. La mayoría de plataformas factura por minuto o por segundo mientras la instancia está encendida, lo cual resulta cómodo para pruebas cortas, pero esconde costes que no desaparecen al apagar la máquina.

• Almacenamiento persistente: el volumen donde guardas checkpoints y datasets se cobra aunque la GPU esté detenida.
• Transferencia de salida: mover pesos y datasets fuera del proveedor puede tener coste por GB.
• Instancias interrumpibles: salen más baratas, pero pueden liberarse cuando otro usuario puja más.
• Reservas largas: un compromiso de semanas o meses suele reducir la tarifa por hora, a cambio de flexibilidad.

Con esas cuatro variables, estimar el gasto deja de ser un ejercicio de adivinación. Merece la pena pasar los números por una calculadora de coste por hora y por mes antes de comprometer presupuesto.

Alquiler de H100 multi GPU y NVLink: cuándo el bus cambia el resultado

No todo trabajo necesita varias tarjetas, y no todo trabajo multi GPU necesita NVLink. La regla práctica es sencilla: si tu modelo cabe en la memoria de una sola GPU y el entrenamiento termina en un tiempo razonable, un nodo de una tarjeta es más barato y más fácil de gestionar.

Cuando el modelo no cabe, o cuando la comunicación entre tarjetas se convierte en el cuello de botella, el alquiler de H100 con NVLink marca la diferencia. El entrenamiento con paralelismo tensorial intercambia gradientes y activaciones de forma constante; si ese tráfico va por PCIe, las GPU pasan tiempo esperando en lugar de calculando. En ese escenario, el alquiler de H100 multi GPU con interconexión dedicada se amortiza aunque la tarifa por hora sea más alta.

Un detalle que se pasa por alto: compara siempre precio por GPU y hora, no precio por nodo. Un nodo de ocho tarjetas puede parecer caro y salir mejor por unidad que varias instancias sueltas, o justo lo contrario.

Entrenamiento de LLM, fine tuning e inferencia: tres cargas, tres decisiones

El mismo hardware sirve para perfiles muy distintos, y el criterio de elección cambia en cada uno.

Alquiler de H100 para entrenamiento de LLM

Aquí mandan el rendimiento sostenido y la interconexión. El alquiler de H100 para entrenamiento de LLM exige nodos con NVLink, almacenamiento rápido para los checkpoints y estabilidad: una instancia interrumpible que se libera a mitad de época puede costar más en tiempo perdido que el ahorro obtenido. Prioriza proveedores con nodos completos disponibles y buena red interna.

Alquiler de H100 para fine tuning

El alquiler de H100 para fine tuning se mueve en sesiones cortas y repetidas. Muchas veces basta una sola GPU, o dos, con técnicas de ajuste eficiente en parámetros. Lo importante es arrancar rápido, guardar el resultado y apagar sin arrastrar costes de almacenamiento innecesarios. En este caso, las instancias facturadas por hora flexible suelen ganar a las reservas largas.

Alquiler de H100 para inferencia

El alquiler de H100 para inferencia es un problema de coste por token, no de velocidad punta. Si el tráfico es bajo o intermitente, una GPU más pequeña puede dar mejor economía; la H100 tiene sentido cuando necesitas latencia baja con contextos largos o cuando el volumen de peticiones es alto y constante. Mide tokens por segundo y coste por millón de tokens, no FLOPS teóricos.

Alquiler de H100 para startups: acotar el gasto antes de escalar

El alquiler de H100 para startups tiene una restricción que no aparece en las comparativas: el presupuesto se agota antes que la paciencia. Tres hábitos ayudan.

1. Separa experimentación de producción. Las pruebas van en instancias interrumpibles; el entrenamiento serio, en nodos estables.
2. Fija un techo de gasto diario y revísalo. Un script olvidado durante el fin de semana se nota en la factura.
3. No reserves capacidad a largo plazo hasta tener una carga de trabajo repetible y ya medida.

Alquiler de H100 en la nube comparativa: qué mirar en cada proveedor

Los proveedores de alquiler de H100 se diferencian menos por la tarjeta que por todo lo que la rodea. Esta tabla resume los puntos que conviene comprobar antes de decidir.

Contrastar dos plataformas populares lado a lado ahorra tiempo: esta comparativa entre Vast.ai y RunPod cubre las diferencias de modelo de precios, tipos de instancia y experiencia de uso.

Una semana de medición antes de comprometerte

Antes de reservar capacidad, ejecuta tu carga real durante una semana en instancias por hora. Anota el tiempo de GPU efectivo, los GB de almacenamiento que quedan vivos y el tráfico de salida. Con esos tres números puedes calcular tu coste por experimento o por millón de tokens y decidir si te conviene una tarifa interrumpible, una reserva o directamente cambiar de plataforma.

Si quieres una referencia real antes de decidir, puedes consultar precios en vivo de Vast.ai y contrastarlos con tu presupuesto por GPU-hora.