Servidores en la nube Nvidia A100 H100

Las GPU NVIDIA A100 y H100 están diseñadas específicamente para cargas de trabajo de IA, aprendizaje automático y aprendizaje profundo. La A100, con arquitectura Ampere, ofrece un rendimiento hasta 20 veces superior al de generaciones anteriores gracias a sus Tensor Cores optimizados para el entrenamiento de precisión mixta. La H100, con arquitectura Hopper, proporciona un rendimiento dos veces superior al de la A100, con un Transformer Engine mejorado para modelos de lenguaje de gran tamaño y operaciones tensoriales avanzadas para el entrenamiento y la inferencia a gran escala.

Las configuraciones instantáneas del A100 se entregan en 5 minutos tras la verificación de su pago. Su servidor dedicado con GPU incluye la posibilidad de recargar el sistema operativo al instante, lo que le permite iterar rápidamente sin necesidad de reabrir incidencias de soporte. Nuestras rutas de red están optimizadas para cargas de trabajo continuas y transferencia de datos de alto rendimiento, lo que garantiza una productividad inmediata.

El A100 cuenta con 40 GB/80 GB de memoria HBM2, 6912 núcleos CUDA y un ancho de banda de 1,6 TB/s con arquitectura Ampere. El H100 ofrece 80 GB de memoria HBM3, 8448 núcleos CUDA y un ancho de banda de 3 TB/s con la arquitectura Hopper de última generación. El H100 ofrece un rendimiento HPC 7 veces superior y un entrenamiento de IA 2 veces más rápido que el A100, con funciones avanzadas como Transformer Engine, tecnología MIG de segunda generación y compatibilidad para conectar hasta 256 GPU mediante el sistema de conmutación NVLink.

Nuestros servidores GPU NVIDIA son compatibles con la tecnología NVLink para una comunicación GPU a GPU de alta velocidad. La tercera generación de NVLink en el modelo A100 ofrece transferencias entre 10 y 20 veces más rápidas que PCIe, mientras que el modelo H100 admite el avanzado sistema de conmutación NVLink para conectar hasta 256 GPU. Tanto el A100 como el H100 incorporan la tecnología Multi-Instance GPU (MIG), que permite la partición segura en hasta siete instancias aisladas para una máxima utilización de los recursos y una mayor flexibilidad en la carga de trabajo.