Shenzhen, Chine - juillet 2025 - Dans une percée pour l'IA et l'informatique de modèle de grande langue, Nvidia a lancé leH100 141 GoNVL Original, une solution de nouvelle génération conçue pour repousser les limites des performances de l'IA, de la capacité de la mémoire et de l'efficacité énergétique. Construit avec les charges de travail AI à l'échelle de l'entreprise à l'esprit, le module H100 NVL 141 Go est adapté pour répondre aux exigences des centres de données de pointe d'aujourd'hui, une formation sur le modèle de langue et l'inférence à une vitesse et une échelle sans précédent.
3x inférence LLM plus rapide - alimentée par l'architecture NVL
Contrairement aux GPU SXM ou PCIE standard, le H100 NVL est un facteur de forme unique avec deux GPU H100 connectés via NVLink et emballé comme une solution à double GPU avec 141 Go de mémoire HBM3 partagée et une bande passante de mémoire de plus de 7 To / s. Cela en fait le GPU idéal pour:
Formation GPT-3, GPT-4 et LLAMA 3
Charges de travail en inférence du transformateur à grande échelle
Tâches AI multimodales (langue de vision, discours, etc.)
Selon les tests internes de NVIDIA, H100 NVL fournit une inférence jusqu'à 12x plus rapide pour les modèles de grands langues par rapport à l'A100 80 Go.
