Super Micro Computer Inc SMCI

Les derniers benchmarks montrent que les systèmes Supermicro équipés de NVIDIA B200 ont surpassé la précédente génération de systèmes avec 3 fois plus de jetons générés par seconde

SAN JOSE, Californie, 3 avril 2025 /PRNewswire/ -- Super Micro Computer, Inc. (SMCI), fournisseur de solutions informatiques complètes pour l'IA/l'apprentissage automatique, l'informatique haute performance, le Cloud, le stockage et la 5G/Edge, annonce les premières performances à la pointe de l'industrie sur le marché pour plusieurs benchmarks MLPerf Inference v5.0, en utilisant le NVIDIA HGX™ B200 à 8 GPU. Les systèmes 4U refroidis par liquide et 10U refroidis par air ont obtenu les meilleures performances dans certains benchmarks. Supermicro a affiché une génération de jetons par seconde (Token/s) plus de trois fois supérieure pour les tests Llama2-70B et Llama3.1-405B par rapport aux systèmes H200 à 8 GPU.

« Supermicro reste un leader dans le secteur de l'IA, comme en témoignent les premiers nouveaux benchmarks publiés par MLCommons en 2025 », a déclaré Charles Liang, président-directeur général de Supermicro. « Notre architecture modulaire nous permet d'être les premiers à commercialiser une gamme variée de systèmes optimisés pour diverses charges de travail. Nous continuons de collaborer étroitement avec NVIDIA pour affiner nos systèmes et nous assurer une position de leader dans les charges de travail d'IA. »

Pour en savoir plus sur les nouveaux benchmarks MLPerf v5.0 Inference, consultez le site : https://mlcommons.org/benchmarks/inference-datacenter/

Supermicro est le seul fournisseur de systèmes à publier des performances MLPerf inference record (sur certains benchmarks) pour les systèmes NVIDIA HGX™ B200 8-GPU refroidis par air et par liquide. Les systèmes refroidis par air et par liquide étaient opérationnels avant la date de début du benchmark MLCommons. Les ingénieurs de Supermicro ont optimisé les systèmes et les logiciels pour mettre en évidence les performances impressionnantes. Dans la marge d'exploitation, le système Supermicro B200 refroidi par air a affiché le même niveau de performance que le système B200 refroidi par liquide. Supermicro a livré ces systèmes à des clients pendant que nous réalisions les tests.

MLCommons insiste sur le fait que tous les résultats doivent être reproductibles, que les produits doivent être disponibles et que les résultats doivent pouvoir être vérifiés par d'autres membres de MLCommons. Les ingénieurs de Supermicro ont optimisé les systèmes et les logiciels, comme le permettent les règles de MLCommons.

Le SYS-421GE-NBRT-LCC (8x NVIDIA B200-SXM-180GB) et le SYS-A21GE-NBRT (8x NVIDIA B200-SXM-180GB) ont fait preuve d'un leadership en matière de performances en exécutant les benchmarks Mixtral 8x7B Inference, Mixture of Experts avec 129 000 tokens/seconde. Le système basé sur le NVIDIA B200 de Supermicro, refroidi par air et par liquide, a fourni une inférence de plus de 1 000 jetons/seconde pour le grand modèle Llama3.1-405b, alors que les générations précédentes de systèmes GPU ont obtenu des résultats beaucoup plus modestes. Pour les tâches d'inférence plus petites, en utilisant le benchmark LLAMA2-70b, un système Supermicro avec le NVIDIA B200 SXM-180GB installé affiche les performances les plus élevées d'un fournisseur de systèmes de niveau 1.

En particulier :

• Stable Diffusion XL (Serveur)
  SYS-A21GE-NBRT (8x B200-SXM-180GB)
  
  n°1 requêtes/s, 28.92
  
  
• llama2-70b-interactive-99 (Serveur)
  SYS-A21GE-NBRT (8x B200-SXM-180GB)
  
  n°1 Tokens/s, 62,265.70
  
  
• Llama3.1-405b (hors ligne)
  SYS-421GE-NBRT-LCC (8xB200-SXM-180GB)
  
  n°1 Tokens/s 1521.74
  
  
• Llama3.1-405b (Serveur)
  SYS-A21GE-NBRT (8x B200-SXNM-180GB)
  
  n°1 Tokens/s, 1080.31 (pour un nœud avec 8 GPU)
  
  
• mixtral-8x7b (Serveur)
  SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
  
  n°1 Tokens/s, 129,047.00
  
  
• mixtral-8x7b (hors ligne)
  SYS-421GE-NBRT-LCC (8x B200-SXM-180GB)
  
  n°1 Tokens/s, 128,795.00

« MLCommons félicite Supermicro pour sa participation au benchmark MLPerf Inference v5.0. Nous sommes heureux de voir que ses résultats montrent des gains de performance significatifs par rapport aux précédentes générations de systèmes », a déclaré David Kanter, responsable de MLPerf chez MLCommons. « Les clients seront satisfaits des améliorations de performance obtenues, qui sont validées par les résultats neutres, représentatifs et reproductibles de MLPerf. »

Supermicro propose un portefeuille IA complet avec plus de 100 systèmes optimisés pour les GPU, refroidis par air ou par liquide, avec un choix de CPU allant des systèmes optimisés pour un seul socket aux systèmes multiprocesseurs à 8 voies. Les systèmes Supermicro à l'échelle du rack comprennent des composants informatiques, de stockage et de réseau, ce qui réduit le temps nécessaire à leur installation une fois qu'ils sont livrés sur le site d'un client.

Les systèmes NVIDIA HGX B200 à 8 GPU de Supermicro utilisent des technologies de refroidissement par liquide et par air de nouvelle génération. Les plaques froides de conception récente et la nouvelle unité de distribution du liquide de refroidissement (CDU) de 250 kW font plus que doubler la capacité de refroidissement de la génération précédente dans le même facteur de forme 4U. Disponible en configurations 42U, 48U ou 52U, la conception à l'échelle du rack avec les nouveaux collecteurs verticaux de distribution du liquide de refroidissement (CDM) n'occupe plus d'unités de rack précieuses. Cela permet d'avoir huit systèmes comprenant 64 GPU NVIDIA Blackwell dans un rack de 42U, et jusqu'à 12 systèmes avec 96 GPU NVIDIA Blackwell dans un rack de 52U.

Le nouveau système NVIDIA HGX B200 10U refroidi par air dispose d'un châssis redessiné avec une marge thermique étendue pour accueillir 8 GPU Blackwell TDP de 1000W. Jusqu'à 4 des nouveaux systèmes 10U refroidis par air peuvent être installés et entièrement intégrés dans un rack, soit la même densité que la génération précédente, tout en offrant des performances d'inférence multipliées par 15 et des performances d'entraînement multipliées par 3.

À propos de Super Micro Computer, Inc.

Supermicro (NASDAQ : SMCI) est un leader mondial dans le domaine des solutions informatiques complètes optimisées pour les applications. Fondée et opérant à San Jose, en Californie, Supermicro s'engage à fournir des innovations inédites pour les infrastructures informatiques d'entreprise, cloud, IA et 5G Telco/Edge. Nous sommes un fournisseur de solutions informatiques complètes avec des systèmes de serveurs, d'IA, de stockage, d'IdO, de commutateurs, des logiciels et des services d'assistance. L'expertise de Supermicro en matière de cartes mères, d'alimentations et de conception de châssis renforce notre développement et notre production, ce qui permet à nos clients internationaux de bénéficier d'innovations de nouvelle génération, du cloud à la périphérie. Nos produits sont conçus et fabriqués en interne (aux États-Unis, à Taïwan et aux Pays-Bas), en s'appuyant sur des opérations mondiales pour la mise à l'échelle et l'efficacité, et optimisés pour améliorer le coût total de possession et réduire l'impact sur l'environnement (informatique verte). Le portefeuille primé de produits Server Building Block Solutions® permet aux clients d'optimiser leur charge de travail et leurs applications en choisissant parmi une large gamme de systèmes construits à partir de nos modules flexibles et réutilisables, qui prennent en charge un ensemble complet de facteurs de forme, de processeurs, de mémoires, de GPU, de stockage, de réseaux, d'alimentations et de solutions de refroidissement (climatisation, refroidissement à l'air libre ou refroidissement liquide).

Supermicro, Server Building Block Solutions et We Keep IT Green sont des marques commerciales et/ou des marques déposées de Super Micro Computer, Inc.

Tous les autres noms, marques et marques déposées sont la propriété de leurs propriétaires respectifs.

Photo - https://mma.prnewswire.com/media/2656893/Super_Micro_Computer_MLPerf.jpg

Logo - https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg