データセンター向けネットワークハードウェア、デバイス、機器
AIは、ネットワーキングを含む、より高度なコンピュート・インフラへのニーズを促進しています。ネットワーク帯域幅の不足は、AIアプリケーションを駆動する情報処理にしばしばボトルネックをもたらします。高速化されたコンピューティング・インフラストラクチャは、その最も弱いリンクほどしか高速化されません。幸いなことに、NVIDIAとの協力により、Supermicro いくつかのシステムで新しいNVIDIA Spectrum-Xネットワーキングプラットフォームを認定し、AIワークロードのネットワーキングパフォーマンスを最大1.6倍向上させるとともに、エネルギー効率を高め、総所有コストを削減することを可能にしました。NVIDIA Spectrum-4イーサネットスイッチとNVIDIA BlueField®-3 SuperNICの組み合わせにより、顧客は最高性能のイーサネットAIクラウド処理インフラを利用することができます。
現在、NVIDIA Spectrum-Xネットワーキングソリューションの認定を受けているシステムには、Supermicro大人気GPU SuperServersがあり、4U、5U、8Uの高さがあり、以下のシステムでNVIDIA GPUをサポートしています：
- NVIDIA HGX H100 8-GPUシステムを搭載したSupermicro 8U GPUサーバー：
- SYS-821GE-TNHR(8U) - Intel CPU
- AS -8125GS-TNHR(8U) -AMD CPU
- SYS-421GU-TNXR(4U) - Intel CPU
- NVIDIA H100 PCIe GPUまたはNVIDIA L40S GPUを搭載したSupermicro ユニバーサルGPUサーバー（4Uおよび5U）：
- SYS-521GE-TNRT(5U) - Intel CPU
- SYS-421GE-TNRT(4U) - Intel CPU
- SYS-421GE-TNRT3(4U) - Intel CPU
- as -4125gs-tnrt(4u) -AMD CPU
- as -4125gs-tnrt2(4u) -AMD CPU
NVIDIA Spectrum-Xを搭載したこれらのSupermicro システムは、大規模なトランスフォーマベースの生成AIモデルのトレーニングと推論の実行時間を短縮します。
NVIDIAのSpectrum-Xネットワーキングを搭載したSupermicro システムは、AIのネットワーク性能を1.6倍と飛躍的に向上させるだけでなく、マルチテナント環境におけるワークロードの性能を分離できるという利点もあります。ワークロードが別々に独立してデータを移動できるようにすることで、パフォーマンスを阻害する可能性のある「近隣ノイズ」の干渉を排除することは、高性能アプリケーションにとって非常に重要です。さらに、ネットワークワークロードを分離することで、あるワークロード内の悪意ある行為者が別のワークロードに干渉するのを防ぐというセキュリティ上の利点も得られます。NVIDIA Spectrum-Xは、各テナントに割り当てられたセキュアな仮想プライベートクラウド(VPC)を通じて、このワークロードの分離強化を実現します。
高性能、高出力のAIシステムを運用する際、エネルギー効率は常に重要な関心事です。NVIDIA Spectrum-Xは、同じネットワーク電力エンベロープ内でネットワーク性能の向上を実現することにより、より電力効率の高いAI環境に貢献します。ワットあたりの性能が向上することで、全体的な消費電力が低減し、総所有コストの削減につながる可能性があります。Spectrum-Xを搭載したSupermicro システムは、エネルギーコストを管理するために電力上限を設定するのが一般的なユーザーにとって、エネルギー消費上限を超えないという安心感を提供するのに役立ちます。
イーサネットネットワーキングを標準化している消費者は、NVIDIA Spectrum-Xが完全に標準ベースであり、イーサネットベースのスタックと完全に相互運用可能であることを保証することができます。さらに、NVIDIA Spectrum-Xを搭載したSupermicro サーバーは、AIスケーラビリティの導入における最も重要な課題を克服するのに役立ちます。単一のスイッチで256個の200Gポート、または2層のリーフ/スパイン・トポロジーで16Kポートをサポートする能力を持つこれらは、加速されたコンピュート・インフラストラクチャのニーズが進化する組織にとって理想的なシステムです。
Supermicro 、高性能なネットワーキングだけでなく、クラウドマルチテナンシーも必要とするAI顧客のニーズに応えるべく努力しており、NVIDIA Spectrum-Xを搭載したSupermicro システムは、RoCE (Remote Direct Memory Access) over Converged Ethernet (RDMA)拡張機能を活用して、性能とマルチテナンシーの両方をサポートしています。下図に示すように、従来のイーサネットを上回るパフォーマンスは驚くべきものです。
NVIDIAの画期的なネットワーキング技術は、多数のSupermicro サーバーに搭載されており、AI、マルチテナント性能の分離、エネルギー効率の向上のための画期的なネットワーク性能を実現しています。これらはすべて、NVIDIA Spectrum-4イーサネットスイッチをNVIDIA BlueField-3 SuperNICと結合させることによって、イーサネットネットネットワーキング標準をベースにしながら実現されています。この組み合わせは、大規模なジェネレーティブAIモデルの実行時間の短縮を支援するという正味の効果をもたらします。クリティカルな洞察を得るまでの時間の短縮、マルチテナント、将来のスケーラビリティを必要とするお客様にとって、NVIDIA Spectrum-Xを搭載したこれらのSupermicro システムは、そのニーズに応えるのに理想的です。