Netzwerkhardware, Geräte und Ausrüstung für Rechenzentren

KI erfordert eine fortschrittlichere Datenverarbeitungsinfrastruktur, einschließlich der Vernetzung. Ein Mangel an Netzwerkbandbreite führt oft zu einem Engpass bei der Informationsverarbeitung, die KI vorantreibt. Eine beschleunigte Recheninfrastruktur ist nur so schnell wie ihr schwächstes Glied, und das ist nur allzu oft die Vernetzung. Glücklicherweise hat Supermicro durch die Zusammenarbeit mit NVIDIA die neue NVIDIA Spectrum-X Netzwerkplattform in mehreren seiner Systeme qualifiziert, um eine bis zu 1,6-fach bessere Netzwerkleistung für KI zu ermöglichen, zusammen mit einer erhöhten Energieeffizienz und reduzierten Gesamtbetriebskosten. Mit der Kombination aus dem NVIDIA Spectrum-4 Ethernet-Switch und der NVIDIA BlueField®-3 SuperNIC können Kunden nun die Vorteile der leistungsstärksten KI nutzen.

Zu den Systemen, die jetzt mit der NVIDIA Spectrum-X Netzwerklösung qualifiziert sind, gehören Supermicro sehr beliebte GPU SuperServer, die in den Höhen 4U, 5U und 8U erhältlich sind und NVIDIA-GPUs in den folgenden Systemen unterstützen:

• Supermicro 8U GPU Server mit NVIDIA HGX H100 8-GPU Systemen:
  • SYS-821GE-TNHR (8U) - Intel CPUs
  • AS -8125GS-TNHR (8U) - AMD CPUs
  • SYS-421GU-TNXR (4U) - Intel CPUs
• Supermicro Universal GPU Server (4U und 5U) mit NVIDIA H100 PCIe GPUs oder NVIDIA L40S GPUs:
  • SYS-521GE-TNRT (5U) - Intel CPUs
  • SYS-421GE-TNRT (4U) - Intel CPUs
  • SYS-421GE-TNRT3 (4U) - Intel CPUs
  • AS -4125GS-TNRT (4U) - AMD CPU
  • AS -4125GS-TNRT2 (4U) - AMD CPU

Diese Supermicro , die von NVIDIA Spectrum-X angetrieben werden, reduzieren die Trainings- und Inferenzlaufzeiten von massiven transformatorbasierten generativen KI , was für die Bereitstellung schnellerer Ergebnisse und Erkenntnisse aus KI unerlässlich ist.

Supermicro Systeme mit NVIDIA Spectrum-X Networking steigern nicht nur die Leistung des Netzwerks um das 1,6-fache für KI, sondern profitieren auch von der isolierten Workload-Leistung in mandantenfähigen Umgebungen. Für Hochleistungsanwendungen ist es entscheidend, dass die Workloads ihre Daten getrennt und unabhängig voneinander bewegen können, frei von Störungen durch "laute Nachbarn", die die Leistung beeinträchtigen könnten. Darüber hinaus bietet die Isolierung von Netzwerk-Workloads einen zusätzlichen Sicherheitsvorteil, da sie verhindert, dass böswillige Akteure in einem Workload einen anderen Workload beeinträchtigen. NVIDIA Spectrum-X erreicht diese verbesserte Workload-Isolierung durch sichere virtuelle private Clouds (VPCs), die jedem Mandanten zugewiesen werden.

Energieeffizienz ist seit jeher ein wichtiger Aspekt beim Betrieb von KI mit hoher Leistung und hohem Stromverbrauch. Indem NVIDIA Spectrum-X eine höhere Netzwerkleistung bei gleichem Stromverbrauch bietet, kann es zu einer energieeffizienteren KI beitragen. Diese bessere Leistung pro Watt führt zu einem niedrigeren Gesamtstromverbrauch und potenziell niedrigeren Gesamtbetriebskosten. Für Benutzer, die sich üblicherweise auf eine Leistungsbegrenzung verlassen, um die Energiekosten unter Kontrolle zu halten, bieten Supermicro mit Spectrum-X die Gewissheit, dass die Energieverbrauchsgrenzen nicht überschritten werden.  

Kunden, die standardisierte Ethernet-Netzwerke einsetzen, können sicher sein, dass NVIDIA Spectrum-X vollständig auf Standards basiert und mit Ethernet-basierten Stacks vollständig interoperabel ist. Darüber hinaus helfen Supermicro Server mit NVIDIA Spectrum-X den Kunden, die größte Herausforderung beim Einsatz von KIzu meistern KI. Mit der Möglichkeit, 256 200G Ports in einem einzigen Switch oder 16K Ports in einer zweistufigen Leaf/Spine-Topologie zu unterstützen, sind dies ideale Systeme für Unternehmen mit wachsenden Anforderungen an eine beschleunigte Compute-Infrastruktur.

Da Supermicro bestrebt ist, die Anforderungen von KI zu erfüllen, die nicht nur Hochleistungsnetzwerke, sondern auch Cloud-Multi-Tenancy benötigen, nutzen Supermicro mit NVIDIA Spectrum-X RDMA-Erweiterungen (Remote Direct Memory Access) über Converged Ethernet (RoCE), um sowohl Leistung als auch Multi-Tenancy zu unterstützen. Die Leistung im Vergleich zu herkömmlichem Ethernet ist erstaunlich, wie die folgende Grafik zeigt.  

Die bahnbrechende Netzwerktechnologie von NVIDIA, die auch in zahlreichen Supermicro zum Einsatz kommt, erzielt eine bahnbrechende Netzwerkleistung für KI, Leistungsisolierung für mehrere Mandanten und erhöhte Energieeffizienz. All dies geschieht auf der Grundlage von Ethernet-Netzwerkstandards, indem der NVIDIA Spectrum-4 Ethernet-Switch mit der NVIDIA BlueField-3 SuperNIC gekoppelt wird. Diese Kombination hat den Nettoeffekt, dass die Laufzeiten von massiven generativen KI reduziert werden können. Für Kunden, die eine schnellere Zeit bis zu kritischen Erkenntnissen, Multi-Tenancy und zukünftige Skalierbarkeit benötigen, sind diese Supermicro mit NVIDIA Spectrum-X ideal geeignet, um ihre Anforderungen zu erfüllen.