Supermicro stellt neues vielseitiges Systemdesign für KI vor, das Optimierung und Flexibilität am Netzwerkrand bietet
SAN JOSE, Kalifornien, 9. Oktober 2024 /PRNewswire/ -- Super Micro Computer, Inc. (SMCI), ein Anbieter von IT-Gesamtlösungen für KI, Cloud, Storage und 5G/Edge, gibt die Einführung einer neuen, vielseitigen Infrastrukturplattform mit hoher Dichte bekannt, die für KI-Inferenz am Netzwerkrand optimiert ist. In dem Maße, in dem Unternehmen versuchen, komplexe Large Language Models (LLM) in ihre täglichen Abläufe einzubinden, besteht ein Bedarf an neuer Hardware, die in der Lage ist, große Datenmengen in Randbereichen mit minimalen Latenzzeiten zu inferenzieren. Supermicros innovatives System kombiniert Vielseitigkeit, Leistung und thermische Effizienz, um bis zu 10 GPUs mit doppelter Breite in einem einzigen System bereitzustellen, das auch in herkömmlichen luftgekühlten Umgebungen betrieben werden kann.
„Dank des optimierten thermischen Designs des Systems kann Supermicro diese Leistung in einem hochdichten 3U 20 PCIe-System mit 256 Kernen liefern, das in Edge-Rechenzentren eingesetzt werden kann", erklärt Charles Liang, President und CEO von Supermicro. „Da der Markt für künstliche Intelligenz exponentiell wächst, benötigen Kunden eine leistungsstarke, vielseitige Lösung zum Inferenzieren von Daten, um LLM-basierte Anwendungen vor Ort auszuführen, nahe bei dem Ort, an dem die Daten generiert werden. Unser neues 3U Edge AI-System ermöglicht es ihnen, innovative Lösungen mit minimaler Latenzzeit zu betreiben."
Weitere Informationen finden Sie unter https://www.supermicro.com/en/solutions/edge-ai
Der neue SYS-322GB-NR enthält zwei leistungsstarke Intel® Xeon® 6900 Prozessoren mit P-Kernen, 8800 MT/s MRDIMM und bis zu 20 PCIe 5.0 Erweiterungssteckplätze. Dieses Supermicro-System unterstützt eine Vielzahl von GPUs mit einfacher oder doppelter Breite oder die Nutzung einiger der Erweiterungssteckplätze für Hochleistungs-E/A- oder andere Zusatzkarten. Zusätzlich bietet der Server bis zu 6 TB RDIMM-Speicher und bis zu 14 E1.S- oder 6 U.2-NVMe-Laufwerke.
Ein Beispiel für den Einsatz dieses Systems ist die Fertigungsindustrie, wo Supermicros neues System vor Ort in einer automatisierten Produktionsumgebung eingesetzt werden kann, um Daten von Kameras und Sensoren zu verarbeiten, ohne dass die Daten an einen entfernten Standort übertragen werden müssen. Diese Fähigkeit reduziert die Netzwerkanforderungen und verkürzt die Reaktionszeiten. Ein weiteres Einsatzgebiet des SYS-322GB-NR sind große Kontrollräume, in denen die KI-Beschleunigerkarten teilweise durch Multi-Display-Karten ersetzt werden können, um bis zu 64 unabhängige Displays zu unterstützen.
Supermicro auf dem Mobile World Congress (MWC) in Las Vegas
Der SYS-322GB-NR wird während des MWC in Las Vegas (8.–10. Oktober) an Supermicros Stand mit der Nr. 518 ausgestellt sein. Darüber hinaus zeigt Supermicro Systeme mit NVIDIA-, AMD- und Intel Xeon 6-Prozessoren, darunter Edge- und Telco-Systeme der X14-Familie:
SYS-222HE-FTN - Der Hyper-E bringt die Leistung eines Rechenzentrums in den Telco-Edge, mit einem dualen Intel Xeon 6-Prozessor in einem 2U-Formfaktor mit reduzierter Tiefe und frontseitigem E/A-Zugang.
SYS-212B-FN2T - Ein 2U-System mit reduzierter Tiefe für KI in Telco- und Edge-Implementierungen, das einen einzelnen Intel Xeon-Prozessor der 6700-Serie mit E-Cores und GPU-Unterstützung enthält.
SYS-E403-14B-FRN2T - Ein wandmontierbares Edge-Gerät in der Größe eines Box-PCs, das den Intel Xeon-Prozessor der Serie 6700 mit E-Cores und GPU-Unterstützung in entfernte Umgebungen bringt.
AS -1115S-FDWTRT - Ein 1U NEBS-konformes System, das Telco-Leistung für ORAN, Core und Managed Services bietet. Dieses System nutzt den AMD EPYC 8004 Series Prozessor und unterstützt 1 Single-Width GPU-Beschleuniger für hohe Arbeitslasten.
Neben der Präsentation von Supermicro-Hardware-Systemen werden wir in Partnerschaft mit NVIDIA gemeinsam Inferencing- und KI-Lösungen für On-Premise- und Edge-Anwendungen demonstrieren, darunter KI für Unternehmen, Einzelhandel, Telco Edge und Finanzdienstleistungen. Wir werden wichtige generative KI-Lösungen demonstrieren, darunter NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, Fernverwaltung, Sicherheit und Netzwerke. Für die Telekommunikationsbranche werden Supermicro und NVIDIA eine KI-RAN-Lösung mit NVIDIA- und Supermicro-Lösungen live demonstrieren, die Leistung, Management und KI-Anwendungsfälle zeigt.
Auf dem MWC in Las Vegas wird auch die neue gemeinsame Lösung von Supermicro und Intel vorgestellt, die das robuste IP65 Outdoor Edge System mit einem integrierten AI Network Accelerator und Intel® Data Center GPU Flex 170 kombiniert. Diese Lösung ermöglicht die schnelle und kostengünstige Bereitstellung mehrerer privater 5G-Netzwerke sowie Edge-KI-Anwendungen in einem einzigen Gerät. Die Netze können von verschiedenen Nutzern genutzt werden und bieten eine skalierbare Lösung für dichte Umgebungen wie Industrie- und Campusgelände, Veranstaltungsorte und Smart Cities.