Supermicro presenta un nuevo diseño de sistema versátil para IA que ofrece optimización y flexibilidad en el perímetro
SAN JOSÉ, California, 8 de octubre de 2024 /PRNewswire/ -- Super Micro Computer, Inc. (SMCI), proveedor total de soluciones de TI para IA, nube, almacenamiento y 5G/Edge, anuncia el lanzamiento de una nueva plataforma de infraestructura versátil y de alta densidad optimizada para la inferencia de IA en el borde de la red. A medida que las empresas buscan adoptar complejos modelos de lenguaje de gran tamaño (LLM) en sus operaciones diarias, existe la necesidad de un nuevo hardware capaz de inferir grandes volúmenes de datos en ubicaciones de borde con una latencia mínima. El innovador sistema de Supermicro combina versatilidad, rendimiento y eficiencia térmica para ofrecer hasta 10 GPU de doble ancho en un único sistema capaz de funcionar en entornos tradicionales refrigerados por aire.
"Gracias al diseño térmico optimizado del sistema, Supermicro puede ofrecer todo este rendimiento en un sistema 3U 20 PCIe de alta densidad con 256 núcleos que puede desplegarse en centros de datos periféricos", explicó Charles Liang, presidente y consejero delegado de Supermicro. "A medida que el mercado de la IA crece exponencialmente, los clientes necesitan una solución potente y versátil para inferir datos para ejecutar aplicaciones basadas en LLM en las instalaciones, cerca de donde se generan los datos. Nuestro nuevo sistema 3U Edge AI les permite ejecutar soluciones innovadoras con una latencia mínima".
Si desea más información visite https://www.supermicro.com/en/solutions/edge-ai
El nuevo SYS-322GB-NR incluye dos potentes procesadores Intel® Xeon® 6900 con núcleos P, MRDIMM de 8800 MT/s y hasta 20 ranuras de expansión PCIe 5.0. Este sistema Supermicro admite diversas GPU de ancho simple o doble, o utilizar algunas de las ranuras de expansión para E/S de alto rendimiento u otras tarjetas adicionales. Además, el servidor cuenta con hasta 6 TB de memoria RDIMM y hasta 14 unidades E1.S o 6 U.2 NVMe.
Un ejemplo de caso de uso que ofrece este sistema se encuentra en la industria manufacturera, donde el nuevo sistema de Supermicro puede desplegarse in situ en un entorno de producción automatizado para procesar la alimentación de datos de cámaras y sensores sin tener que transferir los datos a una ubicación remota. Esta capacidad reduce los requisitos de red y mejora los tiempos de respuesta. Otro entorno en el que el SYS-322GB-NR destacará es en las salas de control a gran escala, donde las tarjetas aceleradoras de IA pueden sustituirse parcialmente por tarjetas multipantalla para soportar hasta 64 pantallas independientes.
Supermicro en el Mobile World Congress (MWC) Las Vegas
El SYS-322GB-NR estará expuesto en el stand #518 de Supermicro durante el MWC Las Vegas, del 8 al 10 de octubre. Además, Supermicro mostrará sistemas que incorporan procesadores NVIDIA, AMD e Intel Xeon 6, incluidos los sistemas edge y telco de la familia X14 como:
SYS-222HE-FTN - Hyper-E lleva el rendimiento del centro de datos al extremo de las telecomunicaciones con un procesador Intel Xeon 6 dual en un factor de forma de 2U de profundidad corta con acceso de E/S frontal
SYS-212B-FN2T - un sistema de profundidad reducida de 2U para IA en telecomunicaciones e implantaciones periféricas, con un único procesador Intel Xeon serie 6700 con núcleos E y compatibilidad con GPU
SYS-E403-14B-FRN2T - un dispositivo de borde montable en pared, del tamaño de un PC, capaz de llevar el procesador Intel Xeon serie 6700 con núcleos E y compatibilidad con GPU a entornos remotos
AS -1115S-FDWTRT - un sistema 1U compatible con NEBS que proporciona rendimiento Telco para ORAN, Core y servicios gestionados. Este sistema utiliza el procesador AMD EPYC serie 8004 y admite hasta 1 acelerador GPU de ancho simple para cargas de trabajo pesada.
Además de exhibir los sistemas de hardware Supermicro, en colaboración con NVIDIA, demostraremos conjuntamente soluciones de inferencing e IA para aplicaciones en local y Edge, incluyendo Enterprise AI, Retail, Telco Edge y Financial Services. Demostraremos soluciones clave de IA generativa que incluyen NVIDIA NIM, NVIDIA NeMo, NVIDIA Metropolis, gestión remota, seguridad y redes. Para Telecom, Supermicro y NVIDIA demostrarán una solución AI RAN en vivo utilizando soluciones NVIDIA y Supermicro mostrando casos de uso de rendimiento, gestión e IA.
También se exhibirá en MWC Las Vegas la nueva solución conjunta de Supermicro e Intel que combina el resistente sistema IP65 Outdoor Edge con un acelerador de red de IA integrado y Intel® Data Center GPU Flex 170. Esta solución permite un despliegue rápido y rentable de múltiples redes 5G privadas, así como aplicaciones Edge AI en un único dispositivo. Las redes pueden ser utilizadas y explotadas por diferentes usuarios, ofreciendo una solución escalable para entornos densos como emplazamientos industriales y de campus, recintos y ciudades inteligentes.