Supermicro amplía las soluciones de IA y GPU a escala de bastidor

– Supermicro amplía las soluciones de IA y GPU a escala de bastidor con soporte para los aceleradores AMD Instinct serie MI300

Ya están disponibles los nuevos sistemas de 8 GPU impulsados por los aceleradores AMD Instinct™ MI300X con un rendimiento de IA y HPC rompedor para el entrenamiento de IA a gran escala y los despliegues LLM

SAN JOSÉ, California, 7 de diciembre de 2023 /PRNewswire/ — Supermicro, Inc. (NASDAQ: SMCI), fabricante de soluciones totales de TI para IA, nube, almacenamiento y 5G/Edge, anuncia tres nuevas incorporaciones a su generación H13 de servidores GPU basados en AMD, optimizados para ofrecer un rendimiento y una eficiencia de vanguardia, impulsados por los nuevos aceleradores AMD Instinct MI300 Series. Las potentes soluciones a escala de rack de Supermicro con servidores de 8 GPU con la configuración AMD Instinct MI300X OAM son ideales para la formación de grandes modelos.

Los nuevos servidores 2U con refrigeración líquida y 4U con refrigeración por aire y aceleradores AMD Instinct MI300A Accelerated Processing Units (APUs) están disponibles y mejoran la eficiencia de los centros de datos y potencian las complejas demandas de rápido crecimiento en IA, LLM y HPC. Los nuevos sistemas contienen APUs cuádruples para aplicaciones escalables. Supermicro puede suministrar racks completos refrigerados por líquido para entornos a gran escala con hasta 1.728 TFlops de rendimiento FP64 por rack. Las instalaciones de fabricación de Supermicro en todo el mundo agilizan la entrega de estos nuevos servidores para la convergencia de IA y HPC.

“Estamos muy contentos de ampliar nuestras Soluciones TI Totales a escala de rack para la formación en IA con la última generación de aceleradores AMD Instinct, con una mejora del rendimiento de hasta 3,4 veces en comparación con las generaciones anteriores”, afirmó Charles Liang, presidente y consejero delegado de Supermicro. “Gracias a nuestra capacidad para suministrar 4.000 racks refrigerados por líquido al mes desde nuestras instalaciones de fabricación en todo el mundo, podemos ofrecer las últimas soluciones de GPU H13 con el acelerador Instinct MI300X de AMD o la APU Instinct MI300A de AMD. Nuestra arquitectura probada permite una red 1:1 de 400 G dedicada para cada GPU diseñada para clústeres de IA y supercomputación a gran escala capaces de soluciones de refrigeración líquida totalmente integradas, lo que ofrece a los clientes una ventaja competitiva para el rendimiento y una eficiencia superior con facilidad de implementación”.

Aprenda más acerca de los servidores Supermicro con AMD Accelerators

El sistema AS –8125GS-TNMR2 optimizado para LLM se basa en la arquitectura de bloques de Supermicro, un diseño probado para sistemas de IA de alto rendimiento con diseños a escala de bastidor refrigerados por aire y líquido. El diseño equilibrado del sistema asocia una GPU con una red 1:1 para proporcionar un gran conjunto de memoria de gran ancho de banda a través de nodos y bastidores para adaptarse a los modelos de lenguaje más grandes de la actualidad con hasta billones de parámetros, maximizando la computación paralela y minimizando el tiempo de formación y la latencia de inferencia. El sistema 8U con el acelerador MI300X OAM ofrece la potencia de aceleración bruta de 8-GPU con los enlaces AMD Infinity Fabric™, que permiten hasta 896GB/s de ancho de banda de E/S P2P teórico máximo en la plataforma de estándar abierto con memoria GPU HBM3 de 1,5TB líder del sector en un solo sistema, así como soporte nativo de matrices dispersas, diseñado para ahorrar energía, reducir los ciclos de cálculo y reducir el uso de memoria para cargas de trabajo de IA. Cada servidor cuenta con procesadores AMD EPYC™ serie 9004 de doble socket con hasta 256 núcleos. A escala de bastidor, se dispone de más de 1000 núcleos de CPU, 24 TB de memoria DDR5, 6,144 TB de memoria HBM3 y 9728 Compute Units para los entornos de IA más exigentes. El uso del módulo acelerador OCP (OAM), con el que Supermicro tiene una importante experiencia en configuraciones 8U, permite comercializar un servidor totalmente configurado más rápido que un diseño personalizado, reduciendo los costes y el plazo de entrega.

Supermicro también presenta un servidor de 2U con refrigeración líquida y densidad optimizada, el AS –2145GH-TNMR, y un servidor de 4U con refrigeración por aire, el AS –4145GH-TNMR, cada uno con 4 aceleradores AMD Instinct™ MI300A. Los nuevos servidores están diseñados para aplicaciones HPC y de IA, que requieren una comunicación extremadamente rápida entre la CPU y la GPU. La APU elimina las copias redundantes de memoria combinando la CPU, la GPU y la memoria HBM3 de AMD de mayor rendimiento en un solo chip. Cada servidor contiene núcleos de CPU x86 “Zen4” de liderazgo para el escalado de aplicaciones. Además, cada servidor incluye 512 GB de memoria HBM3. En una solución de rack completo (48U) formada por 21 sistemas de 2U, se dispone de más de 10 TB de memoria HBM3, así como de 19.152 Compute Units. El ancho de banda de memoria HBM3 a CPU es de 5,3 TB/segundo.

Ambos sistemas incorporan AIOM duales compatibles con Ethernet 400G y opciones de red ampliadas diseñadas para mejorar el espacio, la escalabilidad y la eficiencia de la informática de alto rendimiento. El sistema 2U de refrigeración líquida directa al chip ofrece un excelente coste total de propiedad con más de un 35% de ahorro en el consumo de energía basado en soluciones de rack de 21 sistemas 2U que producen 61.780 vatios por rack frente a los 95.256 vatios de un rack refrigerado por aire, así como una reducción del 70% en el número de ventiladores en comparación con un sistema refrigerado por aire.

“Los aceleradores AMD Instinct Serie MI300 ofrecen un rendimiento de liderazgo, tanto para aplicaciones de computación acelerada de alto rendimiento de larga duración como para la demanda de IA generativa, que crece rápidamente”, explicó Forrest Norrod, vicepresidente ejecutivo y director general de Data Center Solutions Business Group, AMD. “Seguimos trabajando estrechamente con Supermicro para llevar al mercado soluciones totales de IA y HPC de vanguardia basadas en los aceleradores de la serie MI300 y aprovechando la experiencia de Supermicro en el diseño de sistemas y centros de datos”.

Aprenda más de Supermicro y de los expertos de AMD. Vea este webinar en directo o bajo demanda.

Para más infromación visite:

Supermicro AMD Accelerator Site 

AS -8125GS-TNMR2 (8U w/ MI300x) 

AS -2145GH-TNMR (2U LC w/ MI300A) 

AS -4145GH-TNMR (4U AC w/ MI300A) 

Acerca de Super Micro Computer, Inc. 

Supermicro (NASDAQ: SMCI) es líder mundial en soluciones de TI totales optimizadas para aplicaciones. Fundada y operando en San José, California, Supermicro se compromete a ofrecer la primera innovación del mercado para la empresa, la nube, la IA y la infraestructura de TI 5G Telco/Edge. Somos un fabricante de Soluciones de TI Totales con servidores, IA, almacenamiento, IoT, sistemas de conmutación, software y servicios de soporte. La experiencia en diseño de placas base, alimentación y chasis de Supermicro permite aún más nuestro desarrollo y producción, permitiendo la innovación de próxima generación desde la nube hasta el borde para nuestros clientes globales. Nuestros productos se diseñan y fabrican internamente (en Estados Unidos, Taiwán y los Países Bajos), aprovechando las operaciones globales para la escala y la eficiencia y optimizados para mejorar el coste total de propiedad y reducir el impacto medioambiental (informática ecológica). La galardonada cartera de Server Building Block Solutions® permite a los clientes optimizar para su carga de trabajo y aplicación exactas mediante la selección de una amplia familia de sistemas construidos a partir de nuestros bloques de construcción flexibles y reutilizables que admiten un amplio conjunto de factores de forma, procesadores, memoria, GPU, almacenamiento, redes, energía y soluciones de refrigeración (con aire acondicionado, refrigeración por aire libre o refrigeración líquida). 

Supermicro, Server Building Block Solutions y We Keep IT Green son marcas comerciales y/o marcas registradas de Super Micro Computer, Inc.

AMD, el logotipo de la flecha de AMD, AMD Instinct, EPYC y sus combinaciones son marcas comerciales de Advanced Micro Devices.

Todas las demás marcas, nombres y marcas registradas pertenecen a sus respectivos propietarios.

Foto – https://mma.prnewswire.com/media/2294523/SuperMicro_Servers_with_AMD_MI300_Series_Accelerators.jpgLogo – https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg