Solución de almacenamiento de datos llave en mano para el entrenamiento de modelos e inferencia de IA a gran escala
Supermicro, Inc. un fabricante de soluciones de cómputo para IA, nube, almacenamiento y 5G/Edge, lanza una solución de almacenamiento optimizada de pila completa (full stack) para canalizar datos de IA y ML desde la recopilación hasta la entrega de datos de alto rendimiento. Esta nueva solución maximiza el tiempo de obtención de valor de la IA al mantener los pipelines de datos de GPU completamente saturados. Para el entrenamiento de modelos de IA, se pueden recopilar, transformar y cargar cantidades masivas de datos sin procesar a capacidades de petascala en la canalización del flujo de trabajo de IA de una organización.
La solución Supermicro de varios niveles ofrece datos de varios petabytes para AIOps y MLOps en entornos de producción. Toda la solución a escala de múltiples bastidores de Supermicro está diseñada para reducir los riesgos de implementación, permitir a las empresas entrenar modelos más rápido y utilizar rápidamente los datos resultantes para la inferencia de IA.
"Con 20 PB por rack de almacenamiento flash de alto rendimiento que impulsan cuatro servidores NVIDIA HGX H100 de 8 GPU basados en refrigeración por aire optimizados para aplicaciones u ocho servidores NVIDIA HGX H100 de 8 GPU basados en refrigeración líquida, los clientes pueden acelerar sus aplicaciones de IA y ML que se ejecutan a escala de rack", dijo Charles Liang, presidente y CEO de Supermicro. "Esta solución puede ofrecer 270 GB/s de rendimiento de lectura y 3.9 millones de IOPS por clúster de almacenamiento como mínima implementación y puede escalar hasta cientos de petabytes. Utilizando los últimos sistemas Supermicro con equipos de almacenamiento PCIe 5.0 y E3.S y el software WEKA Data Platform, los usuarios verán aumentos en el rendimiento de las aplicaciones de IA con esta solución a escala de rack probada en campo. Nuestra nueva solución de almacenamiento para el entrenamiento de modelos IA permite a los clientes maximizar el uso de nuestras soluciones más avanzadas de servidores GPU a escala de rack, reduciendo su costo total de propiedad y aumentando el performance de la IA."
Los petabytes de datos no estructurados utilizados en el procesamiento de entrenamiento de modelos de IA a gran escala deben estar disponibles para los servidores de GPU con bajas latencias y gran ancho de banda para mantener la productividad de las GPU. La amplia oferta de servidores de almacenamiento basados en Intel y AMD de Supermicro es un elemento crucial del proceso de IA. Entre ellos se incluyen los servidores de almacenamiento Supermicro Petascale All-Flash, que tienen una capacidad de 983.04* TB por servidor de capacidad flash NVMe Gen 5 y ofrecen hasta 230 GB/s de ancho de banda de lectura y 30 millones de IOPS. Esta solución también incluye los servidores de almacenamiento Supermicro SuperServer 90 drive bay para el nivel de objeto de capacidad. Esta solución completa está disponible en todo el mundo para clientes de ML, GenAI y otras cargas de trabajo computacionalmente complejas.
La nueva solución de almacenamiento consta de:
- Nivel All-Flash - Servidores de almacenamiento Supermicro Petascale
- Nivel de aplicación: servidores GPU Supermicro 8U: AS -8125GS-TNHR y SYS-821GE-TNHR
- Nivel de objetos: servidor SuperStorage 4U Supermicro con 90 bahías para unidades que ejecuta almacenamiento de objetos Quantum ActiveScale
- Software: WEKA Data Platform y almacenamiento de objetos Quantum ActiveScal
- Conmutadores: Conmutadores InfiniBand y Ethernet Supermicro
"El alto rendimiento y la gran capacidad flash de los servidores de almacenamiento All-Flash Petascale de Supermicro complementan a la perfección el software de plataforma de datos nativa de IA de WEKA. Juntos, proporcionan la velocidad, escala y simplicidad que exigen los clientes que usan IA empresarial", dijo Jonathan Martin, presidente de WEKA.
*El valor se basa en la capacidad básica bruta del proveedor de 30.72 TB. TB es base-10 decimal. La disponibilidad de la SSD E3.S de 30.72 TB está sujeta a la disponibilidad del proveedor.
Fuente: Supermicrp
