I nuovi sistemi a 8 GPU basati sugli acceleratori AMD Instinct™ MI300X ora sono disponibili con performance totalmente innovative per l'IA e l'HPC, per l'addestramento IA su larga scala e per le implementazioni LLM
SAN JOSE, Calif., 7 dicembre 2023 /PRNewswire/ -- Supermicro, Inc. (NASDAQ: SMCI), produttore di complete soluzioni IT per l'IA, il cloud, lo storage e il 5G/Edge, annuncia tre nuove aggiunte alla generazione H13 dei suoi server GPU basati su AMD, ottimizzati per efficienza e performance avanzate grazie alla nuova serie di acceleratori AMD Instinct MI300. Le potenti soluzioni di Supermicro su scala rack con server a 8 GPU nella configurazione OAM basata su AMD Instinct MI300X sono ideali per la formazione di modelli di grandi dimensioni.
Sono disponibili i nuovi server nella versione 2U con raffreddamento a liquido e nella versione 4U con raffreddamento ad aria, dotati delle unità di elaborazione accelerata (APU, Accelerated Processing Unit) AMD Instinct MI300A, per aumentare l'efficienza dei centri dati e per rispondere alle complesse esigenze in rapida crescita di IA, LLM e HPC. I nuovi sistemi integrano APU quad core per la scalabilità delle applicazioni. Supermicro è in grado di fornire rack totalmente raffreddati a liquido per ambienti su larga scala, con performance FP64 massime di 1.728 TFlops per rack. Gli impianti produttivi internazionali di Supermicro rendono più fluida la fornitura di questi nuovi server per la convergenza tra IA e HPC.
"Siamo davvero entusiasti di ampliare le nostre complete soluzioni IT su scala rack destinate alla formazione IA con la recentissima generazione di acceleratori AMD Instinct, che migliorano fino a 3,4 volte le performance rispetto alle generazioni precedenti", ha dichiarato Charles Liang, presidente e CEO di Supermicro. "Con una capacità di fornitura mensile pari a 4.000 rack raffreddati a liquido grazie alle nostre strutture produttive internazionali, siamo in grado di consegnare le più recenti soluzioni GPU H13 dotate di acceleratore AMD Instinct MI300X o di APU AMD Instinct MI300A. La nostra comprovata architettura consente un networking 1:1 400G dedicato per ciascuna GPU, per l'IA su larga scala e cluster di supercomputer dotati di soluzioni di raffreddamento a liquido totalmente integrate, che offrono ai clienti un vantaggio competitivo in termini di performance e di maggior efficienza accompagnati dalla facilità di implementazione".
Ulteriori informazioni sui server Supermicro con acceleratori AMD
Il sistema AS –8125GS-TNMR2 ottimizzato per LLM si basa sull'architettura 'a blocchi costruttivi' di Supermicro, una progettazione comprovata per sistemi IA a performance elevate, con design basati su raffreddamento ad aria e a liquido su scala rack. La progettazione bilanciata del sistema associa una GPU a un networking 1:1, per offrire un ampio pool di memoria con larghezza di banda elevata tra nodi e rack, per adattarsi ai maggiori modelli linguistici attuali, fino a trilioni di parametri, aumentando al massimo l'elaborazione parallela e riducendo al minimo i tempi di addestramento e la latenza di inferenza. Il sistema 8U dotato di acceleratore OAM MI300X offre l'incredibile potenza di accelerazione di 8 GPU coniugata ai link AMD Infinity Fabric™, consentendo di ottenere in un singolo sistema fino a 896 GB/s di larghezza di banda teorica di picco I/O P2P sulla piattaforma standard aperta dotata di memoria GPU HBM3 da 1,5TB leader di settore, oltre al supporto nativo di matrici sparse, progettato per risparmiare energia e per ridurre sia i cicli di elaborazione, sia l'utilizzo della memoria per i carichi di lavoro dell'IA. Ciascun server è dotato di processori a doppio socket AMD EPYC™ serie 9004 con un massimo di 256 core. Su scala rack, sono disponibili oltre 1000 core CPU, 24TB di memoria DDR5, 6,144TB di memoria HBM3 e 9.728 unità di elaborazione, per gli ambienti IA più difficili. L'utilizzo del modulo acceleratore OAM (OCP Accelerator Module), ambito in cui Supermicro vanta un'esperienza significativa nelle configurazioni 8U, permette di portare più rapidamente sul mercato un server totalmente configurato rispetto a un design personalizzato, e quindi di tagliare su costi e tempi di consegna.
Supermicro sta lanciando anche un server 2U con raffreddamento a liquido e densità ottimizzata, il modello AS –2145GH-TNMR, e un server 4U con raffreddamento ad aria, il modello AS –4145GH-TNMR, ciascuno dotato di 4 acceleratori AMD Instinct™ MI300A. I nuovi server sono stati ideati per applicazioni HPC e IA, che richiedono comunicazioni velocissime tra CPU e GPU. L'APU elimina le copie di memoria ridondanti e combina su un unico chip CPU, GPU e memoria HBM3 di AMD con performance massime. Ogni server contiene core CPU "Zen4" x86, per la scalabilità delle applicazioni. Ogni server è dotato inoltre di memoria HBM3 da 512GB. In una soluzione full rack (48U) composta da 21 sistemi 2U sono disponibili più di 10TB di memoria HBM3, oltre a 19.152 unità di elaborazione. La larghezza di banda tra la memoria HBM3 e la CPU è di 5,3 TB/secondo.
Entrambi i sistemi presentano doppi moduli AIOM con supporto Ethernet 400G e maggiori opzioni di rete studiate per migliorare spazio, scalabilità ed efficienza per l'elaborazione a performance elevate. Il sistema 2U con raffreddamento a liquido diretto su chip genera un TCO eccellente, con un taglio del 35% sui consumi elettrici calcolato su 21 soluzioni in rack di sistema 2U che producono 61.780 watt per rack, rispetto ai 95.256 watt dei rack raffreddati ad aria, oltre a una riduzione del 70% nel numero di ventole rispetto ai sistemi raffreddati ad aria.
"Gli acceleratori della serie AMD Instinct MI300 offrono performance leader di settore, sia per applicazioni prolungate di calcolo accelerato a performance elevate, sia per la domanda di IA generativa in rapida crescita", è il commento di Forrest Norrod, vicepresidente esecutivo e direttore generale del Data Center Solutions Business Group presso AMD. "Continuiamo a lavorare a stretto contatto con Supermicro per portare sul mercato soluzioni complete e avanzate per l'IA e l'HPC basate sugli acceleratori della serie MI300, sfruttando la competenza di Supermicro nella progettazione di sistemi e di centri dati".
Gli esperti di Supermicro e di AMD saranno lieti di fornire maggiori informazioni. Seguire questo webinar in diretta oppure nella versione registrata.
Per ulteriori informazioni visitare:
Sito Supermicro sugli acceleratori AMD
AS -8125GS-TNMR2 (8U con MI300x)
AS -2145GH-TNMR (2U LC con MI300A)
AS -4145GH-TNMR (4U AC con MI300A)
Informazioni su Super Micro Computer, Inc.
Supermicro (NASDAQ: SMCI) è un leader globale nelle soluzioni IT totali ottimizzate per le applicazioni. Azienda fondata e operativa a San Jose, California, Supermicro è impegnata a fornire innovazioni per il mercato delle infrastrutture aziendali, del cloud, dell'IA e per il 5G Telco/Edge IT. Siamo un produttore di soluzioni IT complete che propone server, IA, storage, IoT, sistemi switch, software e servizi di supporto. La competenza di Supermicro nel campo della progettazione di schede madri, alimentazione e chassis favorisce ulteriormente le attività di sviluppo e produzione dell'azienda, e rende possibile l'innovazione di prossima generazione, dal cloud all'edge, per i nostri clienti globali. Le nostre soluzioni sono progettate e fabbricate internamente (negli Stati Uniti, a Taiwan e nei Paesi Bassi), sfruttando le operazioni globali per generare scalabilità ed efficienza, e ottimizzate per migliorare il TCO e ridurre l'impatto ambientale (green computing). Il premiato portafoglio delle Server Building Block Solutions® consente ai clienti di scegliere l'ottimizzazione maggiormente in linea con i requisiti specifici dei loro carichi di lavoro e applicazioni, scegliendo all'interno di una vasta famiglia di sistemi realizzati con i nostri 'blocchi costruttivi' flessibili e riutilizzabili che supportano una serie completa di fattori di forma, processori, memorie, GPU, storage, reti, alimentazione e soluzioni per il raffreddamento (ad aria condizionata, ad aria libera o a liquido).
Supermicro, Server Building Block Solutions e We Keep IT Green sono marchi di fabbrica e/o marchi di fabbrica registrati di Super Micro Computer, Inc.
AMD, il logo AMD Arrow, AMD Instinct, EPYC e le relative combinazioni sono marchi di fabbrica di Advanced Micro Devices.
Tutti gli altri marchi, nomi e marchi di fabbrica sono di proprietà dei rispettivi titolari.
Foto - https://mma.prnewswire.com/media/2294523/SuperMicro_Servers_with_AMD_MI300_Series_Accelerators.jpg Logo - https://mma.prnewswire.com/media/1443241/Supermicro_Logo.jpg
