AMD Instinct（TM）MI300Xアクセラレーターを搭載した新しい8 GPUシステムが、大規模なAIトレーニングとLLM展開向けの画期的なAIおよびHPCパフォーマンスを備えて利用可能になりました

【サンノゼ（米カリフォルニア州）2023年12月8日PR Newswire＝共同通信JBN】Super Micro Computer, Inc.（NASDAQ: SMCI）は、AI、クラウド、HPC、ストレージ、5G/Edge、グリーンコンピューティングをリードする、トータルITソリューションを提供するメーカーです。同社は、新しいAMD Instinct MI300シリーズアクセラレーターを搭載し、最先端のパフォーマンスと効率性を実現するように最適化されたAMDベースのH13世代GPUサーバーに、新たに3つの製品を追加すると発表しました。AMD Instinct MI300X OAM構成の8GPUサーバーを搭載したSupermicroの強力なラックスケールソリューションは、大規模モデルのトレーニングに最適です。

 

Supermicro Extends AI and GPU Rack Scale Solutions with Support for AMD Instinct MI300 Series Accelerators

AMD Instinct MI300A Accelerated Processing Unit（APU）アクセラレーターを搭載した新しい2U水冷サーバーと4U空冷サーバーが入手可能になり、データセンターの効率を向上させ、AI、LLM、HPCで急速に高まる複雑な需要に対応します。新しいシステムには、スケーラブルなアプリケーション向けのクアッドAPUが搭載されています。Supermicroは、ラックあたり最大1728 TFlopsのFP64パフォーマンスを備えた大規模環境向けの完全な水冷ラックを提供できます。Supermicroの世界各地の製造施設は、AIとHPCの融合に向けたこれらの新しいサーバーの納入を効率的にします。

Supermicroのチャールズ・リアン（Charles Liang）社長兼最高経営責任者（CEO）は、次のように述べています。「当社は、前世代と比較して最大3.4倍のパフォーマンス向上を実現した最新世代のAMD Instinctアクセラレーターを使用して、AIトレーニングのためのラックスケールのトータルITソリューションを拡張できることを非常にうれしく思っています。当社は、世界各地の製造施設から毎月4000基の水冷ラックを供給できる能力があり、AMDのInstinct MI300XアクセラレーターまたはAMD Instinct MI300A APUを搭載する最新のH13 GPUソリューションを提供できます。当社の実証済みのアーキテクチャーにより、大規模なAIおよび完全に統合された液体冷却ソリューションが可能なスーパーコンピューティングクラスター向けに設計された各GPUに1対1に対応する専用の400Gネットワーキングが可能になり、導入の容易さでパフォーマンスと優れた効率性において競争上の優位性を顧客に提供します」

AMDアクセラレーターを搭載したSupermicroサーバーの詳細についてはこちらをご覧ください。

LLMに最適化されたAS –8125GS-TNMR2システムは、Supermicroのビルディングブロックアーキテクチャーに基づいて構築されており、空冷および液冷ラックスケール設計による高性能AIシステム向けの実績のある設計になっています。バランスの取れたシステム設計により、GPUと1対1で対応するネットワークが結び付けられ、ノードとラック全体に高帯域幅メモリーの大規模なプールが提供され、最大数兆のパラメーターを持つ今日最大の言語モデルに適合し、並列コンピューティングを最大化し、トレーニング時間と推論レイテンシーを最小限に抑えます。MI300X OAMアクセラレーターを搭載した8Uシステムは、AMD Infinity Fabric（TM）リンクを備えた8GPUのロウアクセラレーション能力を提供し、業界をリードする1.5TBのオープンスタンダードプラットフォーム上で最大896GB/秒のピーク総理論P2P I/O帯域幅を可能にするほか、AIワークロードの省電力化、コンピュートサイクルの短縮、メモリー使用量の削減を目的として設計されたネイティブのスパース・マトリクスをサポートします。各サーバーには、最大256コアのデュアルソケットAMD EPYC（TM）9004シリーズプロセッサーが搭載されています。ラックスケールでは、1000を超えるCPUコア、24TBのDDR5メモリー、6.144TBのHBM3メモリー、9728基のコンピューティングユニットが利用可能で、最も困難なAI環境に対応できます。Supermicroが8U構成で豊富な経験を持つOCPアクセラレーターモジュール（OAM）を使用することで、完全に構成されたサーバーがカスタム設計よりも早く市場に投入され、コストが削減され納期が短縮されます。

Supermicroは、また密度を最適化した2U水冷サーバーAS –2145GH-TNMRと4U空冷サーバーAS –4145GH-TNMRを発表しており、それぞれに4基のAMD Instinct（TM）MI300Aアクセラレーターが搭載されています。新しいサーバーは、極めて高速なCPUとGPU間の通信を必要とするHPCおよびAIアプリケーション向けに設計されています。APUは、最高性能のAMD CPU、GPU、HBM3メモリーをシングルチップ上に組み合わせることで、冗長なメモリーコピーを排除しています。各サーバーには、アプリケーションのスケールアップのためのリーダーシップx86「Zen4」CPUコアが搭載されています。また、各サーバーには512GBのHBM3メモリーが搭載されています。21台の2Uシステムで構成されるフルラック（48U）ソリューションでは、10 TBを超えるHBM3メモリーと1万9152基のコンピューティングユニットが利用可能です。HBM3からCPUへのメモリー帯域幅は5.3TB/秒です。

どちらのシステムも、400G EthernetをサポートするデュアルAIOMと、ハイパフォーマンスコンピューティングのスペース、スケーラビリティー、効率を向上させるように設計された拡張ネットワーキングオプションを備えています。2Uダイレクトチップ水冷システムは、空冷ラックの9万5256ワットと比較してラックあたり6万1780ワットの電力を消費する21基の2Uシステムラックソリューションに基づいて35%以上のエネルギー消費削減によって、優れたTCOに加え、空冷システムと比較してファンの数の70%削減を実現します。

AMDのデータセンター・ソリューション・ビジネスグループのForrest Norrodエグゼクティブ・バイスプレジデントは次のように述べています。「AMD Instinct MI300シリーズアクセラレーターは、長年にわたって高速化されたハイパフォーマンスコンピューティングアプリケーションにも、急速に成長する生成AIの需要にも、最高のパフォーマンスを提供します。当社は引き続きSupermicroと緊密に連携し、MI300シリーズアクセラレーターをベースとし、システムおよびデータセンター設計におけるSupermicroの専門知識を活用した最先端のAIおよびHPCトータルソリューションを市場に投入していきます」

SupermicroとAMDの専門家から学ぶには、このウェビナーをライブないしはオンデマンドでご覧ください。

詳細は以下のサイトを参照してください。

Supermicro AMD Accelerator Site

AS -8125GS-TNMR2 (8U w/ MI300x)

AS -2145GH-TNMR (2U LC w/ MI300A)

AS -4145GH-TNMR (4U AC w/ MI300A)

Supermicro (Super Micro Computer, Inc.)について