エンタープライズおよびクラウド環境でのRed Hat® OpenShift®対応AMD EPYC™サーバーの広範なサポート
2024-09-04更新
AMDが2017年にEPYCプロセッサーでサーバー市場に再参入した際、ゲームは完全に変わりました。記録的なパフォーマンス、強力なエコシステムのサポート、最新のワークフローに最適化されたプラットフォームにより、EPYCは瞬く間に市場シェアを獲得し始めました。初年度の市場シェアはわずか2%にとどまりましたが、アナリストの推定によると、現在はAMD EPYCが市場の30%以上を占めています。EPYCプロセッサーは、Dell、HPE、Cisco、Lenovo、Supermicroなど、主要なOEMの幅広いプラットフォームに搭載されています。
現在、パブリッククラウドだけでなくエンタープライズサーバー市場にも大きな影響を与えているAMD EPYCは、パフォーマンスと効率性において数々の世界記録を保持しています。EPYCは、Red Hat OpenShiftコンテナオーケストレーションプラットフォームを完全にサポートする能力を備えており、最新のエンタープライズアーキテクチャと最先端のクラウド機能の基盤として、アプリケーションの近代化を支援する最適な選択肢です。Red Hat Summitでは、AMD EPYCがOpenShiftの導入にどのように役立つかを示す説得力のある機会となりました。
ワールドクラスのパフォーマンスで市場シェアを獲得
一方、EPYCの性能は4世代にわたって向上し続けています。第4世代AMD EPYCは、世界最速のデータセンタープロセッサーです。64コアのIntel Xeon Platinum 8592+と比較すると、128コアのEPYCは、汎用ワークロード（SP5-175A）において、推定システムワットあたりのパフォーマンスが1.53倍となり、73%高いパフォーマンスを提供します。
また、EPYCは拡大するAIの普及に対応するための優れた推論性能も提供します。例えば、業界標準のエンドツーエンドAIベンチマークであるTPCx-AI SF30を使用した場合、AMD EPYC 9654を搭載したサーバーは、Intel Xeon Platinum 8592+と比較して1.65倍のスループットを発揮します（SP5-051A）。
充実したデータセンター・ポートフォリオとクラウドでの存在感
アプリケーションのパフォーマンスを最適化する際、既存のインフラがAMDで稼働しているか、AMDで稼働する準備が整っていることは大きな安心材料です。
OpenShift市場において最も適切で最も売れているサーバーは、すべての主要ベンダーから提供されており、Red Hat OpenShiftの認定を受けています。興味のある方は、Red Hatのパートナーカタログをじっくりご覧いただき、OpenShiftをサポートするAMD搭載オプションの多さを十分にご理解ください。
クラウド環境では、AWSやMicrosoft Azure上で、OpenShift認定を受けたAMD搭載インスタンスを多数見つけることができます。例えばAWSでは、EPYCを搭載したEC2インスタンスとして、T3a、C5a、C5ad、C6a、M5a、M5ad、M6a、M7a、R5a、R6aなどがあります。
未来のワークロードを支える
AMDがサーバー市場で存在感を高めていることの企業にとってのメリットは、オンプレミスでもクラウドでも、EPYCインフラストラクチャから最適なパフォーマンスを引き出せることです。小売業界のブラックフライデー・セールなど、パフォーマンスが重要なビジネスクリティカルな時期にクラウドへの移行を検討する企業が増えているため、この点はさらに説得力を増しています。
ネイティブなスケーリングの柔軟性に加え、最新のアプリケーションでは、ユーザーの利便性を高めるためにAI機能を活用することも増えています。これは、AMD EPYC CPUで実行するもう一つの利点であり、高速な大規模言語モデル（LLM）推論の応答性が実証されています。LLM推論のレイテンシーは、AI導入において最も重要なパラメータの一つです。Red Hat Summitでは、そのことを示す機会がありました。
第4世代AMD EPYCの性能を実証するため、AMDはRed Hat Enterprise Linux CoreOS上のRed Hat OpenShiftで、Llama2-7B-Chat-HFをbf16精度で実行しました。AMDは、カスタマーサポートのチャットボットを含む様々なユースケースで、EPYCの能力を実証しました。この場合、最初のトークンまでの時間は219ミリ秒でした。1秒未満での応答を期待するユーザーの忍耐力を十分に満たすことができます。トークンのスループットは毎秒8トークンで、多くの英語読者に要求されるパフォーマンスの上限は毎秒約6.5トークン、つまり毎秒約5英単語に相当します。トークン1つあたりの待ち時間は127ミリ秒でした。つまり、このモデルの性能は、高速のリーダーでも追いつけないほどの速さで単語を送り届けることができるということです。
Red Hat Summitのようなイベントで開発者、パートナー、顧客にお会いし、生の声を聞くのはいつも素晴らしいことです。AMDは、最新のアプリケーション開発とデプロイのための競争力以上のインフラを持っていることを証明するために、努力を重ねてきました。OpenShiftの開発者は、EPYCプロセッサー、EPYCベースの商用サーバー、そしてそれらを取り巻くRed Hat Enterprise LinuxとOpenShiftのエコシステムに信頼を持つべきです。
サミットでコミュニティに参加できたことは素晴らしい経験でした。また、AMDがRed Hatのようなリーダーとどのように協力しているかを示すのは常に良いことです。この秋に開催されるKubeconについては、改めてお知らせいたします。
終了メモ
SP5-175A
SPECrate®2017_int_baseの比較は、www.spec.org（2024年3月1日時点）の公表スコアに基づいています。公表されている2P AMD EPYC 9754（1950 SPECrate®2017_int_base、総TDP W 720、総コア数 256、エスト・システム $ 30823、エスト・システム W 1047、https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html）の比較は、公表されている2P Intel Xeon Platinum 8592+（1130 SPECrate®2017_int_base、総TDP W 700、総コア数 128、エスト・システム $ 27207、エスト・システム W 930、https://www.spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html）の1.73倍の性能です。 [性能/システムWの1.53倍] [性能/システム$の1.52倍]。AMD 1Kuの価格およびインテルARK.intel.comの仕様と価格は2024年03月01日現在。 SPEC®、SPEC CPU®、SPECrate® は Standard Performance Evaluation Corporation の登録商標です。詳細はwww.spec.orgを参照。システム価格およびワット数の見積もりは、Bare Metal GHG TCO v9.60に基づいています。実際のコストとシステム・ワットは異なります。
SP5-051A
TPCx-AI SF30派生ワークロードの比較は、2024年4月13日現在、複数のVMインスタンスを実行するAMD内部テストに基づく。エンドツーエンドのAIスループット・テストの結果はTPCx-AI仕様に準拠していないため、公表されているTPCx-AIの結果とは比較できません。AMDシステム構成 プロセッサ プロセッサ：2 x AMD EPYC 9654、周波数：2.4 GHz｜3.7 GHz、コア数：96コア/ソケット（1 NEC）： 96コア/ソケット（1NUMAドメイン/ソケット）、L3キャッシュ： 384MB/ソケット（合計768MB）、メモリ：1.5TB（24枚）デュアルランクDDR5-5600 64GB DIMM、1DPC（プラットフォームは最大4800MHzをサポート）、NIC：2 x 100 GbE Mellanox CX-5 (MT28800)、ストレージ：3.2 TB Samsung MO00 MO0000： 3.2 TB Samsung MO003200KYDNC U.3 NVMe; BIOS: 1.56; BIOS設定： SMT=ON、Determinism=Power、NPS=1、PPL=400W、Turbo Boost=Enabled、OS： Ubuntu® 22.04.3 LTS; テスト構成： テスト構成：6インスタンス、64vCPUs/インスタンス、2663集約AIユースケース/分対インテルシステム構成： プロセッサー 2 x Intel® Xeon® Platinum 8592+; 周波数： 1.9 GHz | 3.9 GHz、コア数： 64コア/ソケット（1NUMAドメイン/ソケット）、L3キャッシュ： 320MB/ソケット（合計640MB）、メモリ：1TB（16）デュアルランクDDR5-5600 64GB DIMM、1DPC、NIC：4 x 1GbE Broadcom NetXtreme BCM5719 Gigabit Ethernet PCIe、ストレージ：3.84TB KIOXIA： 3.84TB KIOXIA KCMYXRUG3T84 NVMe; BIOS： ESE124B-3.11; BIOS設定： BIOS設定: Hyperthreading=有効、Turbo boost=有効、SNC=無効; OS： Ubuntu® 22.04.3 LTS; テスト構成： テスト構成：4インスタンス、64vCPU/インスタンス、1607集約AIユースケース/分。結果は、システム構成、ソフトウェアのバージョン、BIOS設定などの要因によって異なる場合があります。 TPC、TPC BenchmarkおよびTPC-Cは、Transaction Processing Performance Councilの商標である。
SPEC®、SPEC CPU®、SPECrate®、SPECint®、SPECstorage®およびSPECpower_ssj®は、Standard Performance Evaluation Corporationの登録商標です。詳細はwww.spec.orgを参照。TPC Benchmarkは、Transaction Processing Performance Councilの商標です。Xeon®は、Intel Corporationまたはその子会社の商標です。本書で使用されているその他の製品名は、識別を目的としたものであり、各社の商標である場合があります。
