AIとHPCワークロードの強化と最適化をもたらす新しいROCm™ 5.6

今秋、AMDは一部のRDNA™ 3 GPUにROCmサポートを追加する

AIは、次世代のコンピューティングを形成する決定的なテクノロジーです。ここ数カ月、私たちは皆、ジェネレーティブAIとLLMの爆発的な普及が、テクノロジーとの関わり方に革命をもたらし、データセンターにおけるGPUを中心としたハイパフォーマンス・コンピューティングの需要を大幅に押し上げている現状を目の当たりにしてきました。

ROCmは、研究者がAMD Instinctアクセラレーターのパワーを活用できるようにするオープン・ソフトウェア・プラットフォームであり、プラットフォーム間でのHPCおよびAIイノベーションの移植性を促進します。ROCm 5は、AIおよびHPCワークロードのための包括的な最適化スイートを備えています。これには、大規模言語モデル用の微調整されたカーネル、新しいデータ型のサポート、OpenAI Tritonプログラミング言語のような新技術のサポートが含まれます。

ROCm の検証には、毎晩何十万ものフレームワーク・テストが含まれ、何千ものモデルや演算子の検証を行います。これには、PyTorch、TensorFlow、ONNX、JAXのような主要なフレームワークのサポートが含まれ、これらのフレームワーク上で構築されたすべてのAIモデルに対して最適な開発者体験をすぐに提供することができます。

ROCm 5.6の最新リリースを発表できることを嬉しく思います

ROCm 5.6では、大規模言語（およびその他）モデル用の新しいAIソフトウェア・アドオンの機能が強化され、ROCmのライブラリ・ポートフォリオ全体で多くのパフォーマンス最適化が行われています。また、以下のようなAIコミュニティをサポートする継続的な改善も反映されています：
・Hugging FaceユニットテストスイートをROCm QAに統合
・PyTorch 2.0のインダクタモードにおけるOpenAI Tritonのインクリメンタルサポート
・PyTorch、TensorFlow、JAXのROCmによるOpenXLAのサポートをより広範なコミュニティに提供

また、ROCm 5.6 では、FFT、BLAS、ソルバーなど、HPC アプリケーションの基礎となる数学ライブラリが改良され、インストール、ROCgdb（CPU-GPU 統合デバッガ）、ROCm プロファイラ、ドキュメントなど、ROCm の開発およびデプロイメントツールが強化されています。

業界が幅広いアクセラレーターをサポートするオープンなエコシステムに移行する中、AMDは、OpenAI TritonおよびOpenXLAコンパイラのサポートを支えるMLIRインフラの改善など、最適なパフォーマンスを実現するフレームワークとバックエンドコンパイラをさらに最適化する取り組みを継続します。また、Hugging FaceのAMDハブに、AMDソリューションに最適化されたオープンソースのAIモデルを追加していきます。

HPCユーザー向けには、顧客がHPCアプリケーション・コンテナを構築できるように、AMD Infinity Hubで多数のパブリッシング・レシピを最近公開し、今後のROCmリリースでは、AMD InstinctソリューションでサポートされるHPCアプリケーションの数を増やす予定です。

また、AIとMLのためのROCmオープン・ソフトウェア・プラットフォームを当社のRadeon™コンシューマGPUとRadeon™ProワークステーションGPUで実行したいという開発者の皆様からの関心が非常に高く、サポートされていないGPUにおける特定のドライバの問題に対するコミュニティの課題を聞いてきました。今回、ROCm 5.6で報告された問題を修正し、今後のサポート拡大に尽力することを嬉しく思います。

現在サポートされているAMD RDNA 2ワークステーションGPU（Radeon Pro v620およびw6800）から、一部のAMD RDNA 3ワークステーションおよびコンシューマGPUにROCmサポートを拡大する予定です。Linux 上での RDNA 3 ベースの GPU の正式なサポートは、48GB の Radeon PRO W7900 と 24GB の Radeon RX 7900 XTX を皮切りに、今秋から順次開始される予定です。

ROCm 5.6 の詳細については、https://www.amd.com/en/graphics/servers-solutions-rocm をご覧ください。

こちらの記事はAMD本社のブログ記事を機械翻訳したものです。詳しくは元記事をご覧ください。