機械学習処理ベンチマークMLPerf HPCにて最高レベルの速度を達成

日本のスーパーコンピュータシステムで計測したアプリケーション性能が上位を独占

国立研究開発法人産業技術総合研究所（注1）（以下、産総研）が運用するスーパーコンピュータシステム「AI橋渡しクラウド基盤」（以下、「ABCI」）の約半分の規模と、国立研究開発法人理化学研究所（注2）（以下、理研）と富士通株式会社（注3）（以下、富士通）が開発中のスーパーコンピュータ「富岳」の約10分の1の規模で計測した結果が、スーパーコンピュータ規模の処理を必要とする大規模機械学習処理のベンチマークであるMLPerf HPC（注4）において、それぞれ最高レベルの性能を達成し、上位を独占しました。

「ABCI」では約半分の規模を用い、深層学習に特化した演算装置で構成されたGPUタイプのスーパーコンピュータの中で最高記録となり、GPUタイプの他システムの性能と比較し20倍となる処理速度を達成しました。同様に、「富岳」では約10分の1の規模を用い、汎用的な演算装置で構成されたCPUタイプのスーパーコンピュータの中で最高記録となり、CPUタイプの他システムの性能と比較し14倍となる処理速度を達成しました。

今回の結果は、現在オンラインで開催中のHPC（ハイパフォーマンス・コンピューティング：高性能計算技術）に関する国際学会「SC20」において、11月18日付（日本時間11月19日）にMLPerf HPC v0.7として発表されました。

MLPerf HPCは宇宙論的パラメータを予測する「CosmoFlow」（注5）と異常気象現象を特定する「DeepCAM」（注6）という2本のベンチマークプログラムのそれぞれにおいて性能を競うものです。「CosmoFlow」については、「ABCI」の全体の約半分のシステム規模での計測（注7）において、今回登録した全システムの計測値で1位、「富岳」の全体の約10分の1のシステム規模での計測（注8）において2位となりました。GPUとCPUのそれぞれのタイプの他システムの性能値に対して、「ABCI」は20倍の性能、「富岳」は14倍の性能になります。「DeepCAM」についても、「ABCI」の約半分の規模を用いた計測は、今回登録した全システムの計測値で1位となりました。このように、「ABCI」と「富岳」が圧倒的大差をつけて上位を独占し、日本のスーパーコンピュータが機械学習の分野でも高い技術力を有することを示しました。

富士通、産総研、理研および、株式会社富士通研究所（注9）は、今回の計測にあたり開発した大規模機械学習処理を高速化するライブラリやAIフレームワークといったソフトウェアスタックを今後一般公開します。これにより、スーパーコンピュータでの大規模機械学習の活用が容易となり、シミュレーション結果の解析による異常気象の検出や宇宙物理学上の新たな発見への応用が期待できます。また、膨大な計算性能を必要とする汎用的な言語モデルの実現といった応用への広がりが期待できるなど、Society5.0実現のための中核プラットフォームとして社会的・科学的課題の解決に貢献します。

MLPerf HPCについて

MLPerfは、2018年5月に、機械学習アプリケーションを実行するシステムの性能リストを作成することを目的に設立された機械学習ベンチマークCommunityです。これまで膨大な時間を要していた規模の機械学習計算をスーパーコンピュータを使って行った時の性能評価を行うため、MLPerfは新たな機械学習ベンチマークとしてMLPerf HPCを策定しました。世界各国のスーパーコンピュータで利用され、新たな業界標準として期待されています。

今回のMLPerf HPCはv0.7として、スーパーコンピュータを利用しなければならない大規模の機械学習性能を測定することを目的として、「CosmoFlow」と「DeepCAM」の2つの実アプリケーションで性能評価が実施されました。

すべての計測データは下記サイトにて公開されています。

関係者のコメント

（富士通理事新庄直樹）

このたびの「ABCI」と「富岳」によるMLPerf HPCでの性能上位独占は、産総研様や理研様を始めとする多くの関係者の方々と共同で行った大規模深層学習処理向けソフトウェアスタックの構築・最適化が評価されたものと考えています。関係各位の多大なるご協力とご支援に、心より感謝申し上げます。今回の成果は、ますます大規模化する機械学習処理にスーパーコンピュータを活用する道を開くもので、今後多くの研究開発に貢献し、日本の研究開発が世界を一層リードすることを期待しております。

（産総研人工知能研究センター総括研究主幹小川宏高）

「ABCI」は、わが国の人工知能技術開発のためのオープンで先進的な高速計算基盤として、2018年8月1日に運用を開始しました。以来、高い計算能力を活用した人工知能技術の研究開発・実証、社会実装にむけた開発のため、産学官連携や多様な事業者の皆様にご利用いただいています。今回の大規模機械学習処理ベンチマークMLPerf HPCの圧倒的な結果は、わが国の産学官連携による技術力・競争力の高さを世界に示したものです。産総研人工知能研究センターでは、容易に構築できる人工知能技術の開発を目指して、汎用性の高い大規模な機械学習モデルの構築とその利用技術の開発を進めており、今回の成果はこうした技術開発にも活かされていくものと期待しております。

（理研計算科学研究センターセンター長松岡聡）

今回、深層学習・AIの高性能ランキングであるMLPerf HPCの記念すべき第一回の開催において、富岳がCPUマシンとして非常な高性能・好結果を我が国のトップGPUスパコンである産総研ABCIと共に得たのは、我が国のAI研究開発プラットフォームの構築計画が世界的にも大変競争力がある証であり、大変喜ばしいと思っています。若干残念なのは、同様のランキングであるHPL-AIで示された圧倒的な性能が、主に規則上の制限により発揮しきれなかった事です。今後富岳上での更なる性能向上と共に、各方面とも協力し、富岳が提供している超大規模な環境での高性能深層学習での性能が発揮できるよう引き続き努力したい所存です。

商標について

記載されている製品名などの固有名詞は、各社の商標または登録商標です。

以上

注釈

注1 産業技術総合研究所：: 本部東京都千代田区、理事長石村和彦。
注2 理化学研究所：: 本部埼玉県和光市、理事長松本紘。
注3 富士通株式会社：: 本社東京都港区、代表取締役社長時田隆仁。
注4 MLPerf HPC：: MLPerf HPCは機械学習を活用する実アプリケーションを題材に、機械学習処理で必要となるソフトウェアを含めたシステム全体としての処理性能を評価します。HPL-AIは、機械学習処理で活用される単精度や半精度演算器などのハードウェアそのものの基礎性能が評価されます。
注5 「CosmoFlow」：: 宇宙空間に分布する暗黒物質の3次元シミュレーション結果から、宇宙論的パラメータを予測する深層学習モデルをトレーニングします。
注6 「DeepCAM」：: 地球規模の気候予測シミュレーションデータで異常気象現象を特定する深層学習モデルをトレーニングします。
注7 「ABCI」の全体の約半分のシステム規模での計測：: 今回の計測ではMLPerf HPC v0.7の計測ルールに従い、「ABCI」の全系は使用しておらず、半分の規模で計測を実施。
注8 「富岳」の全体の約10分の1のシステム規模での計測：: 今回の計測ではMLPerf HPC v0.7の計測ルールに従い、「富岳」の全系は使用しておらず、10分の1の規模で計測を実施。
注9 株式会社富士通研究所：: 本社神奈川県川崎市、代表取締役社長原裕貴。