特許ウォッチ

公開番号2024132396
公報種別公開特許公報(A)
公開日2024-10-01
出願番号2023043138
出願日2023-03-17
発明の名称情報処理装置、情報処理システム、GPU枚数計算方法、制御方法およびプログラム
出願人日本電気株式会社
代理人個人,個人
主分類G06F 9/50 20060101AFI20240920BHJP(計算;計数)
要約【課題】処理の実行に必要なGPUの数を把握する方法を提供する。
【解決手段】情報処理装置は、処理対象の全データの一部を抜き出して、抜き出した前記データを処理対象として、GPUの数を変化させて処理を実行したときの前記GPUの数ごとの実行時間の測定値と、前記処理に用いた前記GPUの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記GPUの数の最小値を算出する手段、を備える。
【選択図】図3
特許請求の範囲【請求項１】
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、
を備える情報処理装置。
続きを表示（約 1,500 文字）【請求項２】
前記算出する手段は、前記抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、前記ＧＰＵの数と前記実行時間の関係を示す近似式を導出し、前記近似式に基づいて、前記ＧＰＵの数の最小値を算出する、
請求項１に記載の情報処理装置。
【請求項３】
前記全データのデータ数と抜き出した前記データのデータ数の比と、前記実行時間と、に基づいて、前記全データを処理対象として前記処理を実行したときの全実行時間を予測する手段、
をさらに備え、
前記最小値を算出する手段は、前記全実行時間と前記期待実行時間とを比較して、前記期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、
請求項１又は請求項２に記載の情報処理装置。
【請求項４】
前記予測する手段は、全ての前記ＧＰＵを用いたときの前記全実行時間を予測し、
前記最小値を算出する手段は、当該全実行時間の予測値が前記期待実行時間以内となるときに前記ＧＰＵの数の最小値を算出する、
請求項３に記載の情報処理装置。
【請求項５】
前記処理は深層学習処理である、
請求項１又は請求項２に記載の情報処理装置。
【請求項６】
請求項１又は請求項２に記載の情報処理装置と、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバと、を備え、
前記情報処理装置は、
前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフにするよう前記サーバに指示する手段、
をさらに備え、
前記サーバは、
前記指示に基づいて、前記ＧＰＵの電源のオンとオフを制御する手段、
を備える情報処理システム。
【請求項７】
前記情報処理装置は、
前記サーバが備える前記ＧＰＵの数を変化させて前記サーバに前記処理を実行させる手段と、
前記ＧＰＵの数ごとの前記実行時間を測定する手段と、
をさらに備える請求項６に記載の情報処理システム。
【請求項８】
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する、
ＧＰＵ枚数計算方法。
【請求項９】
複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバを含む情報処理システムの制御方法であって、
請求項８に記載のＧＰＵ枚数計算方法を実行するステップと、
前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフするステップと、
を有する制御方法。
【請求項１０】
コンピュータに、
処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する処理、
を実行させるプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラムに関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
分散深層学習の学習処理では、ＧＰＵ（Graphics Processing Unit）の枚数に性能(スループット)がスケールするわけではない。ＧＰＵ枚数が増えるほど１枚当たりの性能が落ちるため、ＧＰＵ枚数を増やすほど電力効率が悪くなる。そのため、ＧＰＵ単体の電力効率は、学習に使用するＧＰＵ枚数が少ないほど高くなる。また、ＧＰＵはアイドル状態でも電力を消費するため、使用しないＧＰＵは無駄に電力を消費する。
【０００３】
特許文献１には、マルチプロセッサシステムにおいて複数のプロセッサが動作すると、電力消費量が増加することを課題として、待ち状態にあるプロセッサの動作周波数を減らすことにより消費電力を削減する技術が開示されている。特許文献１の技術は、ＣＰＵ（Central Processing Unit）を対象としているが、分散深層学習システムにおけるＧＰＵに対して、プロセッサ単位で動作周波数を変えることにより消費電力を削減する制御を適用することはできない。
【０００４】
一般的に、分散深層学習において、学習処理の際に使用するＧＰＵ枚数は明示的に指定され、指定された数のＧＰＵを使用して学習が行われる。このとき、学習に使用しないＧＰＵは常にアイドル状態となる。また、学習内容によっては多くのＧＰＵを使用せずとも十分高速に処理することができるが、そのような場合でも使用しない全てのＧＰＵがアイドル状態となり、無駄な電力を消費する。
【先行技術文献】
【特許文献】
【０００５】
特開２００８－７７６４０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
ＧＰＵの電力効率を上げるためには、学習に使用するＧＰＵのみを使用し、残りのＧＰＵの電源をオフにすることが好ましい。その為には、学習に使用するＧＰＵの数を把握する必要がある。
【０００７】
そこでこの発明は、上述の課題を解決する情報処理装置、情報処理システム、ＧＰＵ枚数計算方法、制御方法およびプログラムを提供することを目的としている。
【課題を解決するための手段】
【０００８】
本発明の一態様によれば、情報処理装置は、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する手段、を備える。
【０００９】
本発明の一態様によれば、情報処理システムは、上記の情報処理装置と、複数のＧＰＵが搭載された１台のサーバ、又は、１つ又は複数のＧＰＵが搭載された１台又は複数台のサーバと、を備え、前記情報処理装置は、前記ＧＰＵの数の最小値分の前記ＧＰＵの電源をオンとし、それ以外の前記ＧＰＵの電源をオフにするよう指示する手段をさらに備え、前記サーバは、前記指示に基づいて、前記ＧＰＵの電源のオンとオフを制御する手段、を備える。
【００１０】
本発明の一態様によれば、ＧＰＵ枚数計算方法は、処理対象の全データの一部を抜き出して、抜き出したデータを処理対象として、ＧＰＵの数を変化させて処理を実行したときの前記ＧＰＵの数ごとの実行時間の測定値と、前記処理に用いた前記ＧＰＵの数と、に基づいて、所定の期待実行時間以内に前記処理を完了させることができる前記ＧＰＵの数の最小値を算出する。
（【００１１】以降は省略されています）

関連特許