TOP
|
特許
|
意匠
|
商標
特許ウォッチ
Twitter
他の特許を見る
10個以上の画像は省略されています。
公開番号
2024041325
公報種別
公開特許公報(A)
公開日
2024-03-27
出願番号
2022146070
出願日
2022-09-14
発明の名称
演算装置
出願人
株式会社日立製作所
代理人
青稜弁理士法人
主分類
G06F
9/50 20060101AFI20240319BHJP(計算;計数)
要約
【課題】好適にDNN(Deep Neural Network:深層学習)の演算を行うことができる、演算装置を提供すること。
【解決手段】演算領域を有する演算デバイスを少なくとも1つ備え、入力情報を取得すると、入力情報から複数の入力の特徴マップを生成し、生成した複数の入力の特徴に対して、チャンネル分割を含む少なくとも1つのDNNの分割方式で、DNNの演算を並列で行い、チャンネル分割は、特徴マップを分割することなく、特徴マップをまとめた組に分けて、分けた特徴マップをまとめた組それぞれを、演算領域それぞれに割り当てて、層の演算を行う。
【選択図】図3
特許請求の範囲
【請求項1】
演算を行う少なくとも1つの演算領域を有する演算デバイスを少なくとも1つ備え、DNN(Deep Neural Network:深層学習)の演算を、前記演算デバイスを用いて行う演算装置であって、
前記演算デバイスは、中間メモリ領域を有し、
前記演算装置は、
複数の前記演算領域と、
入力情報を取得すると、前記入力情報から複数の入力の特徴マップを生成し、生成した前記複数の入力の特徴マップを、前記演算デバイスのうちで演算に使用する演算デバイスに送信し、前記複数の前記演算領域を用いて、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行うDNN演算実行部と、を備え、
前記DNN演算実行部は、少なくとも1つのDNNの分割方式で、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行い、
前記DNNの演算を並列で行う際の前記DNNの分割方式には、
前記DNNの演算の過程で、層の演算に用いる複数の特徴マップそれぞれを分割することなく、前記層の演算に用いる複数の特徴マップを、特徴マップをまとめた組に分けて、分けた前記特徴マップをまとめた組それぞれに対して前記層の演算を行う、チャンネル分割を少なくとも含み、
少なくともチャンネル分割を行う際には、少なくとも1つの前記演算領域が有する前記中間メモリ領域に少なくとも他の1つの前記演算領域が有する特徴マップもしくは特徴マップに演算を行った結果を格納して演算を行う、
演算装置。
続きを表示(約 2,000 文字)
【請求項2】
請求項1に記載の演算装置であって、
前記DNN演算実行部は、前記複数の演算デバイスのうちで演算に使用する複数の演算デバイスそれぞれが生成した、畳み込みマップを、前記畳み込みマップを集約する演算デバイスの前記中間メモリ領域に格納させ、前記畳み込みマップを集約する演算デバイスに、前記中間メモリ領域に格納させたすべての畳み込みマップの各要素の和を取って、出力の特徴マップを生成させる、
演算装置。
【請求項3】
請求項2に記載の演算装置であって、
前記演算デバイスは、前記演算領域の数の前記中間メモリ領域を有する、
演算装置。
【請求項4】
請求項1に記載の演算装置であって、
前記DNN演算実行部は、前記複数の演算デバイスのうちで演算に使用する複数の演算デバイスそれぞれに、生成した畳み込みマップの和をとった部分和マップを生成させ、前記部分和マップを集約する演算デバイスの中間メモリ領域に、部分和マップを格納させ、
さらに、前記部分和マップを集約する演算デバイスに、前記中間メモリ領域に格納させたすべての部分和マップの和をとって、出力の特徴マップを生成させる、
演算装置。
【請求項5】
請求項4に記載の演算装置であって、
前記演算デバイスは、前記演算領域の数の前記中間メモリ領域を有する、
演算装置。
【請求項6】
演算を行う少なくとも1つの演算領域を有する演算デバイスを少なくとも1つ備え、DNN(Deep Neural Network:深層学習)の演算を、前記演算デバイスを用いて行う演算装置であって、
前記演算装置は、
複数の前記演算領域と、
入力情報を取得すると、前記入力情報から複数の入力の特徴マップを生成し、生成した前記複数の入力の特徴マップを、前記演算デバイスのうちで演算に使用する演算デバイスに送信し、前記複数の前記演算領域を用いて、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行うDNN演算実行部と、を備え、
前記DNN演算実行部は、前記DNNの演算の過程で、
特徴マップを面内で複数に分割し、分割した特徴マップそれぞれを、前記複数の前記演算領域それぞれに割り当てて、層の演算を行う空間分割と、
層の演算に用いる複数の特徴マップそれぞれを分割することなく、前記層の演算に用いる複数の特徴マップを、特徴マップをまとめた組に分けて、分けた前記特徴マップをまとめた組それぞれを、前記複数の前記演算領域のうちで演算に使用する演算領域それぞれに割り当てて、前記層の演算を行うチャンネル分割と、の分割方式を切り替える、
演算装置。
【請求項7】
請求項6に記載の演算装置であって、
前記複数の演算デバイスそれぞれは、さらに演算に使用する演算用メモリ領域を有し、
前記DNN演算実行部は、前記複数の演算デバイスの処理速度と、前記複数の演算デバイスのうちの前記演算デバイスの数と、前記演算領域の数と、前記複数の演算デバイスの演算メモリの容量と、の少なくとも1つに基づいて、前記DNNの演算の有する前記層から選択された層の前で分割方式を前記空間分割から前記チャンネル分割に切り替える、
演算装置。
【請求項8】
請求項6に記載の演算装置であって、
さらに、前記演算デバイスは、中間メモリ領域を有し、
前記DNN演算実行部は、前記複数の演算デバイスのうちで演算に使用する複数の演算デバイスそれぞれが生成した、畳み込みマップを、前記畳み込みマップを集約する演算デバイスの中間メモリ領域に格納させ、前記畳み込みマップを集約する演算デバイスに、前記中間メモリ領域に格納させたすべての畳み込みマップの各要素の和を取って、出力の特徴マップを生成させる、
演算装置。
【請求項9】
請求項8に記載の演算装置であって、
前記演算デバイスは、前記演算領域の数の前記中間メモリ領域を有する、
演算装置。
【請求項10】
請求項6に記載の演算装置であって、
前記DNN演算実行部は、前記複数の演算デバイスのうちで演算に使用する複数の演算デバイスそれぞれに、生成した畳み込みマップの和をとった部分和マップを生成させ、前記部分和マップを集約する演算デバイスの中間メモリ領域に、部分和マップを格納させ、
さらに、前記部分和マップを集約する演算デバイスに、前記中間メモリ領域に格納させたすべての部分和マップの和をとって、出力の特徴マップを生成させる、
演算装置。
(【請求項11】以降は省略されています)
発明の詳細な説明
【技術分野】
【0001】
本発明は、DNN(Deep Neural Network:深層学習)の演算を行う演算装置に関する。
続きを表示(約 2,800 文字)
【背景技術】
【0002】
労働人口や熟練作業者の減少が進んでいるため、物流分野や生産分野において、ロボットやAGV(Automatic Guided Vehicle)にAI(Artificial Intelligence)を用いて、様々な業務を自動化することが促進されている。
【0003】
この様な自動化では、ロボットやAGVが搭載可能なエッジデバイスにより高精度な画像認識AIを動作させることが重要である。ここで、ロボットやAGVは迅速に動くこと可能なことが必須であり、そのために、ロボットやAGVに搭載するAIを高速に演算できることが求められる。
【0004】
高精度な画像認識AIとしてはDNN(Deep Neural Network:深層学習)が知られている。DNNでは、画像から生成した特徴マップに対して畳み込み演算等を繰り返して画像を解析する。この演算の単位を層とよび、層によって演算に用いる特徴マップのサイズや枚数(チャンネル数)が変化する。一般にDNNでは、演算のネットワークの前半では図1Aに例を示す特徴マップ1-1、1-2、1-3の様に、特徴マップはサイズが大きく、チャンネル数は少ない。一方、演算のネットワークの後半では、図1Bに例を示す、特徴マップ2-1、2-2、・・・、2-12の様に、特徴マップはサイズが小さく、チャンネル数は多い。
【0005】
高精度な画像解析には大規模なDNNが必要となる。一般的に、大規模なDNNでは、特徴マップのサイズが大きく、チャンネルの数は多い。これに対して、特に処理能力やメモリ量に制限のあるエッジデバイスで高精度な画像解析を行うために、特徴マップを複数の領域に分割して、それぞれの領域に個別のデバイスを割り当てる方式である分割DNNが知られている。例えば、非特許文献1には、この分割DNNにおいて、主に入力層近くの特徴マップサイズの大きさに注目して、図2Aに示す様な、2次元データである特徴マップそれぞれの面内を複数に分割する方式である空間分割を用いる技術が記載されている。ここで図2Aには、空間分割の例として、特徴マップ1-1、1-2、1-3それぞれを4つの領域に分割して、それぞれの領域を合計4つのエッジデバイス1、2、3、4に割り当てる場合を示している。
【先行技術文献】
【非特許文献】
【0006】
Li Zhou, Hao Wen, Radu Teodorescu and David H.C. Du, et al., "Distributing Deep Neural Networks with Containerized Partitions at the Edge",2nd USENIX Workshop on Hot Topics in Edge Computing, HotEdge(2019). https://www.usenix.org/system/files/hotedge19-paper-zhou.pdf
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、図1Bに示す様にDNN演算のネットワークの後半では特徴マップのサイズは縮小する。このため、空間分割では、DNN演算のネットワークの後半で演算効率が低下してしまうという問題がある。また、大規模なDNNの演算には大きなメモリ量が必要という問題がある。更には、この様な分割DNNでは複数のエッジの演算デバイスを動作させる必要があるため、消費電力が大きくなる場合があるという問題がある。このため、好適にDNNの演算を行うことができる演算装置が求められている。
【0008】
そこで、本発明の目的は、好適にDNNの演算を行うことができる、演算装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
上記目的を達成するため、本発明の演算装置の一態様は、演算を行う少なくとも1つの演算領域を有する演算デバイスを少なくとも1つ備え、DNN(Deep Neural Network:深層学習)の演算を、前記演算デバイスを用いて行う演算装置であって、前記演算デバイスは、中間メモリ領域を有し、前記演算装置は、複数の前記演算領域と、入力情報を取得すると、前記入力情報から複数の入力の特徴マップを生成し、生成した前記複数の入力の特徴マップを、前記演算デバイスのうちで演算に使用する演算デバイスに送信し、前記複数の前記演算領域を用いて、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行うDNN演算実行部と、を備え、前記DNN演算実行部は、少なくとも1つのDNNの分割方式で、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行い、前記DNNの演算を並列で行う際の前記DNNの分割方式には、前記DNNの演算の過程で、層の演算に用いる複数の特徴マップそれぞれを分割することなく、前記層の演算に用いる複数の特徴マップを、特徴マップをまとめた組に分けて、分けた前記特徴マップをまとめた組それぞれに対して前記層の演算を行う、チャンネル分割を少なくとも含み、少なくともチャンネル分割を行う際には、少なくとも1つの前記演算領域が有する前記中間メモリ領域に少なくとも他の1つの前記演算領域が有する特徴マップもしくは特徴マップに演算を行った結果を格納して演算を行う。
【0010】
上記目的を達成するため、本発明の演算装置の一態様は、演算を行う少なくとも1つの演算領域を有する演算デバイスを少なくとも1つ備え、DNN(Deep Neural Network:深層学習)の演算を、前記演算デバイスを用いて行う演算装置であって、前記演算装置は、複数の前記演算領域と、入力情報を取得すると、前記入力情報から複数の入力の特徴マップを生成し、生成した前記複数の入力の特徴マップを、前記演算デバイスのうちで演算に使用する演算デバイスに送信し、前記複数の前記演算領域を用いて、前記複数の入力の特徴マップに対する前記DNNの演算を並列で行うDNN演算実行部と、を備え、前記DNN演算実行部は、前記DNNの演算の過程で、特徴マップを面内で複数に分割し、分割した特徴マップそれぞれを、前記複数の前記演算領域それぞれに割り当てて、層の演算を行う空間分割と、層の演算に用いる複数の特徴マップそれぞれを分割することなく、前記層の演算に用いる複数の特徴マップを、特徴マップをまとめた組に分けて、分けた前記特徴マップをまとめた組それぞれを、前記複数の前記演算領域のうちで演算に使用する演算領域それぞれに割り当てて、前記層の演算を行うチャンネル分割と、の分割方式を切り替える。
(【0011】以降は省略されています)
この特許をJ-PlatPatで参照する
関連特許
株式会社日立製作所
電力変換装置
3日前
株式会社日立製作所
制御装置、及び情報提示方法
3日前
株式会社日立製作所
管理装置、及び物流情報管理方法
3日前
株式会社日立製作所
データを処理するシステムおよび方法
2日前
株式会社日立製作所
学習装置、学習方法、および学習プログラム
3日前
株式会社日立製作所
計算機システム、保全判断支援方法、及びシステム
3日前
株式会社日立製作所
類似治験検索支援システム及び類似治験検索支援方法
3日前
株式会社日立製作所
グラフにおけるパスをトレースするための方法、システム、およびソフトウェア
5日前
個人
情報検索装置
1か月前
個人
ノートPC寝台
1か月前
個人
ドットパターン
1か月前
個人
防災情報システム
9日前
個人
電子文書の閲覧用電子機器
1か月前
個人
家計支援システム2
1か月前
個人
介護者指名システム
3日前
個人
モノ造りプロトコルレイヤー
1か月前
コクヨ株式会社
収納ケース
1か月前
有限会社マイコム
制御盤のAI見積
16日前
キヤノン電子株式会社
携帯情報端末
1か月前
個人
生活困窮者相談業務支援システム
27日前
エムケー精工株式会社
洗車場システム
5日前
株式会社Haul
採用支援方法
4日前
中国電力株式会社
販売支援方法
25日前
キヤノン株式会社
情報処理装置
18日前
個人
施術スタッフ育成システム
2か月前
個人
施解錠制御システム
1か月前
大和製衡株式会社
組合せ計数装置
1か月前
株式会社アジラ
行動推定システム
1か月前
トヨタ自動車株式会社
表認識方法
10日前
個人
災害情報表示システム
13日前
株式会社にしがき
会員権システム
10日前
株式会社Asuka
本人認証方法
6日前
トヨタ自動車株式会社
画像処理装置
9日前
トヨタ自動車株式会社
画像処理装置
26日前
トヨタ自動車株式会社
画像処理装置
1か月前
ブラザー工業株式会社
印刷制御装置
1か月前
続きを見る
他の特許を見る