特許ウォッチ

公開番号2025089119
公報種別公開特許公報(A)
公開日2025-06-12
出願番号2023204128
出願日2023-12-01
発明の名称処理装置
出願人キヤノン株式会社
代理人弁理士法人大塚国際特許事務所
主分類G06F 17/10 20060101AFI20250605BHJP(計算;計数)
要約【課題】ニューラルネットワーク処理において、畳み込み処理及びプーリング処理を行う回路規模の増加を抑えながら、これらの処理を効率的に行う。
【解決手段】複数のデータのうちの各データと対応する係数との乗算結果を順次出力する乗算回路と、メモリと、乗算回路が出力した乗算結果とメモリが保持しているデータとを加算し、加算結果を出力する加算回路と、乗算回路が出力した乗算結果とメモリが保持しているデータとを比較し、乗算回路が出力した乗算結果とメモリが保持しているデータとの一方を出力する比較回路と、加算回路の出力と比較回路の出力とのうちの一方をメモリが保持するようにメモリに出力する選択回路と、を備える。
【選択図】図5
特許請求の範囲【請求項１】
複数のデータのうちの各データと対応する係数との乗算結果を順次出力する乗算回路と、
メモリと、
前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとを加算し、加算結果を出力する加算回路と、
前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとを比較し、前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとの一方を出力する比較回路と、
前記加算回路の出力と前記比較回路の出力とのうちの一方を前記メモリが保持するように前記メモリに出力する選択回路と、
を備えることを特徴とする処理装置。
続きを表示（約 1,400 文字）【請求項２】
前記選択回路は、前記複数のデータのそれぞれについて、前記加算回路の出力と前記比較回路の出力とのうちの一方を前記メモリに出力する動作を繰り返し、
前記選択回路が前記複数のデータのそれぞれについて前記出力する動作を繰り返した後に、前記メモリが保持しているデータが、前記複数のデータに対する処理結果として出力されることを特徴とする、請求項１に記載の処理装置。
【請求項３】
前記メモリが保持しているデータに対して活性化処理を行う活性化処理回路をさらに備えることを特徴とする、請求項１に記載の処理装置。
【請求項４】
前記処理装置は、画像に対する畳み込み処理及びプーリング処理を行うことができ、
前記乗算回路は、前記画像上に設定された、前記畳み込み処理又は前記プーリング処理のウインドウに含まれる複数のデータのうちの各データと対応する係数との乗算結果を順次出力し、
前記選択回路は、前記複数のデータのそれぞれについて、前記加算回路の出力と前記比較回路の出力とのうちの一方を前記メモリに出力する動作を繰り返し、
前記メモリは、前記選択回路が前記複数のデータのそれぞれについて前記出力する動作を繰り返した後に、前記メモリが保持しているデータを、前記ウインドウについての畳み込み処理の結果又は前記プーリング処理のためのフィルタ処理の結果として出力する
ことを特徴とする、請求項１に記載の処理装置。
【請求項５】
前記処理装置は、２種類以上のプーリング処理を行うことができることを特徴とする、請求項４に記載の処理装置。
【請求項６】
前記メモリから出力されるデータは、前記画像に対する前記畳み込み処理又は前記フィルタ処理の結果を示す画像の画素データに対応し、
所定のストライドに従って画像が縮小されるように、前記メモリから出力されるデータのうちの一部を抽出するストライド処理を行うストライド処理回路をさらに備えることを特徴とする、請求項４に記載の処理装置。
【請求項７】
前記ストライドを変更可能であることを特徴とする、請求項６に記載の処理装置。
【請求項８】
前記プーリング処理を行う場合における、前記ウインドウのサイズは１×１より大きく、前記ストライドは１より大きいことを特徴とする、請求項６に記載の処理装置。
【請求項９】
前記処理装置は、ニューラルネットワークにおける処理を行い、
前記ストライドは、前記ニューラルネットワークの階層ごとに設定されることを特徴とする、請求項６に記載の処理装置。
【請求項１０】
制御手段をさらに備え、
前記制御手段は、ストライドが１となるように前記画像上に設定された複数のウインドウのそれぞれについて、前記畳み込み処理の結果又は前記プーリング処理のためのフィルタ処理の結果を出力するように、前記乗算回路及び前記選択回路を制御し、
前記制御手段は、前記畳み込み処理を行う指示に応じて、前記ストライド処理の前記ストライドを１に設定し、
前記制御手段は、前記プーリング処理を行う指示に応じて、前記ストライド処理の前記ストライドを２以上に設定する
ことを特徴とする、請求項６に記載の処理装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は処理装置に関し、特にニューラルネットワーク処理に関する。
続きを表示（約 1,700 文字）【背景技術】
【０００２】
畳み込みニューラルネットワーク（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋｓ，ＣＮＮ）を含むニューラルネットワークが、深層学習に用いられている。ニューラルネットワークにおける処理は、畳み込み演算及びプーリング処理を含むことが多い。
【０００３】
ニューラルネットワークにおける処理を効率的に行うことにより、全体的な処理時間を短縮することが求められている。特に、ＣＮＮを用いた処理では多くの演算が行われるため、演算の効率化により処理時間を効果的に短縮できることが期待される。特に、ニューラルネットワークを携帯端末又は車載機器等の組み込みシステムに適用する場合には、演算の効率化が強く求められる。このような目的のために、畳み込み処理及びプーリング処理を効率化することが検討されている。
【０００４】
例えば、特許文献１及び特許文献２は、専用ハードウェア又は専用回路を利用することにより、畳み込み処理及びプーリング処理を効率的に行う構成を提案している。特許文献１の手法においては、行列演算ユニットが畳み込み処理を行う。また、ベクトル計算ユニットが指定されたストライドに従うプーリング処理を行う。また、特許文献２の手法においては、行列演算装置が畳み込み処理を行う。また、畳み込み処理の出力を整列するアライナと、プーリング演算を適用するプーラとを有するプーリングユニットが、指定されたストライドに従うプーリング処理を行う。
【先行技術文献】
【特許文献】
【０００５】
特開２０２０－１７２８１号
特表２０２１－５０９７４７号
【発明の概要】
【発明が解決しようとする課題】
【０００６】
特徴文献１及び特徴文献２に記載の手法は、畳み込み処理を行う専用回路及びプーリング処理を行う専用回路を含む２種類の専用回路を必要とする。一方で、プーリング処理を行う回路は畳み込み処理を行う回路と構成が異なるため、回路規模を増やす必要がある。このため、特徴文献１及び特徴文献２に記載の手法は、処理に用いられるハードウェアの回路規模が大きいという課題を有していた。
【０００７】
本発明は、ニューラルネットワーク処理において、畳み込み処理及びプーリング処理を行う回路規模の増加を抑えながら、これらの処理を効率的に行うことを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一実施形態に係る処理装置は以下の構成を備える。すなわち、複数のデータのうちの各データと対応する係数との乗算結果を順次出力する乗算回路と、メモリと、前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとを加算し、加算結果を出力する加算回路と、前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとを比較し、前記乗算回路が出力した乗算結果と前記メモリが保持しているデータとの一方を出力する比較回路と、前記加算回路の出力と前記比較回路の出力とのうちの一方を前記メモリが保持するように前記メモリに出力する選択回路と、を備える。
【発明の効果】
【０００９】
ニューラルネットワーク処理において、畳み込み処理及びプーリング処理を行う回路規模の増加を抑えながら、これらの処理を効率的に行うことができる。
【図面の簡単な説明】
【００１０】
一実施形態に係るニューラルネットワークにおける処理のフローチャート。
ニューラルネットワークの構造例を示す図。
一実施形態に係る情報処理装置のハードウェア構成例を示すブロック図。
一実施形態に係る畳み込み処理部の構成例を示すブロック図。
一実施形態に係る加算・比較処理部の構成例を示すブロック図。
ニューラルネットワークと畳み込み処理との関係を示す図。
ピーク検出処理の例を示す図。
一実施形態に係る後処理のフローチャート。
後処理のためのネットワークの構造例を示す図。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許