特許ウォッチ

公開番号2025064690
公報種別公開特許公報(A)
公開日2025-04-17
出願番号2023174626
出願日2023-10-06
発明の名称推論装置及び方法、情報処理装置及び方法、プログラム及び記憶媒体
出願人キヤノン株式会社
代理人弁理士法人大塚国際特許事務所
主分類G06N 3/0464 20230101AFI20250410BHJP(計算;計数)
要約【課題】推論処理における畳み込み演算の処理量を削減すること。
【解決手段】入力データに対し、フィルタを用いて畳み込み演算処理を行う演算手段と、前記演算手段により同一層の処理に用いられる複数のフィルタのうち、互いに類似する類似フィルタを判定する判定手段と、を有し、前記演算手段は、前記判定手段により判定された類似フィルタの代表フィルタを用いた演算結果を、前記類似フィルタそれぞれを用いた演算結果として使用する。
【選択図】図3
特許請求の範囲【請求項１】
入力データに対し、フィルタを用いて畳み込み演算処理を行う演算手段と、
前記演算手段により同一層の処理に用いられる複数のフィルタのうち、互いに類似する類似フィルタを判定する判定手段と、を有し、
前記演算手段は、前記判定手段により判定された類似フィルタの代表フィルタを用いた演算結果を、前記類似フィルタそれぞれを用いた演算結果として使用することを特徴とする推論装置。
続きを表示（約 1,300 文字）【請求項２】
前記演算手段による畳み込み演算処理の演算結果を保持する保持手段を更に有し、
前記代表フィルタは、前記類似フィルタのうち、先に畳み込み演算処理に用いられた類似フィルタであって、前記演算手段は、前記保持手段に保持された前記代表フィルタの演算結果を、後に畳み込み演算処理に用いられた類似フィルタの演算結果として使用することを特徴とする請求項１に記載の推論装置。
【請求項３】
前記代表フィルタは、前記類似フィルタの平均値、または中央値を示すフィルタであることを特徴とする請求項１に記載の推論装置。
【請求項４】
前記複数のフィルタの数と、予め決められた第１の閾値とを比較する比較手段を更に有し、
前記フィルタの数が、前記第１の閾値より少ない場合、前記判定手段は類似フィルタの判定を行わないことを特徴とする請求項１に記載の推論装置。
【請求項５】
前記判定手段は、前記複数のフィルタのうち、第１のフィルタと前記第１のフィルタと異なる第２のフィルタとの間で、各フィルタを構成する要素それぞれの差が、全て予め決められた第２の閾値よりも小さい場合に、前記第１のフィルタと前記第２のフィルタが前記類似フィルタであると判定することを特徴とする請求項１に記載の推論装置。
【請求項６】
前記判定手段は、前記複数のフィルタのうち、第１のフィルタと前記第１のフィルタと異なる第２のフィルタとの間で、各フィルタを構成する要素それぞれの比率が、全て予め決められた第２の閾値よりも小さい場合に、前記第１のフィルタと前記第２のフィルタが前記類似フィルタであると判定することを特徴とする請求項１に記載の推論装置。
【請求項７】
前記入力データが複数のチャネルからなる場合、前記演算手段は前記複数のチャネルに対してそれぞれ用いる複数のフィルタからなるフィルタ群を用いて、チャネルごとに畳み込み演算処理を行い、
前記判定手段は、前記フィルタ群ごとに、類似フィルタを判定する
ことを特徴とする請求項１に記載の推論装置。
【請求項８】
前記入力データのチャネル数が予め決められた閾値より多い場合に、前記演算手段は、類似フィルタの判定を行わないことを特徴とする請求項７に記載の推論装置。
【請求項９】
類似フィルタの判定の結果を示す情報を外部装置から取得する取得手段と、
前記取得手段により取得した前記情報を記憶する記憶手段と、を更に有し、
前記判定手段は、前記記憶手段に記憶された前記情報を用いて、類似フィルタを判定することを特徴とする請求項１に記載の推論装置。
【請求項１０】
前記判定手段による前記判定の結果に応じて、前記類似フィルタが続くように前記複数のフィルタを並び替える変更手段を更に有し、
前記演算手段は、前記変更手段により前記並び替えられた複数のフィルタを順に用いて前記畳み込み演算処理を行うことを特徴とする請求項２に記載の推論装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、推論装置及び方法、情報処理装置及び方法、プログラム及び記憶媒体に関し、特に機械学習における演算処理とデータの加工方法に関する。
続きを表示（約 1,300 文字）【背景技術】
【０００２】
ニューラルネットワークを用いたディープラーニング技術は幅広い技術分野で応用されており、画像を認識して分類する、クラス分類にも用いられている。
【０００３】
中でも特に広く利用されている畳み込みニューラルネットワーク（ＣＮＮ：Convolutional Neural Network）は、画像に対して畳み込み演算を再帰的に掛けることで、高精度なディープラーニング処理を実現している。
【０００４】
また、近年では、ＣＮＮを用いたディープラーニング処理をエッジデバイスで実現することで、リアルタイムにディープラーニング処理を行う事例が増えており、ＡＩＣｈｉｐやＩＰ（Intellectual Property）等の形態でＣＮＮに特化したハードウェア（以下、「ＣＮＮ演算器」と呼ぶ。）が普及し始めている。ただし、ＣＮＮ演算器は、その処理のほとんどが積和演算処理であり、限られた積和演算回路を用いて大量のフィルタ演算を行う。しかしながら、積和演算回路は、例えばＧＰＵ（Graphics Processing Unit）を積んだＰＣ（Personal Computer）環境でのディープラーニング処理と比べて、処理時間が長くかかるため、限られた演算回路の中で積和演算処理を省略することが求められている。
【０００５】
特許文献１では、入力データの統計的特性と、訓練データの統計的特性の差に基づいて学習可否を判断し、学習開始となった場合に、レイヤ間の類似度が高いフィルタの集合を決定して、当該類似度が高いフィルタを更新する方法が開示されている（特許文献１）。
【先行技術文献】
【特許文献】
【０００６】
特開２０１９－７５１２１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、特許文献１では、学習により類似したフィルタを更新する学習方法については開示されているが、類似したフィルタがある場合に推論処理を高速化することについての記載はされていない。
【０００８】
本発明は上記問題点を鑑みてなされたものであり、推論処理における畳み込み演算の処理量を削減することを目的とする。
【課題を解決するための手段】
【０００９】
上記目的を達成するために、本発明の推論装置は、入力データに対し、フィルタを用いて畳み込み演算処理を行う演算手段と、前記演算手段により同一層の処理に用いられる複数のフィルタのうち、互いに類似する類似フィルタを判定する判定手段と、を有し、前記演算手段は、前記判定手段により判定された類似フィルタの代表フィルタを用いた演算結果を、前記類似フィルタそれぞれを用いた演算結果として使用する。
【発明の効果】
【００１０】
本発明によれば、推論処理における畳み込み演算の処理量を削減することが可能となる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許