特許ウォッチ

公開番号2025087005
公報種別公開特許公報(A)
公開日2025-06-10
出願番号2023201348
出願日2023-11-29
発明の名称推論装置および推論方法
出願人日本電気株式会社
代理人個人,個人
主分類G06N 5/04 20230101AFI20250603BHJP(計算;計数)
要約【課題】計算量を削減することができる推論装置を提供する。
【解決手段】解像度予測手段は、一定の解像度のデータを入力として、複数の層を含む第1のモデルを用いて、複数の解像度の候補のうち、データのラベルを所定の精度で推論できる最小の解像度を予測する。解像度変換手段は、そのデータの解像度を、予測された解像度に変換する。推論手段は、解像度が変換されたデータを入力として、複数の層を含む第2のモデルを用いて、データのラベルを推論する。このとき、推論手段は、第1のモデルの所定の層から出力された活性値の一部を用いて、データのラベルを推論する。
【選択図】図12
特許請求の範囲【請求項１】
一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、前記データのラベルを所定の精度で推論できる最小の解像度を予測する解像度予測手段と、
前記データの解像度を、予測された解像度に変換する解像度変換手段と、
解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、前記データのラベルを推論する推論手段とを備え、
前記推論手段は、前記第１のモデルの所定の層から出力された活性値の一部を用いて、前記データのラベルを推論する
ことを特徴とする推論装置。
続きを表示（約 1,500 文字）【請求項２】
予測された解像度に応じて、前記活性値の一部のサイズを変換する活性値サイズ変換手段を備え、
前記推論手段は、
前記所定の層に対応する前記第２のモデル内の層から出力された活性値と、サイズが変更された前記活性値の一部とをチャネル方向に結合し、結合結果を前記第２のモデル内の次の層に入力する
請求項１に記載の推論装置。
【請求項３】
前記活性値の一部のサイズを、前記複数の解像度の候補のうち最も小さい解像度に応じて、一定のサイズに変換する活性値サイズ変換手段と、
サイズが変換された前記活性値の一部と結合可能な活性値が出力される前記第２のモデル内の層を特定する層特定手段とを備え、
前記推論手段は、
特定された層から出力された活性値と、サイズが変換された前記活性値の一部とをチャネル方向に結合し、結合結果を前記第２のモデル内の次の層に入力する
請求項１に記載の推論装置。
【請求項４】
前記第１のモデルは、先頭の層から所定の層までの重みを、前記第２のモデルの先頭の層から所定の層までの重みと共通の重みとした状態を初期状態として、学習されたモデルである
請求項１から請求項３のうちのいずれか１項に記載の推論装置。
【請求項５】
コンピュータが、
一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、前記データのラベルを所定の精度で推論できる最小の解像度を予測し、
前記データの解像度を、予測された解像度に変換し、
解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、前記データのラベルを推論し、
前記データのラベルを推論するときに、前記第１のモデルの所定の層から出力された活性値の一部を用いる
ことを特徴とする推論方法。
【請求項６】
前記コンピュータが、
予測された解像度に応じて、前記活性値の一部のサイズを変換し、
前記所定の層に対応する前記第２のモデル内の層から出力された活性値と、サイズが変更された前記活性値の一部とをチャネル方向に結合し、結合結果を前記第２のモデル内の次の層に入力する
請求項５に記載の推論方法。
【請求項７】
前記コンピュータが、
前記活性値の一部のサイズを、前記複数の解像度の候補のうち最も小さい解像度に応じて、一定のサイズに変換し、
サイズが変換された前記活性値の一部と結合可能な活性値が出力される前記第２のモデル内の層を特定し、
特定された層から出力された活性値と、サイズが変換された前記活性値の一部とをチャネル方向に結合し、結合結果を前記第２のモデル内の次の層に入力する
請求項５に記載の推論方法。
【請求項８】
コンピュータに、
一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、前記データのラベルを所定の精度で推論できる最小の解像度を予測する解像度予測処理、
前記データの解像度を、予測された解像度に変換する解像度変換処理、および、
解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、前記データのラベルを推論する推論処理を実行させ、
前記推論処理で、前記第１のモデルの所定の層から出力された活性値の一部を用いて、前記データのラベルを推論させる
ための推論プログラム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、推論装置、推論方法および推論プログラムに関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
ニューラルネットワークモデルを用いて、画像に写っている物体を推論する場合、画像の解像度（画像の大きさ）を小さくすることで、推論時間を短縮することができる。一方、画像の解像度を小さくすると、推論精度が低下する場合がある。
【０００３】
非特許文献１には、与えられた画像に関して、推論精度を低下させない最小の解像度を予測し、与えられた画像の解像度を予測された解像度に変換し、解像度が変換された画像に写っている物体を推論する技術が記載されている。
【先行技術文献】
【非特許文献】
【０００４】
Mingjian Zhu et al.,“Dynamic Resolution Network”，［２０２３年１０月２３日検索］、インターネット<URL : https://arxiv.org/pdf/2106.02898.pdf>
【発明の概要】
【発明が解決しようとする課題】
【０００５】
非特許文献１に記載された技術では、与えられた画像に関して、解像度を予測するための計算量が必要になる。そのため、推論結果を得るまでに時間がかかってしまう場合があった。
【０００６】
また、与えられたデータが、信号データ等の１次元データである場合にも、データのラベルの推論に要する時間を削減できることが好ましい。
【０００７】
そこで、本発明は、与えられたデータに関して、解像度を予測し、与えられたデータの解像度を予測された解像度に変換し、解像度が変換されたデータのラベルを推論する場合における計算量を削減することができる推論装置、推論方法および推論プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
本開示に係る推論装置は、一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、データのラベルを所定の精度で推論できる最小の解像度を予測する解像度予測手段と、そのデータの解像度を、予測された解像度に変換する解像度変換手段と、解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、データのラベルを推論する推論手段とを備え、推論手段が、第１のモデルの所定の層から出力された活性値の一部を用いて、データのラベルを推論することを特徴とする。
【０００９】
本開示に係る推論方法は、コンピュータが、一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、データのラベルを所定の精度で推論できる最小の解像度を予測し、そのデータの解像度を、予測された解像度に変換し、解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、データのラベルを推論し、データのラベルを推論するときに、第１のモデルの所定の層から出力された活性値の一部を用いることを特徴とする。
【００１０】
本開示に係る推論プログラムは、コンピュータに、一定の解像度のデータを入力として、複数の層を含む第１のモデルを用いて、複数の解像度の候補のうち、データのラベルを所定の精度で推論できる最小の解像度を予測する解像度予測処理、そのデータの解像度を、予測された解像度に変換する解像度変換処理、および、解像度が変換されたデータを入力として、複数の層を含む第２のモデルを用いて、データのラベルを推論する推論処理を実行させ、推論処理で、第１のモデルの所定の層から出力された活性値の一部を用いて、データのラベルを推論させる。
【発明の効果】
（【００１１】以降は省略されています）

関連特許