特許ウォッチ

公開番号2023078766
公報種別公開特許公報(A)
公開日2023-06-07
出願番号2021192037
出願日2021-11-26
発明の名称機械学習モデルを用いてクラス分類処理を実行する方法、情報処理装置、及び、コンピュータープログラム
出願人セイコーエプソン株式会社
代理人弁理士法人明成国際特許事務所
主分類G06T 7/00 20170101AFI20230531BHJP(計算;計数)
要約【課題】高精度なクラス分類処理を実行できる技術を提供する。
【解決手段】本開示の方法は、(a)1つの対象物からN個の入力データを作成する工程と、(b)機械学習モデルに入力データを入力して、M個の分類出力値と1つの判別クラスと特徴スペクトルとを求める工程と、(c)既知特徴スペクトル群と入力データに対する特徴スペクトルとの間の類似度を求めるとともに、判別クラスに対する信頼度を類似度の関数として求める工程と、(d)判別クラスに対する信頼度に応じて判別クラスへの投票を実行し、投票の結果に応じて対象物のクラス判別結果を決定する工程と、を含む。
【選択図】図8
特許請求の範囲【請求項１】
Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理を実行する方法であって、
（ａ）Ｎを２以上の整数としたとき、１つの対象物からＮ個の入力データを作成する工程と、
（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める工程と、
（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める工程と、
（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する工程と、
を含む、方法。
続きを表示（約 2,500 文字）【請求項２】
請求項１に記載の方法であって、
前記工程（ｃ）は、
（１）前記類似度を前記信頼度とする工程と、
（２）前記類似度と、前記判別クラスに対する前記分類出力値と、ゼロでない正の係数と、を乗算することによって前記信頼度を求める工程と、
（３）前記類似度と、前記判別クラスに対する前記分類出力値と、を重み付き加算することによって前記信頼度を求める工程と、
のいずれかを含む、方法。
【請求項３】
請求項１又は２に記載の方法であって、
前記工程（ｄ）は、
（ｄ１）前記Ｎ個の入力データのそれぞれに関して、前記信頼度が信頼度閾値以上の場合には前記判別クラスに対する投票数に１を加算し、前記信頼度が前記信頼度閾値未満の場合には投票を無効とする工程と、
（ｄ２）前記Ｍ個のクラスのうちで前記Ｎ個の入力データに応じた前記投票数が最も多いクラスを前記クラス判別結果として決定する工程と、
を含む、方法。
【請求項４】
請求項３に記載の方法であって、
前記工程（ｄ２）は、最多の前記投票数が投票数閾値未満の場合に、前記対象物のクラスを未知とする工程を含む、方法。
【請求項５】
請求項１又は２に記載の方法であって、
前記工程（ｄ）は、
（ｄ１）前記Ｎ個の入力データのそれぞれに関して、前記信頼度が信頼度閾値以上の場合には前記判別クラスに対する投票値として前記信頼度を加算する工程と、
（ｄ２）前記信頼度が前記信頼度閾値未満の場合には投票を無効とするとともに、前記Ｍ個のクラスのうちで前記Ｎ個の入力データに応じた前記投票値が最も高いクラスを前記クラス判別結果として決定する工程と、
を含む、方法。
【請求項６】
請求項５に記載の方法であって、
前記工程（ｄ２）は、最大の前記投票値が投票値閾値未満の場合に、前記対象物のクラスを未知とする工程を含む、方法。
【請求項７】
請求項１～６のいずれか一項に記載の方法であって、
前記特定層は、第１軸と第２軸の２つの軸で規定された平面に配置されたベクトルニューロンが、前記２つの軸とは異なる方向の第３軸に沿って複数のチャンネルとして配置されている構成を有し、
前記特徴スペクトルは、
（ｉ）前記特定層のうちの１つの平面位置におけるベクトルニューロンの出力ベクトルの複数の要素値を、前記第３軸に沿った前記複数のチャンネルにわたって配列した第１種の特徴スペクトルと、
（ｉｉ）前記第１種の特徴スペクトルの各要素値に、前記出力ベクトルのベクトル長に相当するアクティベーション値を乗じることによって得られる第２種の特徴スペクトルと、
（ｉｉｉ）前記特定層のうちの１つの平面位置における前記アクティベーション値を、前記第３軸に沿った前記複数のチャンネルにわたって配列した第３種の特徴スペクトルと、
のうちのいずれかである、方法。
【請求項８】
Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理を実行する情報処理装置であって、
前記機械学習モデルを記憶するメモリーと、
前記機械学習モデルを用いた演算を実行するプロセッサーと、
を備え、
前記プロセッサーは、
（ａ）Ｎを２以上の整数としたとき、１つの対象物から作成されたＮ個の入力データを前記メモリーから読み出す処理と、
（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める処理と、
（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める処理と、
（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する処理と、
を実行する、情報処理装置。
【請求項９】
Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理をプロセッサーに実行させるコンピュータープログラムであって、
前記コンピュータープログラムは、
（ａ）Ｎを２以上の整数としたとき、１つの対象物から作成されたＮ個の入力データをメモリーから読み出す処理と、
（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める処理と、
（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める処理と、
（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する処理と、
を前記プロセッサーに実行させる、コンピュータープログラム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、機械学習モデルを用いてクラス分類処理を実行する方法、情報処理装置、及び、コンピュータープログラムに関する。
続きを表示（約 3,300 文字）【背景技術】
【０００２】
特許文献１，２には、ベクトルニューロンを用いるベクトルニューラルネットワーク型の機械学習モデルとして、カプセルネットワークと呼ばれるものが開示されている。ベクトルニューロンとは、入出力がベクトルであるニューロンを意味する。カプセルネットワークは、カプセルと呼ばれるベクトルニューロンをネットワークのノードとする機械学習モデルである。カプセルネットワークなどのベクトルニューラルネットワーク型の機械学習モデルは、入力データのクラス分類に利用することができる。
【先行技術文献】
【特許文献】
【０００３】
米国特許第５２１０７９８号公報
国際公開２０１９／０８３５５３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来技術では、未知と判別されるべき入力データに関するクラス分類結果が既知クラスと誤判定される場合があるため、クラス分類処理の精度を高めたいという要望があった。
【課題を解決するための手段】
【０００５】
本開示の第１の形態によれば、Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理を実行する方法が提供される。この方法は、（ａ）Ｎを２以上の整数としたとき、１つの対象物からＮ個の入力データを作成する工程と、（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める工程と、（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める工程と、（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する工程と、を含む。
【０００６】
本開示の第２の形態によれば、Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理を実行する情報処理装置が提供される。この情報処理装置は、前記機械学習モデルを記憶するメモリーと、前記機械学習モデルを用いた演算を実行するプロセッサーと、を備える。前記プロセッサーは、（ａ）Ｎを２以上の整数としたとき、１つの対象物から作成されたＮ個の入力データを前記メモリーから読み出す処理と、（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める処理と、（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める処理と、（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する処理と、を実行する。
【０００７】
本開示の第３の形態によれば、Ｍを２以上の整数としたとき、複数のベクトルニューロン層を有するベクトルニューラルネットワークを含む機械学習モデルを用いてＭ個のクラスに関するクラス分類処理をプロセッサーに実行させるコンピュータープログラムが提供される。このコンピュータープログラムは、（ａ）Ｎを２以上の整数としたとき、１つの対象物から作成されたＮ個の入力データをメモリーから読み出す処理と、（ｂ）前記機械学習モデルに前記Ｎ個の入力データをそれぞれ入力して、前記機械学習モデルの出力層から出力されるＭ個の分類出力値と、１つの判別クラスと、前記機械学習モデルの特定層の出力から得られる特徴スペクトルと、を前記Ｎ個の入力データについてそれぞれ求める処理と、（ｃ）前記機械学習モデルに複数の教師データが入力されたときに前記特定層の出力から得られた既知特徴スペクトル群と、前記Ｎ個の入力データに対する前記特徴スペクトルのそれぞれとの間の類似度を求めるとともに、前記Ｎ個の入力データのそれぞれに対して、前記判別クラスに対する信頼度を前記類似度の関数として求める処理と、（ｄ）前記Ｎ個の入力データのそれぞれに関して、前記判別クラスに対する前記信頼度に応じて前記判別クラスへの投票を実行し、前記投票の結果に応じて前記対象物のクラス判別結果を決定する処理と、を前記プロセッサーに実行させる。
【図面の簡単な説明】
【０００８】
第１実施形態におけるクラス分類システムを示すブロック図。
機械学習モデルの構成例を示す説明図。
実施形態における準備工程の処理手順を示すフローチャート。
サンプル画像からパッチ画像を作成する様子を示す説明図。
特徴スペクトルを示す説明図。
既知特徴スペクトル群の構成を示す説明図。
第１実施形態におけるクラス分類工程の処理手順を示すフローチャート。
第１実施形態におけるクラス分類処理装置の機能ブロック図。
第１実施形態と比較例の投票数を示す説明図。
第２実施形態におけるクラス分類処理装置の機能ブロック図。
第３実施形態におけるクラス分類工程の処理手順を示すフローチャート。
第３実施形態におけるクラス分類処理装置の機能ブロック図。
類似度の第１の演算方法を示す説明図。
類似度の第２の演算方法を示す説明図。
類似度の第３と第４の演算方法を示す説明図。
【発明を実施するための形態】
【０００９】
Ａ．第１実施形態：
図１は、第１実施形態におけるクラス分類システムを示すブロック図である。このクラス分類システムは、情報処理装置１００と、カメラ４００とを備える。カメラ４００は、対象物ＯＢの画像を撮影するためのものである。カメラ４００としては、カラー画像を撮影するカメラを用いても良く、或いは、モノクロ画像や分光画像を撮影するカメラを用いても良い。本実施形態では、カメラ４００で撮影された画像を教師データや入力データとして使用するが、画像以外のデータを教師データや入力データとして使用してもよい。この場合には、カメラ４００の代わりに、データの種類に応じた入力データ取得装置が使用される。
【００１０】
情報処理装置１００は、プロセッサー１１０と、メモリー１２０と、インターフェイス回路１３０と、インターフェイス回路１３０に接続された入力デバイス１４０及び表示デバイス１５０と、を有している。インターフェイス回路１３０には、カメラ４００も接続されている。限定されないが例えば、プロセッサー１１０は、以下で詳述される処理を実行する機能を有するだけでなく、表示デバイス１５０に、当該処理によって得られるデータ、および当該処理の過程で生成されるデータを表示する機能も有する。
（【００１１】以降は省略されています）

関連特許