特許ウォッチ

公開番号2024080386
公報種別公開特許公報(A)
公開日2024-06-13
出願番号2022193533
出願日2022-12-02
発明の名称頑健性測定装置、頑健性測定方法、およびプログラム
出願人株式会社東芝,東芝デジタルソリューションズ株式会社
代理人弁理士法人志賀国際特許事務所
主分類G06T 7/00 20170101AFI20240606BHJP(計算;計数)
要約【課題】教師ありまたは教師なしに関わらず、機械学習モデルの頑健性を簡易的且つ高精度に測定可能にすること。
【解決手段】実施形態の頑健性測定装置は、取得部と、推論結果群生成部と、頑健性測定部とを持つ。取得部は、入力画像を取得する。ノイズ付与部は、入力画像に対してノイズを付与することにより少なくとも1つのノイズ付与画像を生成する。推論結果群生成部は、入力画像およびノイズ付与画像の少なくとも1つに対する推論結果のうち、相互に関連付けられる推論結果をグループ化した推論結果群を生成する。頑健性測定部は、推論結果群に基づいて、検査対象モデルの頑健性を測定する。
【選択図】図1
特許請求の範囲【請求項１】
入力画像を取得する取得部と、
前記入力画像に対してノイズを付与することにより少なくとも１つのノイズ付与画像を生成するノイズ付与部と、
前記入力画像および前記ノイズ付与画像の少なくとも１つに対する推論結果のうち、相互に関連付けられる前記推論結果をグループ化した推論結果群を生成する推論結果群生成部と、
前記推論結果群に基づいて、検査対象モデルの頑健性を測定する頑健性測定部と、
を備える、頑健性測定装置。
続きを表示（約 1,200 文字）【請求項２】
前記推論結果は、前記入力画像および前記ノイズ付与画像の少なくとも１つにおける物体検出結果であり、
前記推論結果群は、前記物体検出結果の物体領域候補群である、
請求項１に記載の頑健性測定装置。
【請求項３】
前記入力画像および前記ノイズ付与画像の少なくとも１つを、前記検査対象モデルに入力する画像入力部と、
前記物体検出結果として、前記入力画像および前記ノイズ付与画像の少なくとも１つが入力されたときの前記検査対象モデルの出力結果を取得する物体検出結果取得部と、
をさらに備える、
請求項２に記載の頑健性測定装置。
【請求項４】
前記頑健性測定部は、前記物体領域候補群に含まれる前記物体検出結果に対して統計処理を行うことによって、前記検査対象モデルの頑健性を測定する、
請求項２または３に記載の頑健性測定装置。
【請求項５】
前記頑健性測定部は、前記入力画像および前記ノイズ付与画像ごとの前記物体検出結果同士を比較し、重複比率が最大となる前記物体検出結果同士を、同一物体を示す前記物体領域候補群としてグループ化する、
請求項２または３に記載の頑健性測定装置。
【請求項６】
前記頑健性測定部は、前記統計処理として、前記物体領域候補群に含まれる前記物体検出結果の各々により示される物体の座標の分散、最大値、平均値、および中央値の少なくとも１つを算出する、
請求項４に記載の頑健性測定装置。
【請求項７】
前記頑健性測定部は、前記物体検出結果に含まれる前記物体を識別するラベルの分散を算出し、前記物体の座標の頑健性と、前記ラベルによるクラス識別の頑健性とを算出する、
請求項６に記載の頑健性測定装置。
【請求項８】
前記頑健性測定部は、同一物体を示す前記物体領域候補群において、他の物体検出結果と重複しない物体検出結果に付与された未検出ラベルに基づいて前記物体領域候補群内における検出率を算出し、算出した前記検出率に基づいて過検出指標を算出する、
請求項２または３に記載の頑健性測定装置。
【請求項９】
ノイズ条件ごとの重要性を示すノイズ重みを設定するノイズ重み設定部をさらに備え、
前記頑健性測定部は、設定された前記ノイズ重みに基づいて、前記頑健性を測定する、
請求項１から３のいずれか一項に記載の頑健性測定装置。
【請求項１０】
前記取得部は、さらに、前記物体検出結果の正解値を取得し、
前記推論結果群生成部は、前記入力画像および前記ノイズ付与画像ごとの前記物体検出結果および前記正解値に基づいて、前記物体領域候補群を生成する、
請求項２または３に記載の頑健性測定装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明の実施形態は、頑健性測定装置、頑健性測定方法、およびプログラムに関する。
続きを表示（約 2,100 文字）【背景技術】
【０００２】
従来、機械学習（Artificial Intelligence：ＡＩ）技術の分野において、クラス分類や回帰問題に対して、特定の入力画像に対する検査対象モデルのノイズ耐性を評価する手法が提案されている。この手法においては、正解データを元に任意のノイズを入力画像に付与した際の正解率を算出し、検査対象モデルのノイズ耐性を評価する。
【先行技術文献】
【非特許文献】
【０００３】
“Understanding Local Robustness of Deep Neural Networks under Natural Variations”，[online]，[令和４年１１月１０日検索]、インターネット<URL:https://arxiv.org/abs/2010.04821>
【発明の概要】
【発明が解決しようとする課題】
【０００４】
従来の評価手法は、正解率の算出が必要となるため、推論時（評価時）に教師となる正解データ（正解ラベル）が存在することが前提となっていた。このため、推論時に教師となる正解データが存在しない場合には、機械学習モデルのノイズ耐性を評価することはできなかった。また、従来の評価手法は、物体検出に使用される機械学習モデルには対応できていなかった。
【０００５】
本発明が解決しようとする課題は、教師ありまたは教師なしに関わらず、機械学習モデルの頑健性を簡易的且つ高精度に測定可能な頑健性測定装置、頑健性測定方法、およびプログラムを提供することである。
【課題を解決するための手段】
【０００６】
実施形態の頑健性測定装置は、取得部と、推論結果群生成部と、頑健性測定部とを持つ。取得部は、入力画像を取得する。ノイズ付与部は、入力画像に対してノイズを付与することにより少なくとも１つのノイズ付与画像を生成する。推論結果群生成部は、入力画像およびノイズ付与画像の少なくとも１つに対する推論結果のうち、相互に関連付けられる推論結果をグループ化した推論結果群を生成する。頑健性測定部は、推論結果群に基づいて、検査対象モデルの頑健性を測定する。
【図面の簡単な説明】
【０００７】
第１実施形態に係る頑健性測定装置１の機能構成の一例を示す機能ブロック図。
第１実施形態に係る画像に対してバウンダリーボックスＢＢが設定される様子を示す図。
第１実施形態に係る画像に対してバウンダリーボックスＢＢが設定される様子の他の例を示す図。
第１実施形態に係る画像に対してバウンダリーボックスＢＢが設定される様子のさらに他の例を示す図。
第１実施形態に係る頑健性測定処理の一例を示すフローチャート。
第１実施形態に係る頑健性測定の第１手法の一例を示すフローチャート。
第１実施形態に係る頑健性測定の第２手法の一例を示すフローチャート。
第１実施形態に係る頑健性測定の第３手法の一例を示すフローチャート。
第１実施形態に係る頑健性測定の第４手法の一例を示すフローチャート。
第２実施形態に係る頑健性測定装置１Ａの機能構成の一例を示す機能ブロック図。
第２実施形態に係るノイズ条件ごとの重みの設定処理を説明する図。
第３実施形態に係る過検出および未検出の判定結果（教師あり）の一例を示す図。
第３実施形態に係る正検出および過検出の判定結果（教師なし）の一例を示す図。
【発明を実施するための形態】
【０００８】
以下、実施形態の頑健性測定装置、頑健性測定方法、およびプログラムを、図面を参照して説明する。
【０００９】
＜第１実施形態＞
第１実施形態の頑健性測定装置は、任意のノイズに対する機械学習モデルの頑健性を測定する。この頑健性測定装置によれば、教師ありまたは教師なしに関わらず（正解データの有無に関わらず）、機械学習モデルの頑健性を簡易的且つ高精度に測定可能にすることができる。頑健性とは、様々なデータに対して、推論を正確に行うことができる性質のことをいう。例えば、頑健性とは、様々なノイズが付与された画像が検査対象モデルに入力された場合に、推論結果にずれが生じない性質のことをいう。
【００１０】
以下の説明において、頑健性測定装置は、ネットワークを介してユーザの端末装置および推論装置と接続される単一のサーバ装置により実現される場合を例に挙げて説明する。しかしながら、頑健性測定装置は、複数の装置によって実現されるものであってもよいし、ユーザの端末装置内にインストールされることで実現されるものであってもよい。その他、頑健性測定装置は、クラウドコンピューティングの技術を用いて実現されるものであってもよい。頑健性測定装置と推論装置とは、同一の装置によって実現されるものであってもよい。
（【００１１】以降は省略されています）

関連特許