特許ウォッチ

公開番号2025137391
公報種別公開特許公報(A)
公開日2025-09-19
出願番号2024231383
出願日2024-12-26
発明の名称異常検出プログラム、異常検出方法及び情報処理装置
出願人富士通株式会社,ビー.ジー.ネゲブテクノロジーズアンドアプリケーションズリミテッド, アットベン‐グリオンユニバーシティー
代理人弁理士法人酒井国際特許事務所
主分類G06T 7/00 20170101AFI20250911BHJP(計算;計数)
要約【課題】任意のタイプの異常を検出することを課題とする。
【解決手段】異常検出プログラムは、物体検出モデルへの入力シーンから検出された物体検出結果と、XAI技術によって得られる入力シーンに対する顕著性マップとに基づいて、入力シーン全体に対する顕著性マップの値を示す第1の値及び入力シーンにおける検出された物体の領域以外の領域における顕著性マップの値を示す第2の値を算出し、算出された第1の値及び第2の値に基づいて、入力シーンの異常を検出する、処理をコンピュータに実行させる。
【選択図】図3
特許請求の範囲【請求項１】
物体検出モデルへの入力シーンから検出された物体検出結果と、ＸＡＩ技術によって得られる前記入力シーンに対する顕著性マップとに基づいて、前記入力シーン全体に対する顕著性マップの値を示す第１の値及び前記入力シーンにおける前記検出された物体の領域以外の領域における顕著性マップの値を示す第２の値を算出し、
算出された前記第１の値及び前記第２の値に基づいて、前記入力シーンの異常を検出する、
処理をコンピュータに実行させる異常検出プログラム。
続きを表示（約 1,000 文字）【請求項２】
前記算出する処理は、前記第１の値及び前記第２の値に基づいて第３の値を算出する処理を含み、
前記検出する処理は、前記第３の値に基づいて前記入力シーンの異常を検出する処理を含む、請求項１に記載の異常検出プログラム。
【請求項３】
前記第３の値は、前記第１の値及び前記第２の値の偏差である請求項２に記載の異常検出プログラム。
【請求項４】
前記ＸＡＩ技術は、活性値ベースまたは勾配ベースの顕著性マップ出力技術である請求項１に記載の異常検出プログラム。
【請求項５】
Ｏｎｅ－Ｓｔａｇｅ型の前記物体検出モデルのうち、ＮＭＳ（Non-Maximum Suppression）が適用された後のレイヤの前記顕著性マップを生成する処理を前記コンピュータにさらに実行させる請求項１に記載の異常検出プログラム。
【請求項６】
Ｔｗｏ－Ｓｔａｇｅ型またはＭｕｌｔｉ－Ｓｔａｇｅ型の前記物体検出モデルのうち、ＲＰＮ（Region Proposal Network）コンポーネントの最終層の前記顕著性マップを生成する処理を前記コンピュータにさらに実行させる請求項１に記載の異常検出プログラム。
【請求項７】
物体検出モデルへの入力シーンから検出された物体検出結果と、ＸＡＩ技術によって得られる前記入力シーンに対する顕著性マップとに基づいて、前記入力シーン全体に対する顕著性マップの値を示す第１の値及び前記入力シーンにおける前記検出された物体の領域以外の領域における顕著性マップの値を示す第２の値を算出し、
算出された前記第１の値及び前記第２の値に基づいて、前記入力シーンの異常を検出する、
処理をコンピュータが実行する異常検出方法。
【請求項８】
物体検出モデルへの入力シーンから検出された物体検出結果と、ＸＡＩ技術によって得られる前記入力シーンに対する顕著性マップとに基づいて、前記入力シーン全体に対する顕著性マップの値を示す第１の値及び前記入力シーンにおける前記検出された物体の領域以外の領域における顕著性マップの値を示す第２の値を算出し、
算出された前記第１の値及び前記第２の値に基づいて、前記入力シーンの異常を検出する、
処理を実行する制御部を有する情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、異常検出プログラム、異常検出方法及び情報処理装置に関する。
続きを表示（約 1,700 文字）【背景技術】
【０００２】
画像データの入力に応じて、画像データに写る物体の領域や画像データに写る物体の情報（ラベル）などを出力する物体検出モデル（ＯＤ：Object Detector）が知られている。物体検出モデルは、リテール分野、不審者検出の分野など様々な分野で、画像データの一例である入力シーンの入力に応じて、様々な物体を検出することに利用されている。例えば、小売店などでユーザが手に取った商品や購入した商品を特定する物体検出モデル、空港で不審物を検出する物体検出モデルなどが利用されている。
【０００３】
このような物体検出モデルへの入力シーンに異常が含まれる場合がある。この「異常」は、攻撃者が意図的に敵対的パッチ（Adversarial Patch）を含めることで発生する場合もあれば、別のオブジェクトまたは認識されないオブジェクトによりオブジェクトが隠されることにより自然に発生する場合もある。
【０００４】
意図的なパッチ攻撃の検出は、例えば、敵対的パッチを含む訓練データを用いて敵対的パッチが含まれるシーンを攻撃があったことを示す新しいクラス（敵対的クラス）に分類するように訓練をすることで実現できる。
【先行技術文献】
【非特許文献】
【０００５】
Ji, N.; Feng, Y.; Xie, H.; Xiang, X.; and Liu，「Adversarial YOLO：Defense Human Detection Patch Attacks via Detecting Adversarial Patches.」，2021，arXiv preprint arXiv：2103.08860.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、異常のタイプごとに特化したアルゴリズムが設計される現状では、ターゲットとするタイプ以外の異常を検出するのが難しい側面がある。他方、リテールや不審者検出などの各種の分野で実用化される現場では、物体検出モデルへの入力シーンに含まれる異常のタイプが不明である場合も少なくない。このため、上記技術には、任意のタイプの異常を検出するという点で改善の余地がある。
【０００７】
１つの側面では、任意のタイプの異常を検出できる異常検出プログラム、異常検出方法及び情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
第１の案では、物体検出モデルへの入力シーンから検出された物体検出結果と、ＸＡＩ技術によって得られる前記入力シーンに対する顕著性マップとに基づいて、前記入力シーン全体に対する顕著性マップの値を示す第１の値及び前記入力シーンにおける前記検出された物体の領域以外の領域における顕著性マップの値を示す第２の値を算出し、算出された前記第１の値及び前記第２の値に基づいて、前記入力シーンの異常を検出する、処理をコンピュータに実行させる。
【発明の効果】
【０００９】
一実施形態によれば、任意のタイプの異常を検出できる。
【図面の簡単な説明】
【００１０】
図１は、システム構成例を示す図である。
図２は、課題解決アプローチの一側面を示す模式図である。
図３は、サーバ装置の機能構成例を示すブロック図である。
図４は、物体検出の一例を示す模式図である。
図５は、顕著性マップの生成例を示す模式図である。
図６は、ＤｉＬスコアの算出例を示す模式図（１）である。
図７は、ＤｉＬスコアの算出例を示す模式図（２）である。
図８は、ＤｉＬスコアの算出例を示す模式図（３）である。
図９は、ＤｉＬスコアの算出例を示す模式図（４）である。
図１０は、異常検出処理の手順を示すフローチャートである。
図１１は、ハードウェア構成例を示す図である。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許