特許ウォッチ

公開番号2025137414
公報種別公開特許公報(A)
公開日2025-09-19
出願番号2025014465
出願日2025-01-31
発明の名称累積ノイズ除去およびクラスター化探索に基づくグラフ学習説明可能性のグローバル解釈
出願人富士通株式会社
代理人弁理士法人ITOH
主分類G06N 5/045 20230101AFI20250911BHJP(計算;計数)
要約【課題】累積ノイズ除去及びクラスター化探索に基づくグラフ学習説明可能性のグローバル解釈方法、記憶媒体及び電子デバイスを提供する。
【解決手段】方法は、グラフのセットを含むデータセットを受領し、データセットにグラフ説明器モデルを適用して説明スコアを決定し、説明スコアに基づいて各グラフのグラフ要素をフィルタリングしてグラフ要素の第1のセットを決定し、グラフ説明器モデルを、ランダム化されたグラフの別のデータセットに適用してノイズ・スコアを決定し、ノイズ除去された説明スコアを決定し、各グラフのグラフ要素をノイズ除去された説明スコアに基づいてフィルタリングしてグラフ要素の第2のセットを決定し、グラフ要素の第1のセット及び第2のセットについて特徴ベクトルを決定し、特徴ベクトルに基づいて予測駆動グラフ要素を決定し、グラフのセットに関連付けられた説明可能性情報を予測駆動グラフ要素に基づいてレンダリングする。
【選択図】図13
特許請求の範囲【請求項１】
プロセッサによって実行される方法であって：
グラフの第1のセットを含む第1のデータセットを受領する段階と；
受領された第1のデータセットに対してグラフ説明器モデルを適用して、説明スコアのセットを決定する段階と；
決定された説明スコアのセットに基づいて、グラフの前記第1のセットの各グラフのグラフ要素をフィルタリングして、グラフ要素の第1のセットを決定する段階と；
グラフの前記第1のセットに基づいて、ランダム化されたグラフのセットを含む第2のデータセットを生成する段階と；
生成された第2のデータセットに対して前記グラフ説明器モデルを適用して、ノイズ・スコアのセットを決定する段階と；
決定されたノイズ・スコアのセットに基づいて、前記決定された説明スコアのセットをノイズ除去して、ノイズ除去された説明スコアのセットを決定する段階と；
決定されたノイズ除去された説明スコアのセットに基づいて、グラフの前記第1のセットの各グラフのグラフ要素をフィルタリングして、グラフ要素の第2のセットを決定する段階と；
決定されたグラフ要素の第1のセットについての特徴ベクトルの第1のセットを決定する段階と；
決定されたグラフ要素の第2のセットについての特徴ベクトルの第2のセットを決定する段階と；
グラフの前記第1のセットに関連付けられた予測駆動グラフ要素のセットを、特徴ベクトルの前記第1のセットおよび特徴ベクトルの前記第2のセットに基づいて決定する段階と；
決定された予測駆動グラフ要素のセットに基づいて、グラフの前記第1のセットに関連付けられた説明可能性情報を含むグラフ・データをレンダリングする段階とを含む、
方法。
続きを表示（約 2,900 文字）【請求項２】
グラフの前記第1のセットから第1のグラフを選択する段階と；
選択された第1のグラフに対して動作の第1のセットを実行して、説明スコアの第1のサブセット、および前記選択された第1のグラフに属するグラフ要素の前記第1のセットのグラフ要素の第1のサブセットを決定する段階であって、動作の前記第1のセットは：
前記選択された第1のグラフに関して生成された予測に対する前記グラフ説明器モデルの適用に基づいて、初期説明スコアの所定数のサブセットを決定することであって、
初期説明スコアの前記所定数のサブセットのうちの初期説明スコアの各サブセットにおける各初期説明スコアは、前記選択された第1のグラフのグラフ要素に関連付けられる、ことと；
初期説明スコアの前記所定数のサブセットの初期説明スコアの各サブセットにおける初期説明スコアを正規化することと；
初期説明スコアの前記所定数のサブセットにおける各グラフ要素に関連付けられた正規化された初期説明スコアの累積を実行して、説明スコアの前記セットの説明スコアの前記第1のサブセットを得ることと；
説明スコアの前記第1のサブセットにおける説明スコアをソートすることと；
ソートされた説明スコアに関連付けられた傾きを決定することと；
決定された傾きが正の閾値傾きを超える、前記ソートされた説明スコアに関連付けられた変曲点を識別することと；
識別された変曲点を超えるグラフ要素を、グラフ要素の前記第1のセットのグラフ要素の前記第1のサブセットとして識別することと；
グラフの前記第1のセットが少なくとも1つの未処理のグラフを含むかどうかを判定することと；
グラフの前記第1のセットが前記少なくとも1つの未処理のグラフを含むことに基づいて、グラフの前記第1のセットから、第2のグラフを前記選択された第1のグラフとして再選択すること
とを含む、段階と；
グラフの前記第1のセットが未処理のグラフを含まなくなるまで、動作の前記第1のセットの逐次反復的な実行に基づいて、説明スコアの前記セットおよびグラフ要素の前記第1のセットを取得する段階とをさらに含む、
請求項１に記載の方法。
【請求項３】
グラフ要素の前記第1のセットは、グラフの前記第1のセットに関する予測を駆動するグラフ要素を含む、請求項1に記載の方法。
【請求項４】
次元削減モデルおよび類似性分析モデルに基づいて、前記第1のデータセットにおける各グラフにおけるグラフ要素のセットの重要度を決定する段階と；
決定された重要度に基づいて、グラフ要素の前記セットからグラフ要素の組み合わせを識別する段階と；
決定された重要度と、識別された組み合わせのそれぞれにおける各グラフ要素の依存性とに基づいて、前記識別された組み合わせを決定木に格納する段階と；
前記決定木からグラフ要素の第1の組み合わせを選択する段階と；
グラフ要素の選択された第1の組み合わせに対して動作の第2のセットを実行する段階であって、動作の前記第2のセットが：
グラフ要素の前記選択された第1の組み合わせにおけるグラフ要素のランダム化によって人工データセットを生成することであって、前記受領された第2のデータセットが生成された人工データセットに対応する、ことと；
前記生成された人工データセットについての説明スコアの分布を決定することと；
決定された説明スコアの分布が均等な分布であるかどうかを判定することと；
前記決定された説明スコアの分布が前記均等な分布であることに基づいて、グラフ要素の前記第1の組み合わせを予測非駆動グラフ要素として決定することと；
前記決定された説明スコアの分布が前記均等な分布でないことに基づいて、前記決定木から分枝のセットを削除することと；
前記決定木がグラフ要素の少なくとも1つの未処理の組み合わせを含むかどうかを判定することと；
前記決定木が前記少なくとも1つの未処理の組み合わせを含むことに基づいて、前記決定木からグラフ要素の第2の組み合わせを、前記選択された第1の組み合わせとして再選択すること
とを含む、段階と；
前記決定木が未処理の組み合わせを含まなくなるまで、動作の前記第2のセットの逐次反復的な実行に基づいて、グラフ要素の識別された組み合わせを予測非駆動グラフ要素として決定する段階とを含む、
請求項１に記載の方法。
【請求項５】
前記次元削減モデルは、主成分分析（PCA）モデルに対応する、請求項４に記載の方法。
【請求項６】
均等な説明スコア分布に関連付けられたグラフ要素の決定された組み合わせは、予測非駆動グラフ要素に対応する、請求項４に記載の方法。
【請求項７】
予測非駆動グラフ要素として決定されたグラフ要素の識別された組み合わせに対する前記グラフ説明器モデルの適用に基づいて、ベースライン・ノイズ・スコアのセットを決定する段階であって、
ベースライン・ノイズ・スコアの前記セットは、ノイズ・スコアの前記セットに対応する、段階と；
前記決定されたベースライン・ノイズ・スコアのセットに基づいて、前記受領された第1のデータセットに関連付けられた説明スコアの前記セットからノイズ成分を除去して、ノイズ除去されたスコアのセットを決定する段階と；
決定されたノイズ除去されたスコアのセットを正規化および平均化する段階であって、ノイズ除去された説明スコアの前記セットは、決定されたノイズ除去されたスコアのセットの前記正規化および前記平均化にさらに基づいて決定される、段階とをさらに含む、
請求項４に記載の方法。
【請求項８】
決定された特徴ベクトルの第1のセットおよび決定された特徴ベクトルの第2のセットのうちの一つまたは複数の特徴ベクトルが、予測駆動グラフ要素の前記セットに対応する、請求項１に記載の方法。
【請求項９】
予測駆動グラフ要素の前記セットは、前記決定された特徴ベクトルの第1のセットおよび前記決定された特徴ベクトルの第2のセットに対する教師なし機械学習を介して決定される、請求項１に記載の方法。
【請求項１０】
特徴ベクトルの前記第1のセットおよび特徴ベクトルの前記第2のセットの特徴ベクトルを含む特徴ベクトル・クラスターのセットを決定する段階と；
特徴ベクトル・クラスターの前記セットのうちの第1の特徴ベクトル・クラスターに共通するベクトル成分のセットを決定する段階とをさらに含み、
予測駆動グラフ要素の前記セットは、決定されたベクトル成分のセットにさらに基づいて決定される、
請求項１に記載の方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本開示で説明される実施形態は、累積ノイズ除去およびクラスター化探索に基づくグラフ学習説明可能性のグローバル解釈に関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
説明可能なグラフ機械学習の分野における進歩は、入力グラフ・データに対してグラフ・ニューラルネットワークによって生成される予測についての説明を生成する能力を有しうる説明可能なグラフ機械学習モデルの開発につながった。説明は、生成された予測が、透明であり、信頼でき、倫理的であり、公正であり、人間によって解釈可能であることを確実にすることができる。説明は、エンドユーザーが予測の背後にある論理付けを理解または推論することをさらに許容しうる。いくつかのシナリオでは、説明は、生成された予測がニューラルネットワーク・ベースのグラフ機械学習モデルの誘導バイアス、過剰適合、過小適合、またはデータ・ドリフトに起因して影響を受けるかどうか、および生成された予測が受け入れられるべきかまたは拒絶されるべきかを、専門家ユーザーが決定することを許容しうる。予測についての説明は、特に、金融関連の予測、取引上の不正の検出、娯楽、製品の推薦などの適用分野に関連する予測にとって、きわめて重要である可能性がある。
【０００３】
典型的には、不透明モデル（ニューラルネットワーク・ベースの説明可能なグラフ機械学習モデルなど）は、生成された予測についての説明を後処理ステップとして生成しうる。説明は、予測の生成後に生成されてもよい。そのような事後動作（すなわち、予測後の説明の生成）は、決定的でないことがありうる（予測についての）説明をもたらす可能性がある。これは、出力予測に影響を及ぼしうる入力グラフ・データ内の要素（ノード、エッジ、またはグラフ構造など）の不正確なまたは部分的な検出に起因しうる。さらに、ニューラルネットワーク・ベースの説明可能なグラフ機械学習モデルは、局所的に説明を生成することができ、すなわち、サイロ（silo）内の各予測について説明が生成されうる。説明の局所化された解釈は、確証バイアスを受け、それにより予測の透明性に影響を及ぼすことがある。さらに、同じ入力グラフ・データに基づいて予測が生成されたとしても、ある予測についての説明は、他の予測についての他の説明とは著しく異なることがある。
【０００４】
本開示において請求される主題は、何らかの欠点を解決する実施形態、または、上述したような環境においてのみ動作する実施形態に限定されない。むしろ、この背景は、本開示に記載されるいくつかの実施形態が実施されうる1つの例示的な技術分野を示すためにのみ提供される。
【発明の概要】
【課題を解決するための手段】
【０００５】
ある実施形態のある側面によれば、方法が、グラフの第1のセットを含む第1のデータセットを受領することを含みうる、動作のセットを含みうる。動作のセットは、受領された第1のデータセットに対してグラフ説明器モデルを適用して、説明スコアのセットを決定することをさらに含みうる。動作のセットは、説明スコアの決定されたセットに基づいて、グラフ要素の第1のセットを決定するために、グラフの第1のセットの各グラフのグラフ要素をフィルタリングすることをさらに含みうる。動作のセットは、グラフの第1のセットに基づいて、ランダム化されたグラフのセットを含む第2のデータセットを生成することをさらに含みうる。動作のセットは、生成された第2のデータセットにグラフ説明器モデルを適用して、ノイズ・スコアのセットを決定することをさらに含みうる。動作のセットは、決定されたノイズ・スコアのセットに基づいて、決定された説明スコアのセットをノイズ除去して、ノイズ除去された説明スコアのセットを決定することをさらに含みうる。動作のセットは、決定されたノイズ除去された説明スコアのセットに基づいて、グラフの第1のセットの各グラフのグラフ要素をフィルタリングして、グラフ要素の第2のセットを決定することをさらに含みうる。動作のセットは、グラフ要素の決定された第1のセットについての特徴ベクトルの第1のセットを決定することをさらに含みうる。動作のセットは、グラフ要素の決定された第2のセットについての特徴ベクトルの第2のセットを決定することをさらに含みうる。動作のセットは、グラフの第1のセットに関連付けられた予測駆動グラフ要素のセットを、特徴ベクトルの第1のセットおよび特徴ベクトルの第2のセットに基づいて決定することをさらに含みうる。動作のセットは、予測駆動グラフ要素の決定されたセットに基づいて、グラフの第1のセットに関連付けられた説明可能性情報を含むグラフ・データをレンダリングすることをさらに含みうる。
【０００６】
実施形態の目的および利点は、少なくとも、特許請求の範囲において具体的に指摘される要素、特徴、および組み合わせによって実現され、達成される。
【０００７】
上記の一般的な説明および以下の詳細な説明はいずれも、例として与えられており、説明するものであり、特許請求される発明を制約するものではない。
【図面の簡単な説明】
【０００８】
例示的な実施形態が、添付の図面の使用を通じて、さらなる具体性および詳細をもって記述され、説明される。
【０００９】
累積ノイズ除去およびクラスター化探索に基づくグラフ学習の説明可能性のグローバル解釈に関連する例示的なネットワーク環境を表す図である。
【００１０】
累積ノイズ除去およびクラスター化探索に基づくグラフ学習の説明可能性のグローバル解釈のための例示的な電子デバイスを示すブロック図である。
（【００１１】以降は省略されています）

関連特許