特許ウォッチ

公開番号2024125198
公報種別公開特許公報(A)
公開日2024-09-13
出願番号2024030548
出願日2024-02-29
発明の名称説明可能な人工知能のためのグラフ縮小
出願人富士通株式会社
代理人個人,個人
主分類G06N 3/04 20230101AFI20240906BHJP(計算;計数)
要約【課題】説明可能な人工知能のためのグラフ縮小方法、記憶媒体及び電子デバイスを提供する。
【解決手段】方法は、ドメインを表すグラフを受領し、グラフから第1のサブグラフを抽出し、各第1のサブグラフを縮小して、縮小サブグラフのセットを得る。セットから最も近い縮小サブグラフを決定し、抽出された第1のサブグラフおよび各第1のサブグラフに対応する最も近い縮小サブグラフに基づいてカバレッジ・メトリックを決定し、カバレッジ・メトリックがカバレッジ条件を満たすかどうかを判定し、条件を満たさない場合、抽出された第1のサブグラフの縮小を再反復することを含む動作のセットを実行する。さらに、カバレッジ条件を満たすまでの動作の第1のセットを繰り返すことに基づいて、各第1のサブグラフに対応する最も近い縮小サブグラフから第2のサブグラフを得て、第2のサブグラフに基づいて説明可能な予測モデルをトレーニングする。
【選択図】図3
特許請求の範囲【請求項１】
プロセッサによって実行される方法であって、当該方法は：
ドメインを表すグラフと、受領されるグラフのノードのセットの各ノードに関連付けられたラベルとを受領する段階と；
受領されたグラフから第1のサブグラフのセットを抽出する段階と；
抽出された第1のサブグラフのセットの各第1のサブグラフを縮小して、前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する縮小されたサブグラフのセットを得る段階と；
前記抽出された第1のサブグラフのセットの各第1のサブグラフの縮小に基づいて、前記抽出された第1のサブグラフのセットから第2のサブグラフのセットを得るために、動作の第1のセットを実行する段階であって、動作の前記第1のセットは：
前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する前記縮小されたサブグラフのセットから、最も近い縮小されたサブグラフを決定し、
前記抽出された第1のサブグラフのセットと、前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する決定された最も近い縮小されたサブグラフとに基づいて、カバレッジ・メトリックのセットを決定し、
決定されたカバレッジ・メトリックのセットがカバレッジ条件のセットを満たすかどうかを判定し、
前記決定されたカバレッジ・メトリックのセットが前記カバレッジ条件のセットを満たさないという判定に基づいて、前記抽出された第1のサブグラフのセットの前記縮小を再反復することを含む、段階と；
前記決定されたカバレッジ・メトリックのセットが前記カバレッジ条件のセットを満たすまで、動作の前記第1のセットの実行を逐次反復的に制御することに基づいて、前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する前記決定された最も近い縮小されたサブグラフから、前記第2のサブグラフのセットを得る段階と；
得られた第2のサブグラフのセットと、前記受領されたグラフのノードのセットの各ノードに関連付けられた受領されたラベルとに基づいて、グラフ機械学習モデルをトレーニングする段階とを含む、
方法。
続きを表示（約 3,800 文字）【請求項２】
前記第1のサブグラフのセットは、ホップ限界、前記受領されたグラフに関連付けられたノード・タイプ、または前記ホップ限界と前記ノード・タイプの組み合わせのうちの少なくとも1つに基づいて、前記受領されたグラフから抽出される、請求項１に記載の方法。
【請求項３】
前記縮小されたサブグラフのセットは、前記抽出された第1のサブグラフのセットに関連するノード数、エッジ数、またはハイパーパラメータのセットのうちの少なくとも1つに基づいて得られる、請求項１に記載の方法。
【請求項４】
前記グラフ機械学習モデルは、グラフ説明可能人工知能（GXAI）エンジンに対応する、請求項１に記載の方法。
【請求項５】
前記GXAIエンジンと、前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する前記決定された最も近い縮小されたサブグラフとに基づいて、説明可能な予測モデルをトレーニングする段階をさらに含む、請求項４に記載の方法。
【請求項６】
前記ドメインに関連付けられた入力サブグラフを受領する段階と；
前記受領された入力サブグラフに対して前記トレーニングされた説明可能な予測モデルを適用する段階と；
前記トレーニングされた説明可能な予測モデルの適用に基づいて予測出力を決定する段階と
をさらに含む、請求項５に記載の方法。
【請求項７】
前記受領されたグラフのノードのセットから抽出ノードおよび非抽出ノードを識別して、抽出ノードのリストを得る段階と；
前記抽出ノードのリストから第１の抽出ノードを抽出識別子（ID）として選択する段階と；
前記抽出IDに関連付けられたリング・リストに第1のリングを最新のリングとして追加する段階と；
前記抽出IDに関連付けられたタプルを得るために動作の第2のセットを実行する段階であって、動作の前記第2のセットは：
最新のリングによって囲まれた各ノードの各隣接ノードについて、
その隣接ノードが最新のリングで囲まれているかどうかを判定し、
その隣接ノードが最新のリングで囲まれていないという判定に基づいて、その隣接ノードを最新のリングの外側に追加し、
追加された隣接ノードに関連するエッジをエッジ・リストに追加し、
追加された隣接ノードを囲むリングを前記リング・リストに追加し、
最新のリングが前記リング・リストにおける最後のリングであるかどうかを判定し、
追加されたリングを最新のリングとして設定し、最新のリングが前記リング・リストにおける最後のリングではないという判定に基づいて、動作の前記第2のセットを再反復することを含む、段階と；
最新のリングが前記リング・リストにおける最後のリングとして判定されるまで、動作の前記第2のセットの実行を逐次反復的に制御することに基づいて、前記抽出ID、前記リング・リスト、および前記エッジ・リストを含む前記タプルを得る段階とを含み、
前記第1のサブグラフのセットの抽出は、得られたタプルにさらに基づく、
請求項１に記載の方法。
【請求項８】
前記抽出された第1のサブグラフのセットから、抽出IDに関連付けられた第1のサブグラフを選択する段階と；
リング・リストにおける各リングのリング・ノード目標と、選択された第1のサブグラフに関連付けられたグラフ・サイズ目標とを決定する段階であって、
対応するリングの前記リング・ノード目標は、前記選択された第1のサブグラフのサイズ、前記グラフ・サイズ目標、または前記対応するリングのリング重みのうちの少なくとも1つに基づいて決定され、
前記グラフ・サイズ目標は、前記選択された第1のサブグラフのサイズ、目標ノード数、目標エッジ数、または前記目標ノード数と前記目標エッジ数の組み合わせのうちの少なくとも1つに基づいて決定される、段階と；
前記リング・リストからリングを現在リングとして選択する段階であって、該選択は、選択された現在リングが保護されていないという判定に基づき、
保護されたリングによって囲まれたノードは、前記選択された第1のサブグラフの縮小の際に保持される、段階と；
前記選択された第1のサブグラフに対応する前記縮小されたサブグラフのセットの縮小されたサブグラフを得るために、動作の第3のセットを実行する段階であって、動作の前記第3のセットは：
前記選択された現在リングによって囲まれたノードをランダム選択し、
前記選択された第1のサブグラフから、選択されたランダム・ノードおよび該選択されたランダム・ノードに関連するエッジを除去し、
前記除去に基づいて、前記選択された第1のサブグラフにおいて切断されたノードが存在するかどうかを判定し、
切断されたノードの存在の判定に基づいて、前記切断されたノードおよび前記切断されたノードに関連するエッジを、前記選択された第1のサブグラフから除去し、
ホップ限界を超えて前記抽出IDからより遠いノードが存在するかどうかを判定し、
前記ホップ限界を超えたノードの存在の判定に基づいて、前記ホップ限界を超えたノードおよびそれらのノードに関連するエッジを、前記選択された第1のサブグラフから除去し、
前記選択されたランダム・ノード、前記切断されたノード、および前記ホップ限界を超えたノードの除去に基づいて、前記グラフ・サイズ目標が満たされているかどうかを判定し、
現在リングが決定されたリング・ノード目標を満たすかどうかを判定し、
終了基準に基づいて、前記選択された第1のサブグラフから、選択された現在リングの後の保護されていないリングを現在リングとして再選択することを含み、前記終了基準は：
前記グラフ・サイズ目標が満たされていないとの判定、または
選択された現在リングの前記リング・ノード目標が満たされているとの判定
のうちの少なくとも一方を含む、段階と；
前記グラフ・サイズ目標が満たされるまで、動作の前記第3のセットの実行を逐次反復的に制御することに基づいて、前記選択された第1のサブグラフから前記縮小されたサブグラフを得る段階とをさらに含む、
請求項１に記載の方法。
【請求項９】
前記抽出された第1のサブグラフのセットから、前記抽出された第1のサブグラフを選択する段階と；
選択された抽出された第1のサブグラフに対応する前記縮小されたサブグラフのセットを、縮小サブグラフ・セットとして選択する段階と；
前記抽出された第1のサブグラフのセットに基づいてグラフ・カーネル・エンコーダをトレーニングする段階と；
前記選択された抽出された第1のサブグラフに対する前記グラフ・カーネル・エンコーダの適用に基づいて第1のベクトルを決定する段階と；
前記縮小サブグラフ・セットにおける各縮小サブグラフについて、
前記縮小サブグラフ・セットの現在の縮小サブグラフに対する前記グラフ・カーネル・エンコーダの適用に基づいて第2のベクトルを決定し、
決定された第1のベクトルと決定された第2のベクトルとに基づいて、前記選択された抽出された第1のサブグラフと現在の縮小サブグラフとの間の相関係数を決定する
段階と；
決定された相関係数に基づいて、前記選択された抽出された第1のサブグラフに対応する最も近いサブグラフとして、前記縮小サブグラフ・セットから縮小サブグラフを選択する段階とをさらに含む、
請求項１に記載の方法。
【請求項１０】
前記抽出された第1のサブグラフのセットの各第1のサブグラフに対応する前記決定された最も近い縮小されたサブグラフにおける、抽出ノードの第1のリストおよび非抽出ノードの第1のリストを得る段階と；
前記抽出された第1のサブグラフのセットに基づいて、抽出ノードの第2のリストおよび非抽出ノードの第2のリストを得る段階と；
前記抽出ノードの第1のリストに関連する第1のノード反復分布および第1のノード次数分布を決定する段階と；
前記非抽出ノードの第1のリストに関連する第2のノード反復分布を決定する段階と；
前記抽出ノードの第2のリストに関連する第2のノード次数分布を決定する段階と；
前記非抽出ノードの第2のリストに関連する第3のノード反復分布を決定する段階と
をさらに含み、
前記カバレッジ・メトリックのセットは：
前記第1のノード反復分布、
前記第1のノード次数分布、
前記第2のノード反復分布、
前記第2のノード次数分布、または
前記第3のノード反復分布
のうちの少なくとも1つに基づいて決定される、請求項１に記載の方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本開示で議論される実施形態は、説明可能な人工知能のためのグラフ縮小に関連する。
続きを表示（約 3,100 文字）【背景技術】
【０００２】
グラフ機械学習の分野における進歩は、連続グラフのノードおよびエッジ上の分類タスクのためのグラフ・ニューラル・ネットワークの適用をもたらした。機械学習におけるノード分類タスクは、連続グラフのノードに関連する情報を予測するために実行されうる。同様に、連続グラフのノードについて（離散値ラベルの代わりに）連続値のラベルが決定されうるように、回帰タスクが連続グラフに対して実行されうる。情報またはラベルは、特定のターゲット・ノードの近傍でありうる連続グラフのノードのセットに関連する情報に関するトレーニングされたグラフ・ニューラル・ネットワークの適用に基づいて予測されうる。近傍ノードに関連する情報は、グラフ・ニューラル・ネットワークのトレーニング、試験、および推論のために連続グラフから抽出されうる。典型的には、グラフ・ニューラル・ネットワークは、連続グラフの近傍ノードまたは近傍ノードのトポロジー構造に関連しうる情報の単位に基づいてトレーニングされうる。情報の単位は、抽出された情報の要約に基づいて生成されたベクトルとして表すことができる。要約がターゲット・ノードのすべての近傍ノードまたはターゲット・ノードからより遠く離れたノードに関連する情報を表していない場合、ベクトルを使用したグラフ・ニューラル・ネットワークのトレーニングは正確ではない可能性がある。また、ターゲット・ノード周辺の連続グラフ構造のトポロジー構造は、要約された情報を表すベクトルの生成のために使用されない可能性がある。トポロジー構造は、効率的なグラフ・ベースの下流の機械学習にとって重要である可能性がある。
【０００３】
トレーニングのために近傍ノードのトポロジー構造を使用するために、すべての近傍ノードと、ターゲット・ノードから出るエッジとを含みうる複数のサブグラフが、連続グラフから抽出されうる。そのような抽出されたサブグラフから得られた情報は、グラフ・ニューラル・ネットワークをトレーニングするために使用されうる。しかしながら、ターゲット・ノードに関連する近傍の拡張は、ターゲット・ノードに関連するサブグラフ内のノード数の爆発的な増加につながる可能性がある。ノード数は、ターゲット・ノードからのホップ数のインクリメントによって増加する可能性がある。このインクリメントは、近傍ノード数の指数関数的な増加（ノード数を基準とする）につながる可能性がある。近傍ノード数の増加は、トレーニング中に実行される必要がありうる追加的な計算を導入する可能性がある。そのような追加的な計算は、グラフ・ニューラル・ネットワークを格納するデバイスの実質的なメモリおよび／または処理能力の制約を必要とする場合がある。よって、サブグラフ上のグラフ機械学習タスクの実行のために必要とされる複雑さおよび資源は、近傍爆発の問題のため、増大する可能性がある。
【０００４】
グラフ・ニューラル・ネットワークをトレーニングするためにターゲット・ノードのすべての近傍ノードに関連する情報を利用するために、近傍ノードのサンプルに関連する情報が集約されてもよい。集約された情報は、グラフ・ニューラル・ネットワークの逐次反復的なトレーニングのために使用されうる。グラフ・ニューラル・ネットワークのトレーニング精度は、各逐次反復後に改善されうるが、逐次反復回数とトレーニング・プロセスのレイテンシーとの間にトレードオフが生じる可能性がある。より高い精度は、多数の逐次反復を必要とし、それによりトレーニング・プロセスのレイテンシーを増加させる可能性がある。
【０００５】
本開示において特許請求の範囲に記載された主題は、何らかの欠点を解決する実施形態に限定されず、または上記のような環境においてのみ動作する実施形態に限定されない。むしろ、この背景は、本開示に記載されたいくつかの実施形態が実施されうる1つの例示的な技術領域を説明するためにのみ提供される。
【発明の概要】
【課題を解決するための手段】
【０００６】
ある実施形態のある側面によれば、方法は、動作のセットを含んでいてもよい。前記動作のセットは、ドメインを表すグラフ、および受領されるグラフのノードのセットの各ノードに関連付けられたラベルを受領することを含みうる。前記動作のセットは、受領されたグラフから第1のサブグラフのセットを抽出することをさらに含みうる。前記動作のセットは、抽出された第1のサブグラフのセットの各第1のサブグラフを縮小して、抽出された第1のサブグラフのセットの各第1のサブグラフに対応する縮小されたサブグラフのセットを得ることをさらに含みうる。前記動作のセットは、抽出された第1のサブグラフのセットの各第1のサブグラフの縮小に基づいて、抽出された第1のサブグラフのセットから第2のサブグラフのセットを得るために、動作の第1のセットを実行することをさらに含みうる。動作の前記第1のセットは、抽出された第1のサブグラフのセットの各第1のサブグラフに対応する縮小されたサブグラフのセットから、最も近い縮小されたサブグラフを決定することをさらに含みうる。動作の前記第1のセットは、抽出された第1のサブグラフのセットの各第1のサブグラフに対応する決定された最も近い縮小されたサブグラフと、抽出された第1のサブグラフのセットとに基づいて、カバレッジ・メトリックのセットを決定することをさらに含みうる。動作の前記第1のセットは、決定されたカバレッジ・メトリックのセットがカバレッジ条件のセットを満たすかどうかを判定することをさらに含むことができる。動作の前記第1のセットは、決定されたカバレッジ・メトリックのセットがカバレッジ条件のセットを満たさないという判定に基づいて、抽出された第1のサブグラフのセットの縮小を再反復して、縮小されたサブグラフのセットを得ることをさらに含みうる。前記動作のセットは、カバレッジ・メトリックのセットがカバレッジ条件のセットを満たすまで、動作の前記第1のセットの実行の逐次反復的な制御に基づいて、抽出された第1のサブグラフのセットの各第1のサブグラフに対応する決定された最も近い縮小されたサブグラフから第2のサブグラフのセットを得ることをさらに含むことができる。前記動作のセットは、得られた第2のサブグラフのセットと、受領されたグラフのノードのセットの各ノードに関連付けられた受領されたラベルとに基づいて、グラフ機械学習モデルをトレーニングすることをさらに含むことができる。
【０００７】
実施形態の目的および利点は、少なくとも特許請求の範囲において具体的に指摘されている要素、特徴、および組み合わせによって実現され、達成される。
【０００８】
上記の一般的な説明および以下の詳細な説明の両方は、例として与えられているのであり、説明的なものであり、請求項に記載の本発明を限定するものではない。
【図面の簡単な説明】
【０００９】
例示的な実施形態が、添付の図面を使用することにより、さらに具体的かつ詳細に記述され、説明される。
【００１０】
説明可能な人工知能（XAI）のためのグラフ縮小に関連する例示的なネットワーク環境を表す図である。
（【００１１】以降は省略されています）

関連特許