特許ウォッチ

公開番号2024056576
公報種別公開特許公報(A)
公開日2024-04-23
出願番号2022163582
出願日2022-10-11
発明の名称判定プログラム、判定方法、および情報処理装置
出願人富士通株式会社
代理人個人
主分類G06N 20/00 20190101AFI20240416BHJP(計算;計数)
要約【課題】判定結果の根拠を解釈し易くする情報を提示すること。
【解決手段】情報処理装置は、グラフインスタンス700の判定結果711を生成する。情報処理装置は、判定結果711の根拠を表す根拠情報として、グラフインスタンス700が表すグラフの隣接行列の各要素に対応するスコアを示すスコア行列712を生成する。情報処理装置は、スコア行列712のうち、すべてのスコアがThreshold以下である場合、根拠情報を補助する参考情報を生成する。情報処理装置は、例えば、参考情報として、判定結果711とは逆の内容を示す判定結果であるいずれかのグラフインスタンスを特定する。情報処理装置は、判定結果711と共に、判定結果711の根拠を表す根拠情報と、判定結果711の根拠を表す根拠情報を補助する参考情報とを出力する。
【選択図】図7
特許請求の範囲【請求項１】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータに実行させることを特徴とする判定プログラム。
続きを表示（約 1,800 文字）【請求項２】
前記訓練済み機械学習モデルを用いて、特定した前記第２グラフデータの前記所定の特徴に関する１以上の第２スコアを算出する、
処理を前記コンピュータに実行させ、
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１に記載の判定プログラム。
【請求項３】
前記出力する処理は、
前記記憶部に記憶された前記第２判定結果と、特定した前記第２グラフデータと、算出した前記１以上の第２スコアと、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項２に記載の判定プログラム。
【請求項４】
前記出力する処理は、
取得した前記１以上の第１スコアの少なくともいずれかの第１スコアが前記閾値以上である場合、前記第１グラフデータと、取得した前記１以上の第１スコアとを、取得した前記第１判定結果に対応付けて出力する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項５】
前記訓練済み機械学習モデルは、グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する、前記グラフデータの隣接行列の各要素に対応するスコアを算出する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項６】
前記１以上のグラフデータのそれぞれのグラフデータについて、当該グラフデータと、前記第１グラフデータとの差異の大きさを示す指標値を算出する、
処理を前記コンピュータに実行させ、
前記特定する処理は、
取得した前記１以上の第１スコアのすべての第１スコアが前記閾値未満である場合、前記記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果であり、算出した前記指標値が基準値未満である第２グラフデータを特定する、ことを特徴とする請求項１～３のいずれか一つに記載の判定プログラム。
【請求項７】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
処理をコンピュータが実行することを特徴とする判定方法。
【請求項８】
所定の判定処理による第１グラフデータの第１判定結果を取得し、
グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、
取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、
特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する、
制御部を有することを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、判定プログラム、判定方法、および情報処理装置に関する。
続きを表示（約 1,700 文字）【背景技術】
【０００２】
従来、判定処理を実施した際に判定結果の根拠を提示するためのＸＡＩ（ＥｘｐｌａｉｎａｂｌｅＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）と呼ばれる技術が存在する。例えば、グラフデータに対する、ＧＮＮ（ＧｒａｐｈＮｅｕｒａｌＮｅｔｗｏｒｋ）の判定結果の根拠として、グラフデータの隣接行列の各要素に対応する、所定のトポロジー特徴に関するスコアを提示するＧＸＡＩ（ＧｒａｐｈＸＡＩ）が存在する。
【０００３】
先行技術としては、例えば、ＧＮＮを用いて、グラフデータに対する所定の判定処理をブラックボックス的に実施し、グラフデータの判定結果を取得するものがある。
【先行技術文献】
【非特許文献】
【０００４】
Ｙｕａｎ，Ｈａｏ，ｅｔａｌ． “Ｅｘｐｌａｉｎａｂｉｌｉｔｙｉｎｇｒａｐｈｎｅｕｒａｌｎｅｔｗｏｒｋｓ：Ａｔａｘｏｎｏｍｉｃｓｕｒｖｅｙ．” ａｒＸｉｖｐｒｅｐｒｉｎｔａｒＸｉｖ：２０１２．１５４４５（２０２０）．
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、従来技術では、利用者が、提示された判定結果の根拠を適切に解釈することが難しい場合がある。例えば、利用者は、隣接行列の全要素に対応するスコアが比較的小さいことが、判定結果の根拠として提示された場合、所定のトポロジー特徴が現れないと解釈すればよいのか、または、判定結果の根拠特定に失敗したと解釈すればよいのかを判断することが難しい。
【０００６】
１つの側面では、本発明は、判定結果の根拠を解釈し易くする情報を提示することを目的とする。
【課題を解決するための手段】
【０００７】
１つの実施態様によれば、所定の判定処理による第１グラフデータの第１判定結果を取得し、グラフデータの入力に応じて、前記所定の判定処理による前記グラフデータの判定結果の根拠を表す、前記グラフデータの所定の特徴に関する１以上のスコアを算出する訓練済み機械学習モデルを用いて算出された、前記第１グラフデータの前記所定の特徴に関する１以上の第１スコアを取得し、取得した前記１以上の第１スコアのすべての第１スコアが閾値未満である場合、前記所定の判定処理による、１以上のグラフデータのそれぞれのグラフデータの判定結果を記憶する記憶部を参照して、前記１以上のグラフデータのうち、取得した前記第１判定結果とは異なる第２判定結果である第２グラフデータを特定し、特定した前記第２グラフデータの前記所定の特徴に関する情報を、取得した前記第１判定結果に対応付けて出力する判定プログラム、判定方法、および情報処理装置が提案される。
【発明の効果】
【０００８】
一態様によれば、判定結果の根拠を解釈し易くする情報を提示することが可能になる。
【図面の簡単な説明】
【０００９】
図１は、実施の形態にかかる判定方法の一実施例を示す説明図である。
図２は、情報処理システム２００の一例を示す説明図である。
図３は、情報処理装置１００のハードウェア構成例を示すブロック図である。
図４は、履歴情報管理テーブル４００の記憶内容の一例を示す説明図である。
図５は、情報処理装置１００の機能的構成例を示すブロック図である。
図６は、情報処理装置１００の動作例を示す説明図（その１）である。
図７は、情報処理装置１００の動作例を示す説明図（その２）である。
図８は、情報処理装置１００の動作例を示す説明図（その３）である。
図９は、情報処理装置１００の動作例を示す説明図（その４）である。
図１０は、全体処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【００１０】
以下に、図面を参照して、本発明にかかる判定プログラム、判定方法、および情報処理装置の実施の形態を詳細に説明する。
（【００１１】以降は省略されています）

関連特許