特許ウォッチ

公開番号2024112049
公報種別公開特許公報(A)
公開日2024-08-20
出願番号2023016871
出願日2023-02-07
発明の名称評価プログラム,評価方法および情報処理装置
出願人富士通株式会社
代理人弁理士法人真田特許事務所,個人
主分類G06F 16/906 20190101AFI20240813BHJP(計算;計数)
要約【課題】欠損を含むデータに対しても、所望の結果を得るために推薦するアクションに対応する変更属性と変更量の評価を行なう。
【解決手段】入力データに含まれる複数の属性の値の一部に欠損がある場合に、当該欠損を複数通りに補完した複数パターンの補完データを生成し、複数パターンのそれぞれの補完データによって予測されるラベルを変更するために補完データの複数の属性の中から変更対象の属性と変更量とを含む摂動情報を決定し、複数パターンのうちの一つのパターンの補完データにおいて決定された摂動情報が複数のパターンのうちの他のパターンの補完データに対してもラベルを変更可能か否かに関する判定結果に基づいて、摂動情報の評価を行なう。
【選択図】図7
特許請求の範囲【請求項１】
入力データに含まれる複数の属性の値の一部に欠損がある場合に、当該欠損を複数通りに補完した複数パターンの補完データを生成し、
前記複数パターンのそれぞれの補完データによって予測されるラベルを変更するために前記補完データの複数の属性の中から変更対象の属性と変更量とを含む摂動情報を決定し、
前記複数パターンのうちの一つのパターンの補完データにおいて決定された前記摂動情報が前記複数のパターンのうちの他のパターンの補完データに対しても前記ラベルを変更可能か否かに関する判定結果に基づいて、前記摂動情報の評価を行なう
処理をコンピュータに実行させることを特徴とする評価プログラム。
続きを表示（約 1,000 文字）【請求項２】
前記摂動情報の評価を行なう処理において
決定された前記摂動情報に伴うコスト関数のコスト値と前記判定結果とを含み、前記ラベルを変更可能と判定される他のパターンの数が多くなるほど、及び前記コスト値が小さくなるほど、増加及び減少のどちらか一方に変化する評価指標を用いて、前記摂動情報の評価を行なう、
処理を前記コンピュータに実行させることを特徴とする、請求項１に記載の評価プログラム。
【請求項３】
前記複数のパターンのそれぞれの補完データと対応する前記摂動情報との組において、未選択の組の中から前記評価指標に基づいて組を選択することを、予め定められた組の数が選択されるまで繰り返す、
処理を前記コンピュータに実行させることを特徴とする、請求項２に記載の評価プログラム。
【請求項４】
選択された前記組に基づいて推奨するアクションについての情報を外部に出力する、
処理を前記コンピュータに実行させることを特徴とする、請求項３に記載の評価プログラム。
【請求項５】
入力データに含まれる複数の属性の値の一部に欠損がある場合に、当該欠損を複数通りに補完した複数パターンの補完データを生成し、
前記複数パターンのそれぞれの補完データによって予測されるラベルを変更するために前記補完データの複数の属性の中から変更対象の属性と変更量とを含む摂動情報を決定し、
前記複数パターンのうちの一つのパターンの補完データにおいて決定された前記摂動情報が前記複数のパターンのうちの他のパターンの補完データに対しても前記ラベルを変更可能か否かに関する判定結果に基づいて、前記摂動情報の評価を行なう
処理をコンピュータが実行することを特徴とする評価方法。
【請求項６】
入力データに含まれる複数の属性の値の一部に欠損がある場合に、当該欠損を複数通りに補完した複数パターンの補完データを生成し、
前記複数パターンのそれぞれの補完データによって予測されるラベルを変更するために前記補完データの複数の属性の中から変更対象の属性と変更量とを含む摂動情報を決定し、
前記複数パターンのうちの一つのパターンの補完データにおいて決定された前記摂動情報が前記複数のパターンのうちの他のパターンの補完データに対しても前記ラベルを変更可能か否かに関する判定結果に基づいて、前記摂動情報の評価を行なう
処理を実行する制御部を有することを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、評価プログラム，評価方法および情報処理装置に関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
コンピュータを用いた機械学習等により、予測対象である事柄、物、人などについての複数の属性と属性値を入力値として、予測対象が属するラベルを予測するモデルを生成することができる。予測対象が属する予測結果であるラベルを変更するために、その予測対象のどの属性値をどれだけ変更すればよいかを知りたい場合がある。このとき変更するのに適切な属性値を、コンピュータを用いて提案することが考えられる。
【０００３】
一例において、反事実説明（ＣＥ：Counterfactual Explanation）においては、ラベルを変更するための１以上の変更属性と当該属性の変更量とを含む摂動ベクトルがユーザに提供される。摂動ベクトルが与えられると、ユーザは、摂動ベクトルを自分が望む決定結果を得るための「アクション」として解釈することができる。このような技術によれば、予測結果に関して建設的な説明をユーザに与えることができるため、ユーザからの信頼醸成につながる。
【先行技術文献】
【特許文献】
【０００４】
国際公開２０２２／００３８１６号
【発明の概要】
【発明が解決しようとする課題】
【０００５】
入力データにおいて属性値の一部が欠損している場合においては、所望の結果を得るために推薦するアクションに対応する変更属性と変更量の評価を行なうことが困難であるという課題がある。
【０００６】
１つの側面では、本発明は、入力データにおいて属性値の一部が欠損している場合において、所望の結果を得るために推薦するアクションに対応する変更属性と変更量の評価を行なうことができるようにすることを目的とする。
【課題を解決するための手段】
【０００７】
このため、この評価プログラムは、入力データに含まれる複数の属性の値の一部に欠損がある場合に、当該欠損を複数通りに補完した複数パターンの補完データを生成し、前記複数パターンのそれぞれの補完データによって予測されるラベルを変更するために前記補完データの複数の属性の中から変更対象の属性と変更量とを含む摂動情報を決定し、前記複数パターンのうちの一つのパターンの補完データにおいて決定された前記摂動情報が前記複数のパターンのうちの他のパターンの補完データに対しても前記ラベルを変更可能か否かに関する判定結果に基づいて、前記摂動情報の評価を行なう処理をコンピュータに実行させる。
【発明の効果】
【０００８】
一実施形態によれば、本発明は、入力データにおいて属性値の一部が欠損している場合において、所望の結果を得るために推薦するアクションに対応する変更属性と変更量の評価を行なうことができる。
【図面の簡単な説明】
【０００９】
実施形態の一例としての情報処理装置において、入力データに欠損がない場合のアクション推薦処理の一例を示す図である。
ラベルを変更するための摂動ベクトルの決定処理の一例について説明する図である。
実施形態の一例としての情報処理装置において、入力データに欠損がある場合のアクション推薦処理の一例を示す図である。
実施形態の一例としての情報処理装置のハードウェア構成を例示する図である。
実施形態の一例としての情報処理装置の機能構成を例示する図である。
実施形態の一例としての情報処理装置における補完データの作成処理の一例を示す図である。
実施形態の一例としての情報処理装置におけるアクション最適化処理の一例を示す図である。
補完＿アクション組とコスト値について例示する図である。
補完＿アクション組の選択処理について例示する図である。
補完＿アクション組の選択処理の詳細について例示する図である。
補完＿アクション組から第１の組を選択する段階の一例を示す図である。
図１１に後続して補完＿アクション組から第２の組を選択する段階の一例を示す図である。
図１２に後続して補完＿アクション組から第３の組を選択する段階の一例を示す図である。
実施形態の一例としての情報処理装置におけるアクション推薦処理を説明するためのフローチャートである。
入力データに欠損がある場合における、与信審査でローン否認から承認に予測を変えるアクション推薦を実行する実施例を示す図である。
健康状態の改善のアクション推薦における実施形態の一例を示す図である。
【発明を実施するための形態】
【００１０】
以下、図面を参照して本評価プログラム，評価方法および情報処理装置にかかる実施の形態を説明する。ただし、以下に示す実施形態はあくまでも例示に過ぎず、実施形態で明示しない種々の変形例や技術の適用を排除する意図はない。すなわち、本実施形態を、その趣旨を逸脱しない範囲で種々変形して実施することができる。また、各図は、図中に示す構成要素のみを備えるという趣旨ではなく、他の機能等を含むことができる。
（【００１１】以降は省略されています）

関連特許