特許ウォッチ

公開番号2025010809
公報種別公開特許公報(A)
公開日2025-01-23
出願番号2023113036
出願日2023-07-10
発明の名称審査支援システム及び審査支援方法
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06Q 10/00 20230101AFI20250116BHJP(計算;計数)
要約【課題】人物に対する審査において特定の属性に関して公平な審査結果を出力する。
【解決手段】審査支援システムは、過去対象者の要公平性属性と公平性判断属性とを含む複数の属性と、過去対象者に対する審査結果を示すスコアと、当該複数の属性を入力とし当該スコアを出力する学習モデルと、新規対象者の当該複数の属性と、を保持し、公平性判断属性の値が新規対象者と類似する比較用対象者の当該複数の属性を学習モデルに入力して、第1のスコアを取得し、新規対象者と、新規対象者の要公平性属性の値を変更した変更後対象者と、それぞれの当該複数の属性を学習モデルに入力して、第2のスコアを取得し、第1のスコアの分布における第2のスコアの位置に基づいて、新規対象者に対するスコアを出力する。
【選択図】図1
特許請求の範囲【請求項１】
人物に対する審査を支援する審査支援システムであって、
プロセッサとメモリとを有し、
前記メモリは、
前記審査の過去対象者の要公平性属性と公平性判断属性とを含む複数の属性と、前記過去対象者に対する前記審査の審査結果を示すスコアと、を示すログ情報と、
前記過去対象者の前記複数の属性を目的変数とし、前記過去対象者の前記スコアを説明変数とする訓練データに対する機械学習によって得られた学習モデルと、
前記審査の新規対象者の前記複数の属性を示す入力属性情報と、
前記公平性判断属性の値が類似する条件を示す公平性判断属性情報と、を保持し、
前記プロセッサは、
前記公平性判断属性情報が示す条件を参照して、前記公平性判断属性の値が前記新規対象者と類似する過去対象者である比較用対象者の前記複数の属性を、前記ログ情報から取得し、
前記比較用対象者の複数の属性を前記学習モデルに入力して、第１のスコアを取得し、
前記新規対象者と、前記新規対象者の前記要公平性属性の値を変更した変更後対象者と、それぞれの前記複数の属性を前記学習モデルに入力して、第２のスコアを取得し、
前記第１のスコアの分布における前記第２のスコアの位置に基づいて、前記新規対象者に対する審査結果を示すスコアを出力する、審査支援システム。
続きを表示（約 2,700 文字）【請求項２】
請求項１に記載の審査支援システムであって、
前記ログ情報は、前記過去対象者が行う行動によって発生するイベントの結果をさらに示し、
前記プロセッサは、
前記新規対象者と同じ前記要公平性属性の値を有する比較用対象者の前記第１のスコアの、当該比較用対象者の前記イベントの結果ごとの平均値を、当該比較用対象者における前記分布として算出し、
前記イベントの結果ごとの平均値と、前記新規対象者の前記第２のスコアと、の差に基づく比率を、前記第２のスコアの位置として算出する、審査支援システム。
【請求項３】
請求項２に記載の審査支援システムであって、
前記審査は、融資審査であり、
前記審査結果を示すスコアは、融資可能額及び返済可能性を含み、
前記イベントの結果は、前記過去対象者への融資金額の前記過去対象者による返済結果を示す、審査支援システム。
【請求項４】
請求項２に記載の審査支援システムであって、
前記プロセッサは、
前記新規対象者と異なる前記要公平性属性の値を有する比較用対象者の前記第１のスコアの、当該比較用対象者の前記イベントの結果ごとかつ前記要公平性属性の値ごとの平均値を、当該要公平性属性の値を有する比較用対象者における前記分布として算出し、
前記要公平性属性の値ごとに、当該要公平性属性の値に対応する前記イベントの結果ごとの平均値と、前記比率と、に基づいて、前記新規対象者と異なる前記要公平性属性の値ごとの補正スコアを算出し、
前記補正スコアと、前記第２のスコアと、から前記新規対象者にとって最も有利なスコアを前記新規対象者に対する審査結果を示すスコアを選択する、審査支援システム。
【請求項５】
請求項４に記載の審査支援システムであって、
表示装置に接続され、
前記プロセッサは、
前記新規対象者に対する審査結果を示すスコアを、前記補正スコアから選択した場合、前記学習モデルから出力されたスコアが補正されたスコアが採用されたことを示す表示を、前記表示装置に表示し、
前記新規対象者に対する審査結果を示すスコアを、前記第２のスコアから選択した場合、前記学習モデルから出力されたスコアが採用されたことを示す表示を、前記表示装置に表示する、審査支援システム。
【請求項６】
人物に対する審査を支援する審査支援システムによる審査支援方法であって、
前記審査支援システムは、プロセッサとメモリとを有し、
前記メモリは、
前記審査の過去対象者の要公平性属性と公平性判断属性とを含む複数の属性と、前記過去対象者に対する前記審査の審査結果を示すスコアと、を示すログ情報と、
前記過去対象者の前記複数の属性を目的変数とし、前記過去対象者の前記スコアを説明変数とする訓練データに対する機械学習によって得られた学習モデルと、
前記審査の新規対象者の前記複数の属性を示す入力属性情報と、
前記公平性判断属性の値が類似する条件を示す公平性判断属性情報と、を保持し、
前記審査支援方法は、
前記プロセッサが、前記公平性判断属性情報が示す条件を参照して、前記公平性判断属性の値が前記新規対象者と類似する過去対象者である比較用対象者の前記複数の属性を、前記ログ情報から取得し、
前記プロセッサが、前記比較用対象者の複数の属性を前記学習モデルに入力して、第１のスコアを取得し、
前記プロセッサが、前記新規対象者と、前記新規対象者の前記要公平性属性の値を変更した変更後対象者と、それぞれの前記複数の属性を前記学習モデルに入力して、第２のスコアを取得し、
前記プロセッサが、前記第１のスコアの分布における前記第２のスコアの位置に基づいて、前記新規対象者に対する審査結果を示すスコアを出力する、審査支援方法。
【請求項７】
請求項６に記載の審査支援方法であって、
前記ログ情報は、前記過去対象者が行う行動によって発生するイベントの結果をさらに示し、
前記審査支援方法は、
前記プロセッサが、前記新規対象者と同じ前記要公平性属性の値を有する比較用対象者の前記第１のスコアの、当該比較用対象者の前記イベントの結果ごとの平均値を、当該比較用対象者の前記分布として算出し、
前記プロセッサが、前記イベントの結果ごとの平均値と、前記新規対象者の前記第２のスコアと、の差に基づく比率を、前記第２のスコアの位置として算出する、審査支援方法。
【請求項８】
請求項７に記載の審査支援方法であって、
前記審査は、融資審査であり、
前記審査結果を示すスコアは、融資可能額及び返済可能性を含み、
前記イベントの結果は、前記過去対象者への融資金額の前記過去対象者による返済結果を示す、審査支援方法。
【請求項９】
請求項７に記載の審査支援方法であって、
前記プロセッサが、前記新規対象者と異なる前記要公平性属性の値を有する比較用対象者の前記第１のスコアの、当該比較用対象者の前記イベントの結果ごとかつ前記要公平性属性の値ごとの平均値を、当該要公平性属性の値を有する比較用対象者における前記分布として算出し、
前記プロセッサが、前記要公平性属性の値ごとに、当該要公平性属性の値に対応する前記イベントの結果ごとの平均値と、前記比率と、に基づいて、前記新規対象者と異なる前記要公平性属性の値ごとの補正スコアを算出し、
前記プロセッサが、前記補正スコアと、前記第２のスコアと、から前記新規対象者にとって最も有利なスコアを前記新規対象者に対する審査結果を示すスコアを選択する、審査支援方法。
【請求項１０】
請求項９に記載の審査支援方法であって、
前記審査支援システムは、表示装置に接続され、
前記審査支援方法は、
前記プロセッサが、前記新規対象者に対する審査結果を示すスコアを、前記補正スコアから選択した場合、前記学習モデルから出力されたスコアが補正されたスコアが採用されたことを示す表示を、前記表示装置に表示し、
前記プロセッサが、前記新規対象者に対する審査結果を示すスコアを、前記第２のスコアから選択した場合、前記学習モデルから出力されたスコアが採用されたことを示す表示を、前記表示装置に表示する、審査支援方法。

発明の詳細な説明【技術分野】
【０００１】
本発明は、審査支援システム及び審査支援方法に関する。
続きを表示（約 3,100 文字）【背景技術】
【０００２】
本技術分野の背景技術として、特開２０２１－１２５９３号公報（特許文献１）がある。この公報には、「機械学習により作成された第１のモデルを管理する公平性管理システムであって、第１の入力値を含む入力を用いた第１のモデルによる予測の結果である第１の予測結果が所定の条件を満たす場合に、入力に含まれる当該第１の入力値を第２の入力値に置換する置換手段と、置換が行われた後の入力を用いた第１のモデルによる予測の結果である第２の予測結果を保存する保存手段と、第２の予測結果に対するフィードバックを受け付ける受付手段と、受け付けたフィードバックに基づき、第１の入力値を含む入力と第２の予測結果とからなる学習用データを用いた機械学習を行うことで第２のモデルを作成する作成手段と、を有する。」と記載されている（要約参照）。
【先行技術文献】
【特許文献】
【０００３】
特開２０２１－１２５９３号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１に記載の技術は、公平性を担保するために、入力データにおける性別や人種等の公平性が要求される対象属性の値を書き換えて、学習済みモデルによる出力値の変更を試みている。しかし、当該対象属性に指定されていない属性であっても、当該対象属性と関連性の高い属性が存在する。
【０００５】
例えば、公平性が要求される対象属性に性別及び人種が含まれ、趣味、資格、出身校、及び居住地域が当該対象属性に含まれないものの学習済みモデルの入力属性に含まれているものとする。この場合に、特定の趣味や特定の資格を有する人物の大半が特定の性別である、特定の学校の出身者の大半が特定の性別である、特定の地域に居住する人物の大半が特定の人種である、等のようなケースが多くある。つまり、公平性が要求される対象属性に含まれる性別は、当該対象属性に含まれないものの入力属性に含まれる趣味、資格、及び出身校と、高い関連性を有し、公平性が要求される対象属性に含まれる人種は、当該対象属性に含まれないものの入力属性に含まれる居住地域と高い関連性を有する。
【０００６】
従って、特許文献１に記載の技術における学習済みモデルには、当該特定の趣味、当該特定の資格、当該特定の出身校、及び当該特定の居住地域等による影響が含まれるため、入力データにおける性別や人種を書き換えたところで、学習済みモデルによる出力には性別や人種によるバイアスが残るおそれがある。そこで、本発明の一態様は、人物に対する審査において特定の属性に関して公平な審査結果を出力する。
【課題を解決するための手段】
【０００７】
上記課題を解決するため、本発明の一態様は以下の構成を採用する。人物に対する審査を支援する審査支援システムは、プロセッサとメモリとを有し、前記メモリは、前記審査の過去対象者の要公平性属性と公平性判断属性とを含む複数の属性と、前記過去対象者に対する前記審査の審査結果を示すスコアと、を示すログ情報と、前記過去対象者の前記複数の属性を目的変数とし、前記過去対象者の前記スコアを説明変数とする訓練データに対する機械学習によって得られた学習モデルと、前記審査の新規対象者の前記複数の属性を示す入力属性情報と、前記公平性判断属性の値が類似する条件を示す公平性判断属性情報と、を保持し、前記プロセッサは、前記公平性判断属性情報が示す条件を参照して、前記公平性判断属性の値が前記新規対象者と類似する過去対象者である比較用対象者の前記複数の属性を、前記ログ情報から取得し、前記比較用対象者の複数の属性を前記学習モデルに入力して、第１のスコアを取得し、前記新規対象者と、前記新規対象者の前記要公平性属性の値を変更した変更後対象者と、それぞれの前記複数の属性を前記学習モデルに入力して、第２のスコアを取得し、前記第１のスコアの分布における前記第２のスコアの位置に基づいて、前記新規対象者に対する審査結果を示すスコアを出力する。
【発明の効果】
【０００８】
本発明の一態様によれば、人物に対する審査において特定の属性に関して公平な審査結果を出力することができる。
【０００９】
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【００１０】
実施例１における融資審査支援システムの構成例を示すブロック図である。
実施例１における学習部による処理の概要の一例を示す説明図である。
実施例１における融資審査支援情報推論部に含まれる機能部間の関係を示す説明図である。
実施例１における融資審査支援情報推論部に含まれる全体処理部を除く機能部による処理の概要の一例を示す説明図である。
実施例１における入力ログ情報のデータ構成例を示す図である。
実施例１における判断結果ログ情報のデータ構成例を示す図である。
実施例１における返済結果ログ情報のデータ構成例を示す図である。
実施例１における要公平性属性情報のデータ構成例を示す図である。
実施例１における公平性判断属性情報のデータ構成例を示す図である。
実施例１における入力属性情報のデータ構成例を示す図である。
実施例１における要公平性属性値組み合わせ情報のデータ構成例を示す図である。
実施例１における変更後入力属性情報のデータ構成例を示す図である。
実施例１における確認対象結果情報のデータ構成例を示す図である。
実施例１における比較用入力情報のデータ構成例を示す図である。
実施例１における比較用入力対応情報のデータ構成例を示す図である。
実施例１における比較用結果情報のデータ構成例を示す図である。
実施例１における比較用平均情報のデータ構成例を示す図である。
実施例１における補正比率情報のデータ構成例を示す図である。
実施例１における補正候補情報のデータ構成例を示す図である。
実施例１における補正出力情報のデータ構成例を示す図である。
実施例１における学習処理の一例を示すフローチャートである。
実施例１における全体処理の一例を示すフローチャートである。
実施例１における属性入力保存処理の一例を示すフローチャートである。
実施例１における審査対象者情報入力画面の画面構成例を示す図である。
実施例１における変更後入力属性情報生成処理の一例を示すフローチャートである。
実施例１における比較用入力情報生成処理の一例を示すフローチャートである。
実施例１における変更後入力属性情報投入処理の一例を示すフローチャートである。
実施例１における比較用入力情報投入処理の一例を示すフローチャートである。
実施例１における平均値計算処理の一例を示すフローチャートである。
実施例１における比率計算処理の一例を示すフローチャートである。
実施例１における出力値補正処理の一例を示すフローチャートである。
実施例１における表示処理の一例を示すフローチャートである。
実施例１における融資審査支援情報表示画面の画面構成例を示す図である。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許