特許ウォッチ

公開番号2025043122
公報種別公開特許公報(A)
公開日2025-03-28
出願番号2023150450
出願日2023-09-15
発明の名称情報処理プログラム、情報処理方法および情報処理装置
出願人富士通株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06N 3/0985 20230101AFI20250321BHJP(計算;計数)
要約【課題】モデルのチューニングを適正に行う。
【解決手段】実施形態の情報処理プログラムは、機械学習モデルにおける複数の指標のそれぞれに対する評価を示す評価結果を取得し、複数の指標の組み合わせパターンごとに評価結果をクラスタリングし、組み合わせパターンごとにクラスタ内の評価結果の分散を算出し、算出した評価結果の分散に基づいて、複数の組み合わせパターンの中から所定の条件を満たす組み合わせパターンを決定し、決定した組み合わせパターンに対して行われたクラスタリングによるクラスタそれぞれに含まれる評価結果に基づいて、クラスタごとに複数の指標それぞれに対する評価を集計し、集計した複数の指標それぞれに対する評価に基づいて機械学習モデルにおける複数の指標それぞれの解を決定する処理をコンピュータに実行させる。
【選択図】図11
特許請求の範囲【請求項１】
機械学習モデルにおける複数の指標のそれぞれに対する評価を示す評価結果を取得し、
前記複数の指標の組み合わせパターンごとに前記評価結果をクラスタリングし、
前記組み合わせパターンごとにクラスタ内の前記評価結果の分散を算出し、
算出した前記評価結果の分散に基づいて、複数の前記組み合わせパターンの中から所定の条件を満たす組み合わせパターンを決定し、
決定した前記組み合わせパターンに対して行われたクラスタリングによるクラスタそれぞれに含まれる前記評価結果に基づいて、前記クラスタごとに前記複数の指標それぞれに対する評価を集計し、
集計した前記複数の指標それぞれに対する評価に基づいて前記機械学習モデルにおける前記複数の指標それぞれの解を決定する、
処理をコンピュータに実行させることを特徴とする情報処理プログラム。
続きを表示（約 1,100 文字）【請求項２】
前記組み合わせパターンを決定する処理は、複数の前記組み合わせパターンの中から前記評価結果の分散が最小のパターンを決定する、
ことを特徴とする請求項１に記載の情報処理プログラム。
【請求項３】
前記解を決定する処理は、前記機械学習モデルにおける前記複数の指標それぞれの解集合の中から、前記複数の指標それぞれに対する評価とのユークリッド距離が近い解を決定する、
ことを特徴とする請求項１に記載の情報処理プログラム。
【請求項４】
前記評価結果は、前記機械学習モデルを用いた判定に関連する人に対するアンケート結果である
ことを特徴とする請求項１に記載の情報処理プログラム。
【請求項５】
機械学習モデルにおける複数の指標のそれぞれに対する評価を示す評価結果を取得し、
前記複数の指標の組み合わせパターンごとに前記評価結果をクラスタリングし、
前記組み合わせパターンごとにクラスタ内の前記評価結果の分散を算出し、
算出した前記評価結果の分散に基づいて、複数の前記組み合わせパターンの中から所定の条件を満たす組み合わせパターンを決定し、
決定した前記組み合わせパターンに対して行われたクラスタリングによるクラスタそれぞれに含まれる前記評価結果に基づいて、前記クラスタごとに前記複数の指標それぞれに対する評価を集計し、
集計した前記複数の指標それぞれに対する評価に基づいて前記機械学習モデルにおける前記複数の指標それぞれの解を決定する、
処理をコンピュータが実行することを特徴とする情報処理方法。
【請求項６】
機械学習モデルにおける複数の指標のそれぞれに対する評価を示す評価結果を取得し、
前記複数の指標の組み合わせパターンごとに前記評価結果をクラスタリングし、
前記組み合わせパターンごとにクラスタ内の前記評価結果の分散を算出し、
算出した前記評価結果の分散に基づいて、複数の前記組み合わせパターンの中から所定の条件を満たす組み合わせパターンを決定し、
決定した前記組み合わせパターンに対して行われたクラスタリングによるクラスタそれぞれに含まれる前記評価結果に基づいて、前記クラスタごとに前記複数の指標それぞれに対する評価を集計し、
集計した前記複数の指標それぞれに対する評価に基づいて前記機械学習モデルにおける前記複数の指標それぞれの解を決定する、
処理を実行する制御部を含むことを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明の実施形態は、情報処理プログラム、情報処理方法および情報処理装置に関する。
続きを表示（約 1,900 文字）【背景技術】
【０００２】
従来、ローン審査や人材採用のような人々の意思決定において、機械学習モデル（以下、モデル）を用いてローン審査官や採用担当者の意思決定を支援する情報処理システムが存在する。この情報処理システムでは、過去の事例における結果（ローン、採用の可否）を訓練データとして訓練したモデルに判定対象とする事例を入力して得られた判定結果（ローン、採用の可否）を出力する。
【０００３】
この情報処理システムからの出力には、人種、性別等によるバイアスが介在する問題がある。このようなバイアスは、性能指標や公平性指標を用いたモデルのチューニングによって軽減できるが、システムの影響を受ける利害関係者全員が納得できるようにチューニングすることが重要である。
【０００４】
このようなモデルのチューニングについては、多数決投票によって選好情報を集計し、この集計結果をチューニングに用いることで、システムの影響を受ける利害関係者の多様な選好を考慮する従来技術がある。
【先行技術文献】
【特許文献】
【０００５】
特開２０１５－８７９６６号公報
特開２０１３－１０１７００号公報
特開２００７－１７２４２７号公報
米国特許出願公開第２０２３／００２４３６１号明細書
米国特許出願公開第２０１６／０１８０４５１号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、上記の従来技術では、多数決投票によって死票が生じるため、少数意見をもつ利害関係者（例えばローン審査の事例が少ない女性、求職者数の少ない障碍者等）の選好が排除されることとなる。このため、従来技術では、少数意見をもつ利害関係者を含む利害関係者全員が納得できるようなモデルのチューニングは困難であるという問題がある。
【０００７】
１つの側面では、モデルのチューニングを適正に行うことができる情報処理プログラム、情報処理方法および情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
１つの案では、情報処理プログラムは、取得する処理と、クラスタリングする処理と、算出する処理と、組み合わせパターンを決定する処理と、集計する処理と、解を決定する処理とをコンピュータに実行させる。取得する処理は、機械学習モデルにおける複数の指標のそれぞれに対する評価を示す評価結果を取得する。クラスタリングする処理は、複数の指標の組み合わせパターンごとに評価結果をクラスタリングする。算出する処理は、組み合わせパターンごとにクラスタ内の評価結果の分散を算出する。決定する処理は、算出した評価結果の分散に基づいて、複数の組み合わせパターンの中から所定の条件を満たす組み合わせパターンを決定する。集計する処理は、決定した組み合わせパターンに対して行われたクラスタリングによるクラスタそれぞれに含まれる評価結果に基づいて、クラスタごとに複数の指標それぞれに対する評価を集計する。解を決定する処理は、集計した複数の指標それぞれに対する評価に基づいて機械学習モデルにおける複数の指標それぞれの解を決定する。
【発明の効果】
【０００９】
１実施態様によれば、モデルのチューニングを適正に行うことができる。
【図面の簡単な説明】
【００１０】
図１は、実施形態にかかる情報処理システムの構成例を示すブロック図である。
図２は、実施形態にかかる情報処理システムの動作例を示すフローチャートである。
図３は、モデル学習の概要を説明する説明図である。
図４は、アンケートの概要を説明する説明図である。
図５は、クラスタリング計算の概要を説明する説明図である。
図６は、ユークリッド距離計算の概要を説明する説明図である。
図７は、クラスタ内分散計算の概要を説明する説明図である。
図８は、クラスタ内分散平均最小値計算の概要を説明する説明図である。
図９は、クラスタ内選好値計算の概要を説明する説明図である。
図１０は、クラスタ全体選好値計算の概要を説明する説明図である。
図１１は、指標パラメータセットの概要を説明する説明図である。
図１２は、コンピュータ構成の一例を説明する説明図である。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許