特許ウォッチ

公開番号2024155606
公報種別公開特許公報(A)
公開日2024-10-31
出願番号2023070463
出願日2023-04-21
発明の名称機械学習プログラム、方法、及び装置
出願人富士通株式会社
代理人弁理士法人太陽国際特許事務所
主分類G06N 5/045 20230101AFI20241024BHJP(計算;計数)
要約【課題】公平なルールモデルの精度劣化を抑制する。
【解決手段】機械学習装置は、複数の属性のうち保護属性と閾値より高い相関を有する第1の属性を特定し、第1の属性と目的変数との第1の相関を特定し、複数の属性を目的変数に対する説明変数とした、複数の属性のうち一又は複数の属性を含む複数のルールのうち、第1の属性を含む第1のルール内の第1の属性に関する条件と、第1の相関との比較の処理を実行し、比較の処理の結果に基づいて、複数のルールから第1のルールを除いたルールを含む機械学習モデルを生成する。
【選択図】図4
特許請求の範囲【請求項１】
複数の属性のうち保護属性と閾値より高い相関を有する第１の属性を特定し、
前記第１の属性と目的変数との第１の相関を特定し、
前記複数の属性を前記目的変数に対する説明変数とした、前記複数の属性のうち一又は複数の属性を含む複数のルールのうち、前記第１の属性を含む第１のルール内の前記第１の属性に関する条件と、前記第１の相関との比較の処理を実行し、
前記比較の処理の結果に基づいて、前記複数のルールから前記第１のルールを除いたルールを含む機械学習モデルを生成するか、又は、各々に重みが設定された前記複数のルールにおける前記第１のルールについて設定された重みを低下させた機械学習モデルを生成する、
処理をコンピュータに実行させることを特徴とする機械学習プログラム。
続きを表示（約 1,200 文字）【請求項２】
前記比較の処理は、前記第１のルールが、前記第１の属性に関する条件に合致するデータが正例であることを示す正ルールか又は負例であることを示す負ルールかと、前記第１の相関が正相関か又は負相関かとを比較することを含み、
前記機械学習モデルを生成する処理は、前記第１のルールが正ルール、かつ前記第１の相関が負相関の場合、又は、前記第１のルールが負ルール、かつ前記第１の相関が正相関の場合に、前記第１のルールを除外するか、又は、前記第１のルールについて設定された重みを低下させることを含む、
ことを特徴とする請求項１に記載の機械学習プログラム。
【請求項３】
前記第１の属性が説明変数として正の文脈で使用されるか、又は負の文脈で使用されるかを示す文脈情報を前記第１の属性に付与し、
前記文脈情報が付与された前記第１の属性については、前記第１の属性を含む第１のルール内の前記第１の属性に関する条件と、前記文脈情報との比較の処理を実行する、
ことを特徴とする請求項１又は請求項２に記載の機械学習プログラム。
【請求項４】
複数の属性のうち保護属性と閾値より高い相関を有する第１の属性を特定し、
前記第１の属性と目的変数との第１の相関を特定し、
前記複数の属性を前記目的変数に対する説明変数とした、前記複数の属性のうち一又は複数の属性を含む複数のルールのうち、前記第１の属性を含む第１のルール内の前記第１の属性に関する条件と、前記第１の相関との比較の処理を実行し、
前記比較の処理の結果に基づいて、前記複数のルールから前記第１のルールを除いたルールを含む機械学習モデルを生成するか、又は、各々に重みが設定された前記複数のルールにおける前記第１のルールについて設定された重みを低下させた機械学習モデルを生成する、
処理をコンピュータが実行することを特徴とする機械学習方法。
【請求項５】
複数の属性のうち保護属性と閾値より高い相関を有する第１の属性を特定し、
前記第１の属性と目的変数との第１の相関を特定し、
前記複数の属性を前記目的変数に対する説明変数とした、前記複数の属性のうち一又は複数の属性を含む複数のルールのうち、前記第１の属性を含む第１のルール内の前記第１の属性に関する条件と、前記第１の相関との比較の処理を実行し、
前記比較の処理の結果に基づいて、前記複数のルールから前記第１のルールを除いたルールを含む機械学習モデルを生成するか、又は、各々に重みが設定された前記複数のルールにおける前記第１のルールについて設定された重みを低下させた機械学習モデルを生成する、
処理を実行する制御部、
を含むことを特徴とする機械学習装置。

発明の詳細な説明【技術分野】
【０００１】
開示の技術は、機械学習プログラム、機械学習方法、及び機械学習装置に関する。
続きを表示（約 2,600 文字）【背景技術】
【０００２】
機械学習モデルを用いたシステムの普及に伴い、倫理的な公平性を考慮したシステムの設計が重要視されるようになってきている。例えば、機械学習モデルを用いたシステムで人材採用の採否を判定する場合、応募者の性別が判定に影響しないように設計する場合等がある。このような公平性に配慮したシステムを構築するためには、機械学習モデルが不当な差別を引き起こさないように、機械学習モデルから不公平なバイアスを排除する必要がある。
【０００３】
また、機械学習モデルを用いたシステムの透過性も求められており、処理ロジックの説明性があり、かつ処理結果が公平になるような機械学習モデルを構築することが行われている。説明性のある機械学習モデルとして、ルールモデルがある。ルールモデルは、条件Ｐに該当するサンプルの目的変数値はＱと推定されることを表す「ＰならばＱ」の形式を持つ複数のルールで構成された、説明可能な機械学習モデルである。例えば、実世界のデータセットで訓練されたブラックボックスモデルをルールモデルによる２クラス分類に焦点を当てて評価し、ブラックボックスモデルの説明のために代理のホワイトボックスモデルを提示する方法が提案されている。
【０００４】
また、公平なルールのマイニング技術として、特定の条件及び文脈が成立する場合に、不公平なルールを、性別、人種等の保護属性及び保護属性以外の特定の属性を含む条件と目的変数との相関情報に基づいて検出する技術が提案されている。例えば、ローンの可否を判定する機械学習モデルを構成するルールについて、ある特定の居住地に限定した場合に、特定の人種のユーザが不利な判定となるような不公平なルールが検出し、検出したルールを除外する技術が提案されている。
【０００５】
また、機械学習モデルを用いたタスクの目的に合わせた公平な説明性を実現するための技術も提案されている。例えば、目的に応じて事前に専門家により定義した因果構造モデルによる知識情報を基に公平性を実現する方法が提案されている。この方法では、例えば、体力を要する人材採用の採否を判定するためのルールを生成する場合、保護属性である性別Ａによって採否Ｙを判定することは差別であるとする一方で、性別Ａと関連する体力Ｍによって採否を判定することは差別ではないとする。この方法は、このような属性間の関係（上記の例では、Ａ⇒Ｍ⇒Ｙ）を現した知識体系を事前に定義しておく。
【先行技術文献】
【非特許文献】
【０００６】
Ulrich A▲i▼vodji, Hiromi Arai, Olivier Fortineau, S▲e▼bastien Gambs, Satoshi Hara, Alain Tapp, "Fairwashing: the risk of rationalization," ICML 2019, arXiv:1901.09749v3 [cs.LG] 15 May 2019.
Dino Pedreschi, Salvatore Ruggieri, Franco Turini, "Discrimination-aware Data Mining," Proc. 14th ACM SIGKDD Int. Conf. on Knowledge Discovery and Data Mining, pp.560-568, 24 August 2008.
Yoichi Chikahara, Shinsaku Sakaue, Akinori Fujino, Hisashi Kashima, "Learning Individually Fair Classifier with Path-Specific Causal-Effect Constraint," in Proc. the 24th International Conference on Artificial Intelligence and Statistics, PMLR 130:145-153, 2021.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかし、ブラックボックスモデルの説明のために代理のホワイトボックスモデルを提示する方法では、公平性の偽装が起こり得るという問題がある。また、従来の相関情報を用いたルールマイニングの技術に基づいて不公平な説明になり得るルールを全て排除した場合、本質的に必要なルールも排除してしまい、結果としてルールモデルの判定精度が劣化する場合があるという問題がある。例えば、体力という属性が保護属性である性別によって偏りがあるという理由で、体力という属性を含むルールを排除した場合、体力を要する人材採用の採否を判定するルールモデルの判定精度が劣化する。
【０００８】
一つの側面として、開示の技術は、公平なルールモデルの精度劣化を抑制することを目的とする。
【課題を解決するための手段】
【０００９】
一つの態様として、開示の技術は、複数の属性のうち保護属性と閾値より高い相関を有する第１の属性を特定し、前記第１の属性と目的変数との第１の相関を特定する。また、開示の技術は、前記複数の属性を前記目的変数に対する説明変数とした、前記複数の属性のうち一又は複数の属性を含む複数のルールのうち、前記第１の属性を含む第１のルール内の前記第１の属性に関する条件と、前記第１の相関との比較の処理を実行する。そして、開示の技術は、前記比較の処理の結果に基づいて、前記複数のルールから前記第１のルールを除いたルールを含む機械学習モデルを生成する。又は、開示の技術は、各々に重みが設定された前記複数のルールにおける前記第１のルールについて設定された重みを低下させた機械学習モデルを生成する。
【発明の効果】
【００１０】
一つの側面として、公平なルールモデルの精度劣化を抑制することができる、という効果を有する。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許