特許ウォッチ

公開番号2024055111
公報種別公開特許公報(A)
公開日2024-04-18
出願番号2022161752
出願日2022-10-06
発明の名称機械学習プログラム,機械学習方法及び情報処理装置
出願人富士通株式会社
代理人弁理士法人真田特許事務所,個人
主分類G06F 8/77 20180101AFI20240411BHJP(計算;計数)
要約【課題】AIシステムの開発者や提供者が、AIシステムの運用によって発生し得る倫理リスクを適切に認識し対処することを支援する。
【解決手段】入力されたAIシステムの構成に基づいて定まる、それぞれが複数の属性を含む第1の複数の関係情報(D2)と他のAIシステムの構成に基づいて定まる第2の複数の関係情報(D4)とを比較し、比較の結果に基づいて、第1の複数の関係情報(D2)の優先度を決定し、各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、AIシステムのチェックリスト(D8)として出力する。
【選択図】図9
特許請求の範囲【請求項１】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータに実行させる、機械学習プログラム。
続きを表示（約 1,400 文字）【請求項２】
前記比較する処理において、前記第１の複数の関係情報と前記第２の複数の関係情報とをグラフ構造で比較し、
前記優先度を決定する処理において、前記比較の結果に基づいて、前記第１の複数の関係情報のうち、前記第２の複数の関係情報との差分が検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項１に記載の機械学習プログラム。
【請求項３】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないノードと、前記ＡＩシステムに含まれ、かつ、前記他のＡＩシステムに含まれないエッジとを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項２に記載の機械学習プログラム。
【請求項４】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、入次数又は出次数が変更されたノードと、変更があったノードと連結しているエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項３に記載の機械学習プログラム。
【請求項５】
前記優先度を決定する処理において、前記第１の複数の関係情報における前記グラフ構造のうち、前記第２の複数の関係情報との差分として、更に、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジを検出して、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項４に記載の機械学習プログラム。
【請求項６】
前記優先度を決定する処理において、前記変更があったノードと連結しているエッジ以降に連結されているノード及びエッジについて、前記変更があったノードからのホップ数が少ないノード又はエッジほど、検出優先度を高く付け、検出された関係情報の優先度を高くする、
処理を前記コンピュータに実行させる、請求項５に記載の機械学習プログラム。
【請求項７】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
処理をコンピュータが実行する、機械学習方法。
【請求項８】
入力されたArtificial Intelligence（ＡＩ）システムの構成に基づいて定まる、それぞれが複数の属性を含む第１の複数の関係情報と他のＡＩシステムの構成に基づいて定まる第２の複数の関係情報とを比較し、
前記比較の結果に基づいて、前記第１の複数の関係情報の優先度を決定し、
各属性と対応付けられた複数のチェック項目のうち、決定された優先度に基づいて選択された一又は複数のチェック項目を、ＡＩシステムのチェックリストとして出力する、
プロセッサを備える、情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、機械学習プログラム，機械学習方法及び情報処理装置に関する。
続きを表示（約 1,200 文字）【背景技術】
【０００２】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【０００３】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【０００４】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【０００５】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。
【０００６】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【０００７】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【０００８】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【０００９】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
【００１０】
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【先行技術文献】
【特許文献】
（【００１１】以降は省略されています）

関連特許