特許ウォッチ

公開番号2024124670
公報種別公開特許公報(A)
公開日2024-09-13
出願番号2023032504
出願日2023-03-03
発明の名称評価支援プログラム、評価支援方法、および情報処理装置
出願人富士通株式会社
代理人弁理士法人扶桑国際特許事務所
主分類G06F 16/28 20190101AFI20240906BHJP(計算;計数)
要約【課題】AIシステムの運用に関するチェック項目の内容を容易に把握できるようにする。
【解決手段】情報処理装置10は、AIシステム1内の機能2a,2bと、管理対象データ3a,3b,3c,3dと、関係者4a,4b,4cとのうちの二者の間のデータ受け渡し関係を示す関係情報11aに基づいて、第1のパス6を特定する。第1のパス6は、機能2a,2bと管理対象データ3a,3b,3c,3dと関係者4a,4b,4cとのうちの1つを始点とし他の1つを終点としたときの始点から終点へデータ受け渡し関係を辿る経路を示す。情報処理装置10は、関係情報11aに示されるデータ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、第1のパス6に示される経路上の第1のデータ受け渡し関係7に関連する第1のチェック項目を選択する。そして情報処理装置10は、第1のチェック項目の情報を表示させる。
【選択図】図1
特許請求の範囲【請求項１】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータに実行させることを特徴とする評価支援プログラム。
続きを表示（約 1,300 文字）【請求項２】
前記第１のチェック項目が複数ある場合、前記複数のチェック項目それぞれが複数のグループのうちのどれに属するのかを示す分類情報に基づいて、複数の前記第１のチェック項目のうちの第１のグループに属する第２のチェック項目を選択する処理を、前記コンピュータにさらに実行させ、
前記第１のチェック項目の情報を表示させる処理では、複数の前記第１のチェック項目のうちから選択された前記第２のチェック項目の情報を表示させる、
請求項１記載の評価支援プログラム。
【請求項３】
前記第１のパスを特定する処理では、前記始点と前記終点との指定に加え、前記機能、前記管理対象データ、または前記関係者のうちの少なくとも１つが経由対象として指定されたパス情報に基づいて、前記データ受け渡し関係を前記始点から前記経由対象を経由して前記終点へ辿る経路を、前記第１のパスとして特定する、
請求項１または２記載の評価支援プログラム。
【請求項４】
前記複数のチェック項目それぞれには、関連する前記データ受け渡し関係で生じるリスクが示されており、
前記第１のチェック項目の情報を表示させる処理では、前記第１のチェック項目に対応する前記リスクを、前記第１のチェック項目に関連する前記データ受け渡し関係に関連付けて表示させる、
請求項１または２記載の評価支援プログラム。
【請求項５】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、
前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、
前記第１のチェック項目の情報を表示させる、
処理をコンピュータが実行することを特徴とする評価支援方法。
【請求項６】
ＡＩ（Artificial Intelligence）システム内の機能と、前記ＡＩシステムが管理する管理対象データと、前記ＡＩシステムの運用に関わる関係者とのうちの二者の間のデータ受け渡し関係を示す関係情報に基づいて、前記機能と前記管理対象データと前記関係者とのうちの１つを始点とし他の１つを終点としたときの前記始点から前記終点へ前記データ受け渡し関係を辿る経路を示す第１のパスを特定し、前記関係情報に示される前記データ受け渡し関係のいずれかに関連付けられた複数のチェック項目のうち、前記第１のパスに示される経路上の第１のデータ受け渡し関係に関連する第１のチェック項目を選択し、前記第１のチェック項目の情報を表示させる処理部、
を有する情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、評価支援プログラム、評価支援方法、および情報処理装置に関する。
続きを表示（約 1,900 文字）【背景技術】
【０００２】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
例えばさまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。このような取り組みが、倫理的なリスクのアセスメントである。
【０００３】
ＡＩシステムは複数のステークホルダを持ち、ステークホルダを取り巻く社会状況が変化する。ステークホルダは、システムに関わる人または組織である。ステークホルダを取り巻く環境が変化するため、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。そこで、ＡＩ倫理に関する原則やガイドラインが示す倫理的なリスクに関するチェックリストに基づいて、ＡＩシステムやそのステークホルダに当てはめて、存在する倫理的なリスクの分析が行われることがある。
【０００４】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省ＡＩ利活用ガイドライン」、「統合イノベーション戦略推進会議“人間中心のＡＩ社会原則”」、「OECD“Recommendation of the Council on Artificial Intelligence”」が存在する。
【０００５】
また、さまざまなＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【０００６】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
（１）ＡＩシステムの技術的構成要素
（２）サービス提供者の行動規範（ユーザとのコミュニケーションを含む）に係る構成要素
（３）ユーザの理解・行動・利用環境に係る構成要素
また、リスクチェーンモデルでは、リスクシナリオの識別及びリスク要因となる構成要素の特定と、リスクチェーンの可視化及びリスクコントロールの検討が行われる。リスクチェーンの可視化及びリスクコントロールの検討では、ＡＩサービス提供者はリスクシナリオに関連する構成要素の関係性（リスクチェーン）を可視化することで、段階的なリスク低減の検討が可能になる。
【先行技術文献】
【非特許文献】
【０００７】
松本敬史，江間有沙，“AIサービスのリスク低減を検討するリスクチェーンモデルの提案”，2020年6月4日，インターネット＜ＵＲＬ：ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2020/06/policy_recommendation_tg_20200604.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【０００８】
ＡＩシステム運用時の倫理的なリスクに関するチェックリストには大量のチェック項目が含まれるが、互いの関連性は明確でない。また、倫理的な観点を詳細化したチェックリストであるために、同じ観点から詳細化された類似した内容のチェック項目が複数存在することがある。
【０００９】
しかし、従来の倫理的なリスクのアセスメントでは、多数のチェック項目で示される個々のリスクを示すにとどまる。そのため、このチェックリストを用いて抽出されたリスクを関係者が理解し対策の検討を進める作業において、関係者は、似たようなリスクを何度も検討することになり、時間的および心理的な負担が大きい。そこでＡＩシステムが有する倫理的なリスクの把握に要する作業負担を軽減することが求められている。
【００１０】
これまでＡＩシステムの倫理的なリスクの理解と対策に関する問題を説明したが、ＡＩシステムの運用に関する他のリスク（例えば個人情報の不正利用のリスク）またはリスク以外のチェック項目の内容を理解する際にも同様の問題が生じる。
（【００１１】以降は省略されています）

関連特許