特許ウォッチ

公開番号2024084575
公報種別公開特許公報(A)
公開日2024-06-25
出願番号2022198909
出願日2022-12-13
発明の名称AIシステムチェックプログラム,AIシステムチェック方法及び情報処理装置
出願人富士通株式会社
代理人弁理士法人真田特許事務所,個人
主分類G06Q 50/10 20120101AFI20240618BHJP(計算;計数)
要約【課題】AIシステムのシステム図の精度向上による、リスク分析作業の精度向上及び効率化を図る。
【解決手段】AIシステムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第1の複数の組を特定し、第1の複数の組と、他のAIシステム100aのステークホルダーの構成に基づいて定まるステークホルダーの第2の複数の組とを比較し、比較する処理の結果に基づいて、第1の複数の組に含まれ、第2の複数の組に含まれない第1の組を差分情報として出力する。
【選択図】図8
特許請求の範囲【請求項１】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータに実行させる、ＡＩシステムチェックプログラム。
続きを表示（約 1,000 文字）【請求項２】
前記差分情報として、更に、前記比較する処理の結果に基づいて、前記第２の複数の組に含まれ、前記第１の複数の組に含まれない第２の組を出力する、
処理を前記コンピュータに実行させる、請求項１に記載のＡＩシステムチェックプログラム。
【請求項３】
前記第１の複数の組は、テンプレートとしての前記ＡＩシステムのステークホルダーの構成に基づいて定められ、
前記第２の複数の組は、プロジェクトとしての前記他のＡＩシステムのステークホルダーの構成に基づいて定められる、
請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項４】
二以上の前記第１の複数の組についての前記ＡＩシステムに含まれる文書と、前記他のＡＩシステムに含まれる文書との類似度に基づき、前記二以上の前記第１の複数の組の中から、一つの前記第１の複数の組を選定する、
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項５】
前記差分情報を前記他のＡＩシステムに反映させる、
処理を前記コンピュータに実行させる、請求項１又は２に記載のＡＩシステムチェックプログラム。
【請求項６】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
処理をコンピュータが実行する、ＡＩシステムチェック方法。
【請求項７】
Artificial Intelligence（ＡＩ）システムのステークホルダーの構成に基づいて、互いに関係を有するステークホルダーの第１の複数の組を特定し、
前記第１の複数の組と、他のＡＩシステムのステークホルダーの構成に基づいて定まるステークホルダーの第２の複数の組とを比較し、
前記比較する処理の結果に基づいて、前記第１の複数の組に含まれ、前記第２の複数の組に含まれない第１の組を差分情報として出力する、
プロセッサを備える、情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、ＡＩシステムチェックプログラム，ＡＩシステムチェック方法及び情報処理装置に関する。
続きを表示（約 970 文字）【背景技術】
【０００２】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【０００３】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【０００４】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【０００５】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。
【０００６】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【０００７】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【０００８】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【０００９】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
【００１０】
（１）ＡＩシステムの技術的構成要素
（【００１１】以降は省略されています）

関連特許