特許ウォッチ

公開番号2024141987
公報種別公開特許公報(A)
公開日2024-10-10
出願番号2023053910
出願日2023-03-29
発明の名称評価プログラム,評価方法及び情報処理装置
出願人富士通株式会社
代理人弁理士法人真田特許事務所,個人
主分類G06N 5/02 20230101AFI20241003BHJP(計算;計数)
要約【課題】AIシステムの倫理リスクの対処において、事例に則した優先度の高いチェック項目の抽出を可能とする。
【解決手段】AIシステムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、構成要素の限定条件に基づいて、複数のルール202から一以上のルールD2を選択し、選択した一以上のルールD2に基づいて、特定した複数の組の優先度を決定し、決定した優先度に基づいてAIシステムのAI倫理リスク評価結果を出力する。
【選択図】図11
特許請求の範囲【請求項１】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータに実行させることを特徴とする、評価プログラム。
続きを表示（約 1,000 文字）【請求項２】
選択した前記一以上のルールについて、複数の指標毎に、被害の深刻さに応じた加点をすることによって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、請求項１に記載の評価プログラム。
【請求項３】
前記複数の指標は、インシデントによって生じる身体的被害と経済的被害と精神的被害と解決までの時間との少なくともいずれかを含む、
ことを特徴とする、請求項２に記載の評価プログラム。
【請求項４】
前記複数のルールは、複数のインシデントに基づいて作成された第１のルールと、個別のインシデントに基づいて作成された第２のルールとを含む、
ことを特徴とする、請求項１～３のいずれか一項に記載の評価プログラム。
【請求項５】
前記第１のルールによる被害の深刻さに応じた加点結果と、前記第２のルールによる被害の深刻さに応じた加点結果とについて、正規化を行って足し合わせた値によって、前記優先度を決定する、
処理を前記コンピュータに実行させることを特徴とする、請求項４に記載の評価プログラム。
【請求項６】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
処理をコンピュータが実行することを特徴とする、評価方法。
【請求項７】
Artificial Intelligence（ＡＩ）システムのステークホルダーを含む構成情報に基づいて、互いに関係のある構成要素の複数の組を特定し、
前記構成要素の限定条件に基づいて、複数のルールから一以上のルールを選択し、
選択した前記一以上のルールに基づいて、特定した前記複数の組の優先度を決定し、
決定した前記優先度に基づいて前記ＡＩシステムのＡＩ倫理リスク評価結果を出力する、
プロセッサを備えることを特徴とする、情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、評価プログラム，評価方法及び情報処理装置に関する。
続きを表示（約 1,000 文字）【背景技術】
【０００２】
ＡＩ（Artificial Intelligence）システムにおいて、倫理的なリスクのアセスメントが行われることがある。
【０００３】
さまざまな業種やタスクのＡＩシステムを利用することで、倫理上の問題が発生することがある。そのような問題が発生すると、ＡＩシステムを提供した企業や組織だけでなく、ＡＩシステムの利用者やその先にある社会に対する影響も大きい。
【０００４】
そこで、ＡＩを社会実装する上で、倫理上のリスクを認識し対処できるような取り組みが行われている。
【０００５】
しかし、ＡＩシステムが複数のステークホルダーを持ち、それらを取り巻く社会状況が変化することで、ＡＩシステムの利用によってどのような倫理的な問題が発生するかを検知することは容易でない場合がある。なお、ＡＩシステムのステークホルダーとは、ＡＩシステムにおける利害関係者のことであり、例えば、ＡＩシステムの提供者（設計者や開発者等を含む）、ＡＩシステムの利用者、ＡＩシステムに対するデータの提供者等を含んでよい。
【０００６】
そこで、ＡＩ倫理に関する原則やガイドラインが示すチェックリストそのものが、ＡＩシステムやそのステークホルダーに当てはめられて分析されることがある。
【０００７】
ＡＩ倫理に関する原則やガイドラインの例としては、「欧州High-Level Expert Group on AI (AI HLEG) “Ethics Guidelines for Trustworthy AI”」や「総務省 AI利活用ガイドライン」，「統合イノベーション戦略推進会議“人間中心のAI社会原則”」，「OECD “Recommendation of the Council on Artificial Intelligence”」が存在する。
【０００８】
また、様々なＡＩサービス提供の形態の存在を踏まえつつ、ＡＩサービス提供者が自らのＡＩサービスに係るリスクコントロール検討に資するモデルとして、「リスクチェーンモデル（Risk Chain Model: RCModel）」が提案されている。
【０００９】
リスクチェーンモデルでは、以下の（１）～（３）によって、リスク構成要素の整理及び構造化が行われる。
【００１０】
（１）ＡＩシステムの技術的構成要素
（【００１１】以降は省略されています）

関連特許