TOP特許意匠商標
特許ウォッチ Twitter
10個以上の画像は省略されています。
公開番号2024020739
公報種別公開特許公報(A)
公開日2024-02-15
出願番号2022123153
出願日2022-08-02
発明の名称計算機システム
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06Q 50/10 20120101AFI20240207BHJP(計算;計数)
要約【課題】人の意思決定を効果的支援する。
【解決手段】記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納する。演算装置は、第1入力データから第1予測行動を出力するモデルによる第1予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得する。演算装置は、複数の説明対象要素それぞれによる、第1予測処理における価値及び価値の不確実性に対する寄与値を決定する。演算装置は、寄与値に基づいて第1予測処理におけるリスク要素を、複数の説明対象要素において検出する。演算装置は、リスク要素の情報を提示する。
【選択図】図2
特許請求の範囲【請求項1】
計算機システムであって、
演算装置と、
記憶装置と、を含み、
前記記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納し、
前記演算装置は、
第1入力データから第1予測行動を出力する前記モデルによる第1予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、
前記複数の説明対象要素それぞれによる、前記第1予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、
前記寄与値に基づいて前記第1予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、
前記リスク要素の情報を提示する、計算機システム。
続きを表示(約 1,000 文字)【請求項2】
請求項1に記載の計算機システムであって、
前記説明対象データは、前記第1予測行動である、計算機システム。
【請求項3】
請求項1に記載の計算機システムであって、
前記演算装置は、前記価値及び前記価値の不確実の双方を悪化させる寄与を示す説明対象要素を、前記リスク要素として検出する、計算機システム。
【請求項4】
請求項2に記載の計算機システムであって、
前記演算装置は、前記第1予測行動における一部の要素の値を変化させて、前記第1予測行動に対して、前記価値及び前記価値の不確実性を改善する行動改善案を探索し、提示する、計算機システム。
【請求項5】
請求項4に記載の計算機システムであって、
前記一部の要素は、前記リスク要素である、計算機システム。
【請求項6】
請求項4に記載の計算機システムであって、
前記一部の要素は、ユーザにより指定された要素である、計算機システム。
【請求項7】
請求項4に記載の計算機システムであって、
前記演算装置は、
前記第1予測行動及び前記行動改善案を、シミュレーションにより評価し、
前記評価の結果を提示する、計算機システム。
【請求項8】
請求項4に記載の計算機システムであって、
前記価値の不確実性は、前記価値のAleatoric不確実性であり、
前記演算装置は、前記価値のEpistemic不確実性が閾値以下の行動において、前記行動改善案を探索する、計算機システム。
【請求項9】
システムが実行する方法であって、
前記システムは、入力データに対して価値に基づく予測行動を出力するモデルを格納し、
前記方法は、
前記システムが、第1入力データから第1予測行動を出力する前記モデルによる第1予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、
前記システムが、前記複数の説明対象要素それぞれによる、前記第1予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、
前記システムが、前記寄与値に基づいて前記第1予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、
前記システムが、前記リスク要素の情報を提示する、方法。

発明の詳細な説明【技術分野】
【0001】
本開示は、計算機システムに関し、例えば、ユーザの意思決定を支援する計算機システムに関する。
続きを表示(約 2,300 文字)【背景技術】
【0002】
本開示の背景技術として、例えば、国際公開第2022/024559号(特許文献1)が知られている。特許文献1は、医師による医療行為を支援する医療支援システムを開示する。例えば、「医療支援システムは、制御部と、術野環境を認識する認識部と、前記認識部の認識結果に基づいて前記医療支援システムが行う動作を推定する機械学習モデルを具備する。前記制御部は、前記機械学習モデルが推定した前記動作に関する判断根拠情報を情報提示部に出力する。前記制御部は、さらに、前記機械学習モデルの推定結果に関する信頼度を算出する演算部をさらに備え、前記情報提示部に前記信頼度を出力する。」ことが開示されている(例えば要約参照)。
【先行技術文献】
【特許文献】
【0003】
国際公開第2022/024559号
【発明の概要】
【発明が解決しようとする課題】
【0004】
強化学習や数理最適化による計画立案モデルを、人の意思決定支援に利用する場合、解釈性が問題となり得る。例えば、モデルが出した案がどのような状況を重視しているのか、さらに良い案がないのか、といった点についての手掛かりが、通常のモデルでは全く存在しない。したがって、人の意思決定を効果的に支援できるように、モデルが推奨する計画の解釈性を高める技術が望まれる。
【課題を解決するための手段】
【0005】
本発明の一態様の計算機システムは、演算装置と、記憶装置と、を含み、前記記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納し、前記演算装置は、第1入力データから第1予測行動を出力する前記モデルによる第1予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、前記複数の説明対象要素それぞれによる、前記第1予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、前記寄与値に基づいて前記第1予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、前記リスク要素の情報を提示する。
【発明の効果】
【0006】
本開示の一態様によれば、人の意思決定を効果的支援できる。前述した以外の課題、構成及び効果は、以下の実施例の説明によって明らかにされる。
【図面の簡単な説明】
【0007】
本明細書の一実施例の意思決定支援システムを含む、計算機システムのハードウェア構成例を示す図である。
計算機システムのソフトウェア構成例を示す図である。
運用管理システムから意思決定支援システムに送信される状態に含まれる情報の構造例を示す。
行動予測部による予測行動に含まれる情報の構造例を示す。
行動価値予測部による行動価値及び行動価値の不確実性に含まれる情報の構造例を示す。
XAI実行部による、行動価値及び不確実性に対する要素の寄与値に含まれる情報の構造例を示す。
行動改善案探索部による、行動改善案に含まれる情報の構造例を示す。
行動評価部による元の行動及び改善行動の評価値に含まれる情報の構造例を示す。
電力の運用管理に強化学習モデル、具体的にはQ学習モデルを適用した場合の処理手順の実施の形態を示すフローチャートである。
ステップS13において高リスク要素を抽出する方法の例のフローチャートを示す。
ステップS13において高リスク要素を抽出する方法の他例のフローチャートを示す。
XAI設定画面の例を示す。
リスク要因提示画面の例を示す。
行動改善案提示部により生成される行動改善案提示画面の例を示す。
行動評価結果画面の例を示す。
【発明を実施するための形態】
【0008】
以下、本発明の実施例について図面を用いて詳細に説明する。便宜上その必要があるときは、複数のセクションまたは実施例に分割して説明するが、特に明示した場合を除き、それらは互いに無関係なものではなく、一方は他方の一部または全部の変形例、詳細、補足説明等の関係にある。また、以下において、要素の数等(個数、数値、量、範囲等を含む)に言及する場合、特に明示した場合及び原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
【0009】
本明細書の一実施例のシステムは、物理的な計算機システム(一つ以上の物理的な計算機)でもよいし、クラウド基盤のような計算リソース群(複数の計算リソース)上に構築されたシステムでもよい。計算機システムあるいは計算リソース群は、1以上のインタフェース装置(例えば通信装置及び入出力装置を含む)、1以上の記憶装置(例えば、メモリ(主記憶)及び補助記憶装置を含む)及び1以上の演算装置を含むことができる。
【0010】
命令コードを含むプログラムが演算装置によって実行されることで機能が実現される場合、定められた処理が、適宜に記憶装置及び/またはインタフェース装置等を用いながら行われるため、機能は演算装置の少なくとも一部とされてもよい。機能を主語として説明された処理は、演算装置あるいはその演算装置を有するシステムが行う処理としてもよい。プログラムは、プログラムソースからインストールされてもよい。
(【0011】以降は省略されています)

この特許をJ-PlatPatで参照する

関連特許

個人
乗降調査装置
2日前
個人
自動販売機
9日前
個人
リユース統合システム
22日前
日本精機株式会社
投影装置
2日前
個人
コメント配信システム
1か月前
個人
広告提供方法
1か月前
日本精機株式会社
投影システム
3日前
個人
チラシ掲載位置表示システム
20日前
株式会社SUBARU
車両
10日前
個人
モノづくり知識情報システム
28日前
個人
釣PAID降水確率ポイント
1か月前
個人
情報処理装置及びプログラム
27日前
小林クリエイト株式会社
RFタグ
9日前
株式会社協同印刷
防災・災害マウス
15日前
17LIVE株式会社
サーバ
2日前
株式会社ゼロボード
価格決定システム
1日前
太陽誘電株式会社
触覚生成装置
13日前
中国電力株式会社
ゲームシステム
28日前
株式会社フォーバル
仕訳システム
21日前
株式会社カネカ
異常推定システム
21日前
株式会社アジラ
姿勢推定システム
今日
株式会社イトーキ
分析装置
13日前
日本電気株式会社
勤務管理装置
8日前
日本信号株式会社
自転車貸出システム
3日前
個人
ブロックチェーンと既存網との接続方法
22日前
小林クリエイト株式会社
あて先表示システム
9日前
トヨタ自動車株式会社
サーバ装置
9日前
NVデバイス株式会社
視線検出システム
21日前
個人
防災訓練オフ会
10日前
日本信号株式会社
所持物検査装置
7日前
株式会社日立製作所
演算装置
22日前
日本信号株式会社
駐車場システム
16日前
NISSHA株式会社
指装着型コントローラー
8日前
合同会社エリサ
発送システム
1か月前
トヨタ自動車株式会社
燃料購入システム
今日
トヨタ自動車株式会社
燃料購入システム
今日
続きを見る