特許ウォッチ

公開番号2024020739
公報種別公開特許公報(A)
公開日2024-02-15
出願番号2022123153
出願日2022-08-02
発明の名称計算機システム
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06Q 50/10 20120101AFI20240207BHJP(計算;計数)
要約【課題】人の意思決定を効果的支援する。
【解決手段】記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納する。演算装置は、第1入力データから第1予測行動を出力するモデルによる第1予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得する。演算装置は、複数の説明対象要素それぞれによる、第1予測処理における価値及び価値の不確実性に対する寄与値を決定する。演算装置は、寄与値に基づいて第1予測処理におけるリスク要素を、複数の説明対象要素において検出する。演算装置は、リスク要素の情報を提示する。
【選択図】図2
特許請求の範囲【請求項１】
計算機システムであって、
演算装置と、
記憶装置と、を含み、
前記記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納し、
前記演算装置は、
第１入力データから第１予測行動を出力する前記モデルによる第１予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、
前記複数の説明対象要素それぞれによる、前記第１予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、
前記寄与値に基づいて前記第１予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、
前記リスク要素の情報を提示する、計算機システム。
続きを表示（約 1,000 文字）【請求項２】
請求項１に記載の計算機システムであって、
前記説明対象データは、前記第１予測行動である、計算機システム。
【請求項３】
請求項１に記載の計算機システムであって、
前記演算装置は、前記価値及び前記価値の不確実の双方を悪化させる寄与を示す説明対象要素を、前記リスク要素として検出する、計算機システム。
【請求項４】
請求項２に記載の計算機システムであって、
前記演算装置は、前記第１予測行動における一部の要素の値を変化させて、前記第１予測行動に対して、前記価値及び前記価値の不確実性を改善する行動改善案を探索し、提示する、計算機システム。
【請求項５】
請求項４に記載の計算機システムであって、
前記一部の要素は、前記リスク要素である、計算機システム。
【請求項６】
請求項４に記載の計算機システムであって、
前記一部の要素は、ユーザにより指定された要素である、計算機システム。
【請求項７】
請求項４に記載の計算機システムであって、
前記演算装置は、
前記第１予測行動及び前記行動改善案を、シミュレーションにより評価し、
前記評価の結果を提示する、計算機システム。
【請求項８】
請求項４に記載の計算機システムであって、
前記価値の不確実性は、前記価値のＡｌｅａｔｏｒｉｃ不確実性であり、
前記演算装置は、前記価値のＥｐｉｓｔｅｍｉｃ不確実性が閾値以下の行動において、前記行動改善案を探索する、計算機システム。
【請求項９】
システムが実行する方法であって、
前記システムは、入力データに対して価値に基づく予測行動を出力するモデルを格納し、
前記方法は、
前記システムが、第１入力データから第１予測行動を出力する前記モデルによる第１予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、
前記システムが、前記複数の説明対象要素それぞれによる、前記第１予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、
前記システムが、前記寄与値に基づいて前記第１予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、
前記システムが、前記リスク要素の情報を提示する、方法。

発明の詳細な説明【技術分野】
【０００１】
本開示は、計算機システムに関し、例えば、ユーザの意思決定を支援する計算機システムに関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
本開示の背景技術として、例えば、国際公開第２０２２／０２４５５９号（特許文献１）が知られている。特許文献１は、医師による医療行為を支援する医療支援システムを開示する。例えば、「医療支援システムは、制御部と、術野環境を認識する認識部と、前記認識部の認識結果に基づいて前記医療支援システムが行う動作を推定する機械学習モデルを具備する。前記制御部は、前記機械学習モデルが推定した前記動作に関する判断根拠情報を情報提示部に出力する。前記制御部は、さらに、前記機械学習モデルの推定結果に関する信頼度を算出する演算部をさらに備え、前記情報提示部に前記信頼度を出力する。」ことが開示されている（例えば要約参照）。
【先行技術文献】
【特許文献】
【０００３】
国際公開第２０２２／０２４５５９号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
強化学習や数理最適化による計画立案モデルを、人の意思決定支援に利用する場合、解釈性が問題となり得る。例えば、モデルが出した案がどのような状況を重視しているのか、さらに良い案がないのか、といった点についての手掛かりが、通常のモデルでは全く存在しない。したがって、人の意思決定を効果的に支援できるように、モデルが推奨する計画の解釈性を高める技術が望まれる。
【課題を解決するための手段】
【０００５】
本発明の一態様の計算機システムは、演算装置と、記憶装置と、を含み、前記記憶装置は、入力データに対して価値に基づく予測行動を出力するモデルを格納し、前記演算装置は、第１入力データから第１予測行動を出力する前記モデルによる第１予測処理を説明するための、複数の説明対象要素の値を含む説明対象データを取得し、前記複数の説明対象要素それぞれによる、前記第１予測処理における前記価値及び前記価値の不確実性に対する寄与値を決定し、前記寄与値に基づいて前記第１予測処理におけるリスク要素を、前記複数の説明対象要素において検出し、前記リスク要素の情報を提示する。
【発明の効果】
【０００６】
本開示の一態様によれば、人の意思決定を効果的支援できる。前述した以外の課題、構成及び効果は、以下の実施例の説明によって明らかにされる。
【図面の簡単な説明】
【０００７】
本明細書の一実施例の意思決定支援システムを含む、計算機システムのハードウェア構成例を示す図である。
計算機システムのソフトウェア構成例を示す図である。
運用管理システムから意思決定支援システムに送信される状態に含まれる情報の構造例を示す。
行動予測部による予測行動に含まれる情報の構造例を示す。
行動価値予測部による行動価値及び行動価値の不確実性に含まれる情報の構造例を示す。
ＸＡＩ実行部による、行動価値及び不確実性に対する要素の寄与値に含まれる情報の構造例を示す。
行動改善案探索部による、行動改善案に含まれる情報の構造例を示す。
行動評価部による元の行動及び改善行動の評価値に含まれる情報の構造例を示す。
電力の運用管理に強化学習モデル、具体的にはＱ学習モデルを適用した場合の処理手順の実施の形態を示すフローチャートである。
ステップＳ１３において高リスク要素を抽出する方法の例のフローチャートを示す。
ステップＳ１３において高リスク要素を抽出する方法の他例のフローチャートを示す。
ＸＡＩ設定画面の例を示す。
リスク要因提示画面の例を示す。
行動改善案提示部により生成される行動改善案提示画面の例を示す。
行動評価結果画面の例を示す。
【発明を実施するための形態】
【０００８】
以下、本発明の実施例について図面を用いて詳細に説明する。便宜上その必要があるときは、複数のセクションまたは実施例に分割して説明するが、特に明示した場合を除き、それらは互いに無関係なものではなく、一方は他方の一部または全部の変形例、詳細、補足説明等の関係にある。また、以下において、要素の数等（個数、数値、量、範囲等を含む）に言及する場合、特に明示した場合及び原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
【０００９】
本明細書の一実施例のシステムは、物理的な計算機システム（一つ以上の物理的な計算機）でもよいし、クラウド基盤のような計算リソース群（複数の計算リソース）上に構築されたシステムでもよい。計算機システムあるいは計算リソース群は、１以上のインタフェース装置（例えば通信装置及び入出力装置を含む）、１以上の記憶装置（例えば、メモリ（主記憶）及び補助記憶装置を含む）及び１以上の演算装置を含むことができる。
【００１０】
命令コードを含むプログラムが演算装置によって実行されることで機能が実現される場合、定められた処理が、適宜に記憶装置及び／またはインタフェース装置等を用いながら行われるため、機能は演算装置の少なくとも一部とされてもよい。機能を主語として説明された処理は、演算装置あるいはその演算装置を有するシステムが行う処理としてもよい。プログラムは、プログラムソースからインストールされてもよい。
（【００１１】以降は省略されています）

関連特許