特許ウォッチ

公開番号2025025887
公報種別公開特許公報(A)
公開日2025-02-21
出願番号2023131099
出願日2023-08-10
発明の名称計算機システム及び解釈文の生成方法
出願人株式会社日立製作所
代理人藤央弁理士法人
主分類G06N 5/045 20230101AFI20250214BHJP(計算;計数)
要約【課題】推論モデルの推論結果に対する解釈文を生成する。
【解決手段】計算機システムは、指示文を入力として受け付け、推論の結果を解釈するための解釈文を出力する大規模言語モデルと、特徴量から構成されるグループにおける、特徴量の寄与値の特性と、指示文のテンプレートとを対応づけたテンプレートデータを格納するテキストテンプレート情報と、を保持し、複数の特徴量の各々の寄与値を算出し、一つ以上の特徴量から構成されるグループを複数生成し、複数のグループの各々について、グループに含まれる特徴量の寄与値の特性に基づいてテキストテンプレート情報を参照してテンプレートデータを取得し、テンプレートデータ及びグループに含まれる特徴量に基づいて、大規模言語モデルに入力する指示文を生成し、指示文を大規模言語モデルに入力することによって得られた解釈文を出力する。
【選択図】図2B
特許請求の範囲【請求項１】
計算機システムであって、
複数の特徴量を含む入力データを受け付け、推論モデルを用いて推論を行う推論システムと接続し、
指示文を入力として受け付け、前記推論の結果を解釈するための解釈文を出力する大規模言語モデルと、一つ以上の特徴量から構成されるグループにおける、前記特徴量の前記推論の結果への寄与の大きさを示す寄与値の特性と、前記指示文のテンプレートとを対応づけた第１テンプレートデータを格納する第１テキストテンプレート情報と、を保持し、
前記入力データ、前記推論の結果、及び前記推論モデルを用いて、前記複数の特徴量の各々の前記寄与値を算出し、
一つ以上の前記特徴量から構成されるグループを複数生成し、
前記複数のグループの各々について、前記グループに含まれる前記特徴量の前記寄与値の特性に基づいて前記第１テキストテンプレート情報を参照して前記第１テンプレートデータを取得し、
取得された前記第１テンプレートデータ及び前記グループに含まれる前記特徴量に基づいて、前記大規模言語モデルに入力する前記指示文を生成し、
前記指示文を前記大規模言語モデルに入力することによって得られた前記解釈文を出力することを特徴とする計算機システム。
続きを表示（約 2,400 文字）【請求項２】
請求項１に記載の計算機システムであって、
前記特徴量の値及び前記寄与値の間の関係性と、前記関係性を言語化するための第２テンプレートとを対応づけた第２テンプレートデータを格納する第２テキストテンプレート情報を保持し、
前記関係性を分析する必要がある前記特徴量について前記関係性を分析し、
前記分析の結果に基づいて前記第２テキストテンプレート情報を参照して、前記第２テンプレートデータを特定し、
特定された前記第２テンプレートデータ及び前記関係性を分析する必要がある前記特徴量に基づいて、前記関係性を言語化した関係性文書を生成し、
前記解釈文が前記関係性文書に対応する前記関係性と矛盾する事実を含むか否かを判定するための言語処理を実行し、
前記解釈文が前記関係性文書に示された前記関係性と矛盾する事実を含む前記解釈文を、出力する前記解釈文から除外することを特徴とする計算機システム。
【請求項３】
請求項２に記載の計算機システムであって、
前記複数の特徴量の前記寄与値の大きさに基づいて、複数のターゲット特徴量を選択し、
前記複数のターゲット特徴量を要素とする前記グループを生成することを特徴とする計算機システム。
【請求項４】
請求項３に記載の計算機システムであって、
前記ターゲット特徴量を修正するためのインタフェースと、
前記大規模言語モデルに入力する前記指示文を選択するためのインタフェースと、
前記関係性を入力又は修正するためのインタフェースと、を提供することを特徴とする計算機システム。
【請求項５】
計算機システムが実行する、推論モデルの推論結果を解釈するための解釈文の生成方法であって、
前記計算機システムは、
複数の特徴量を含む入力データを受け付け、推論モデルを用いて推論を行う推論システムと接続し、
指示文を入力として受け付け、前記推論の結果を解釈するための解釈文を出力する大規模言語モデルと、一つ以上の特徴量から構成されるグループにおける、前記特徴量の前記推論の結果への寄与の大きさを示す寄与値の特性と、前記指示文のテンプレートとを対応づけた第１テンプレートデータを格納する第１テキストテンプレート情報と、を保持し、
前記解釈文の生成方法は、
前記計算機システムが、前記入力データ、前記推論の結果、及び前記推論モデルを用いて、前記複数の特徴量の各々の前記寄与値を算出する第１のステップと、
前記計算機システムが、一つ以上の前記特徴量から構成されるグループを複数生成する第２のステップと、
前記計算機システムが、前記複数のグループの各々について、前記グループに含まれる前記特徴量の前記寄与値の特性に基づいて前記第１テキストテンプレート情報を参照して前記第１テンプレートデータを取得する第３のステップと、
前記計算機システムが、取得された前記第１テンプレートデータ及び前記グループに含まれる前記特徴量に基づいて、前記大規模言語モデルに入力する前記指示文を生成する第４のステップと、
前記計算機システムが、前記指示文を前記大規模言語モデルに入力することによって得られた前記解釈文を出力する第５のステップと、を含むことを特徴とする解釈文の生成方法。
【請求項６】
請求項５に記載の解釈文の生成方法であって、
前記計算機システムは、前記特徴量の値及び前記寄与値の間の関係性と、前記関係性を言語化するための第２テンプレートとを対応づけた第２テンプレートデータを格納する第２テキストテンプレート情報を保持し、
前記解釈文の生成方法は、
前記計算機システムが、前記関係性を分析する必要がある前記特徴量について前記関係性を分析する第６のステップと、
前記計算機システムが、前記分析の結果に基づいて前記第２テキストテンプレート情報を参照して、前記第２テンプレートデータを特定する第７のステップと、
前記計算機システムが、特定された前記第２テンプレートデータ及び前記関係性を分析する必要がある前記特徴量に基づいて、前記関係性を言語化した関係性文書を生成する第８のステップと、
を含み、
前記第５のステップは、
前記計算機システムが、前記解釈文が前記関係性文書に対応する前記関係性と矛盾する事実を含むか否かを判定するための言語処理を実行するステップと、
前記計算機システムが、前記解釈文が前記関係性文書に示された前記関係性と矛盾する事実を含む前記解釈文を、出力する前記解釈文から除外するステップと、を含むことを特徴とする解釈文の生成方法。
【請求項７】
請求項６に記載の解釈文の生成方法であって、
前記第２のステップは、
前記計算機システムが、前記複数の特徴量の前記寄与値の大きさに基づいて、複数のターゲット特徴量を選択するステップと、
前記計算機システムが、前記複数のターゲット特徴量を要素とする前記グループを生成するステップと、を含むことを特徴とする解釈文の生成方法。
【請求項８】
請求項７に記載の解釈文の生成方法であって、
前記第２のステップは、前記計算機システムが、前記ターゲット特徴量を修正するためのインタフェースを提供するステップを含み、
前記第５のステップは、前記計算機システムが、前記大規模言語モデルに入力する前記指示文を選択するためのインタフェースを提供するステップを含み、
前記第８のステップは、前記計算機システムが、前記関係性を入力又は修正するためのインタフェースを提供するステップを含むことを特徴とする解釈文の生成方法。

発明の詳細な説明【技術分野】
【０００１】
本開示は、機械学習モデルの推論結果に対する解釈文を生成する計算機システム及び方法に関する。
続きを表示（約 2,800 文字）【背景技術】
【０００２】
本開示の背景技術として、例えば、特開２０２０―１２３１６４号（特許文献１）が知られている。特許文献１は、ＡＩが出力した予測結果の根拠をユーザが解釈するために有用なデータを提示するシステムを開示する。例えば、「計算機システムであって、複数の特徴量の値を含む入力データに含まれる複数の特徴量の各々の値、及び入力データに含まれる複数の特徴量の寄与値により定まり、入力データに対する予測結果の根拠を解釈するための解釈要因を管理するための解釈要因変換情報を保持し、評価対象データが入力された場合、評価対象データに対する予測結果を算出し、評価対象データに含まれる複数の特徴量の各々の寄与値を算出し、評価対象データに含まれる複数の特徴量の各々の値及び寄与値に基づいて解釈要因変換情報を参照することによって該当する解釈要因を特定し、特定された解釈要因を提示するための表示情報を生成し、出力する。」ことが開示されている（例えば、要約参照）。
【先行技術文献】
【特許文献】
【０００３】
特開２０２０―１２３１６４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１の解釈要因変換情報を生成するには専門家の知識が必要不可欠となっており、専門家が解釈要因を特定できない場合に用いることができないという問題がある。
【０００５】
本発明は言語モデルを用いることで、専門家の知識を必要とせず、業務上の解釈を提示するシステム及び方法を提供する。
【課題を解決するための手段】
【０００６】
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、計算機システムであって、複数の特徴量を含む入力データを受け付け、推論モデルを用いて推論を行う推論システムと接続し、指示文を入力として受け付け、前記推論の結果を解釈するための解釈文を出力する大規模言語モデルと、一つ以上の特徴量から構成されるグループにおける、前記特徴量の前記推論の結果への寄与の大きさを示す寄与値の特性と、前記指示文のテンプレートとを対応づけた第１テンプレートデータを格納する第１テキストテンプレート情報と、を保持し、前記入力データ、前記推論の結果、及び前記推論モデルを用いて、前記複数の特徴量の各々の前記寄与値を算出し、一つ以上の前記特徴量から構成されるグループを複数生成し、前記複数のグループの各々について、前記グループに含まれる前記特徴量の前記寄与値の特性に基づいて前記第１テキストテンプレート情報を参照して前記第１テンプレートデータを取得し、取得された前記第１テンプレートデータ及び前記グループに含まれる前記特徴量に基づいて、前記大規模言語モデルに入力する前記指示文を生成し、前記指示文を前記大規模言語モデルに入力することによって得られた前記解釈文を出力する。
【発明の効果】
【０００７】
本開示の一態様によれば、計算機システムは、推論モデルの推論結果に対する解釈文を提示できる。前述した以外の課題、構成及び効果は、以下の実施例の説明によって明らかにされる。
【図面の簡単な説明】
【０００８】
実施例１の計算機システムのハードウェア構成の一例を示す図である。
実施例１の推論装置のソフトウェア構成の一例を示す図である。
実施例１の解釈文生成装置のソフトウェア構成の一例を示す図である。
実施例１の入力データのデータ構造の一例を示す図である。
実施例１の寄与値情報のデータ構造の一例を示す図である。
実施例１の特徴量情報のデータ構造の一例を示す図である。
実施例１の特徴量リストのデータ構造の一例を示す図である。
実施例１のグループ情報のデータ構造の一例を示す図である。
実施例１の第１テキストテンプレート情報のデータ構造の一例を示す図である。
実施例１の第１テキストテンプレート情報のデータ構造の一例を示す図である。
実施例１のプロンプト情報のデータ構造の一例を示す図である。
実施例１の分析情報のデータ構造の一例を示す図である。
実施例１の第２テキストテンプレート情報のデータ構造の一例を示す図である。
実施例１の関係性文書情報のデータ構造の一例を示す図である。
実施例１の解釈文を管理するためのテーブルのデータ構造の一例を示す図である。
実施例１の解釈文生成装置が実行する処理の概要を説明するフローチャートである。
実施例１の解釈文生成装置が実行する特徴量選択処理の一例を説明するフローチャートである。
実施例１の解釈文生成装置が実行するプロンプト生成処理の一例を説明するフローチャートである。
実施例１の解釈文生成装置が実行する関係性文書生成処理の一例を説明するフローチャートである。
実施例１の解釈文生成装置が実行するフィルタリング処理の一例を説明するフローチャートである。
実施例１の特徴量提示部が表示する画面の一例を示す図である。
実施例１のプロンプト提示部が表示する画面の一例を示す図である。
実施例１の分析結果提示部が表示する画面の一例を示す図である。
実施例１の結果提示部が表示する画面の一例を示す図である。
【発明を実施するための形態】
【０００９】
以下、本発明の実施例について図面を用いて詳細に説明する。便宜上その必要があるときは、複数のセクション又は実施例に分割して説明するが、特に明示した場合を除き、それらは互いに無関係なものではなく、一方は他方の一部又は全部の変形例、詳細、補足説明等の関係にある。また、以下において、要素の数等（個数、数値、量、範囲等を含む）に言及する場合、特に明示した場合及び原理的に明らかに特定の数に限定される場合等を除き、その特定の数に限定されるものではなく、特定の数以上でも以下でもよい。
【００１０】
本明細書の一実施例のシステムは、物理的な計算機システム（一つ以上の物理的な計算機）でもよいし、クラウド基盤のような計算リソース群（複数の計算リソース）上に構築されたシステムでもよい。計算機システムあるいは計算リソース群は、１以上のインタフェース装置（例えば通信装置及び入出力装置を含む）、１以上の記憶装置（例えば、メモリ（主記憶）及び補助記憶装置を含む）及び１以上の演算装置を含むことができる。
（【００１１】以降は省略されています）

関連特許