特許ウォッチ

公開番号2025136259
公報種別公開特許公報(A)
公開日2025-09-19
出願番号2024034612
出願日2024-03-07
発明の名称学習装置、推定システム、学習方法およびプログラム
出願人日本電気株式会社,学校法人東京理科大学
代理人個人,個人
主分類G06N 20/00 20190101AFI20250911BHJP(計算;計数)
要約【課題】モデルへの入力データとモデルの出力データとの関係を示す微分可能な関数を得られない場合でも、モデルへの入力データの学習の効率化を図れるようにする。
【解決手段】学習装置が、第1データと第2データとの入力を受けて前記第1データと前記第2データとの相関関係を推定するモデルに入力する前記第2データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第1データと前記第2データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、を備える。
【選択図】図2
特許請求の範囲【請求項１】
第１データと第２データとの入力を受けて前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、
前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、
を備える学習装置。
続きを表示（約 1,500 文字）【請求項２】
前記第１データは画像データである、
請求項１に記載の学習装置。
【請求項３】
前記学習パラメタ分解手段は、前記第２データのパラメタの複数の要素を、共通パラメタの要素と、複数の個別パラメタの要素とに分け、
前記学習手段は、前記共通パラメタと１つの個別パラメタとの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記組み合わせに含まれる要素の値の学習を行う、
請求項１に記載の学習装置。
【請求項４】
前記第２データのうち実数ベクトルで示される部分データが、前記モデルが受け付ける前記第２データの語彙として想定される語彙の単語埋め込み分散を有する正規分布からランダムに要素をサンプリングした実数定数の行列である射影行列と、前記第２データのパラメタのベクトル表現との積と、前記語彙の単語埋め込み平均値との合計になるように、前記部分データを前記第２データのパラメタに変換する学習プロンプト分解手段と、
前記射影行列と、前記学習手段による学習結果から得られる前記第２データのパラメタのベクトル表現との積と、前記語彙の単語埋め込み平均値とを合計して、前記第２データの前記部分データを算出する第２データ取得手段と、
を備える請求項１または請求項２に記載の学習装置。
【請求項５】
学習済みのモデルに入力する入力データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、
前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記入力データを前記モデルに入力して得られるモデル出力値に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、
を備える学習装置。
【請求項６】
第１データと第２データとの入力を受けて、前記第１データと前記第２データとの相関関係を推定するモデルと、
前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、
前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、
を備える、
推定システム。
【請求項７】
コンピュータが、
第１データと第２データとの入力を受けて前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分け、
前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う、
ことを含む学習方法。
【請求項８】
コンピュータに、
第１データと第２データとの入力を受けて前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分けることと、
前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行うことと、
を実行させるプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、学習装置、推定システム、学習方法およびプログラムに関する。
続きを表示（約 1,700 文字）【背景技術】
【０００２】
学習済みのモデルにプロンプトを入力する場合があり、このプロンプトを調整してモデルの出力の精度の向上を図る場合がある（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
特開２０２３－０７１９１２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ブラックボックスとして使用するモデルに入力するプロンプトの学習を行う場合など、モデルへの入力データとモデルの出力データとの関係を示す微分可能な関数を得られない状態で、モデルへの入力データの学習を行う場合が考えられる。この場合に、学習の効率化を図れることが好ましい。
【０００５】
本開示の目的の一例は、上述した課題を解決することのできる学習装置、推定システム、学習方法およびプログラムを提供することである。
【課題を解決するための手段】
【０００６】
本開示の第１の態様によれば、学習装置は、第１データと第２データとの入力を受けて前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、を備える。
【０００７】
本開示の第２の態様によれば、学習装置は、学習済みのモデルに入力する入力データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記入力データを前記モデルに入力して得られるモデル出力値に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、を備える。
【０００８】
本開示の第３の態様によれば、推定システムは、第１データと第２データとの入力を受けて、前記第１データと前記第２データとの相関関係を推定するモデルと、前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分ける学習パラメタ分解手段と、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う学習手段と、を備える。
【０００９】
本開示の第４の態様によれば、学習方法は、コンピュータが、第１データと第２データとの入力を受けて前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分け、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行う、ことを含む。
【００１０】
本開示の第５の態様によれば、プログラムは、コンピュータに、第１データと第２データとの入力を受けて、前記第１データと前記第２データとの相関関係を推定するモデルに入力する前記第２データのパラメタの複数の要素を、複数の部分パラメタの要素に分けることと、前記部分パラメタまたは前記部分パラメタの組み合わせごとに、前記第１データと前記第２データとを前記モデルに入力して得られる推定結果に基づいて、前記部分パラメタまたは前記部分パラメタの組み合わせに含まれる要素の値の学習を行うことと、を実行させるプログラムである。
【発明の効果】
（【００１１】以降は省略されています）

関連特許