TOP特許意匠商標
特許ウォッチ Twitter
10個以上の画像は省略されています。
公開番号2024049515
公報種別公開特許公報(A)
公開日2024-04-10
出願番号2022155772
出願日2022-09-29
発明の名称サンプリングプログラム、サンプリング方法、および情報処理装置
出願人富士通株式会社
代理人弁理士法人扶桑国際特許事務所
主分類G06N 20/10 20190101AFI20240403BHJP(計算;計数)
要約【課題】互いに独立と見なせる有効なサンプルの生成効率を向上させる。
【解決手段】情報処理装置10は、データ空間と同じ確率分布の等長空間に所定の変換規則で変換可能な潜在空間を有する機械学習モデル1を用いて、潜在空間内の第1のデータ4をデータ空間内の第2のデータ5に変換する。次に情報処理装置10は、データ空間内の採択済みの第1のサンプル6からのマルコフ連鎖モンテカルロ法における遷移先として第2のデータ5を採択するか否かを、変換規則に基づく採択確率で判断する。そして情報処理装置10は、採択すると判断した場合、第2のデータ5を、第1のサンプル6からの遷移先の第2のサンプル7として出力する。
【選択図】図1
特許請求の範囲【請求項1】
データ空間と同じ確率分布の等長空間に所定の変換規則で変換可能な潜在空間を有する機械学習モデルを用いて、前記潜在空間内の第1のデータを前記データ空間内の第2のデータに変換し、
前記データ空間内の採択済みの第1のサンプルからのマルコフ連鎖モンテカルロ法における遷移先として前記第2のデータを採択するか否かを、前記変換規則に基づく採択確率で判断し、
採択すると判断した場合、前記第2のデータを、前記第1のサンプルからの遷移先の第2のサンプルとして出力する、
処理をコンピュータに実行させるサンプリングプログラム。
続きを表示(約 1,200 文字)【請求項2】
前記第2のデータに変換する処理では、前記機械学習モデルとしてVAE(Variational AutoEncoder)を用い、前記VAEのデコーダによって前記第1のデータをデコードすることで前記第2のデータに変換する、
請求項1記載のサンプリングプログラム。
【請求項3】
前記第2のデータを採択するか否かを判断する処理では、
前記VAEのエンコーダによって前記第1のサンプルをエンコードして第1の平均値と第1の分散値と第1の計量テンソルを計算し、
前記VAEの前記エンコーダによって前記第2のデータをエンコードして第2の平均値と第2の分散値と第2の計量テンソルを計算し、
第1の平均値、第1の分散値、第1の計量テンソル、第2の平均値、第2の分散値、および第2の計量テンソルに基づいて、前記採択確率を計算する、
請求項2記載のサンプリングプログラム。
【請求項4】
前記第2のサンプルを用いて前記機械学習モデルの学習を実行する、
処理をコンピュータにさらに実行させる請求項1から3までのいずれかに記載のサンプリングプログラム。
【請求項5】
前記第2のデータに変換する処理、前記第2のデータを採択するか否かを判断する処理、および前記第2のデータを前記第2のサンプルとして採択する処理を含むサンプリング処理を、複数のプロセッサそれぞれで並列実行し、
前記複数のプロセッサそれぞれで採択した前記第2のサンプルを用いて前記機械学習モデルの学習を実行する、
処理をコンピュータにさらに実行させる請求項1から3までのいずれかに記載のサンプリングプログラム。
【請求項6】
データ空間と同じ確率分布の等長空間に所定の変換規則で変換可能な潜在空間を有する機械学習モデルを用いて、前記潜在空間内の第1のデータを前記データ空間内の第2のデータに変換し、
前記データ空間内の採択済みの第1のサンプルからのマルコフ連鎖モンテカルロ法における遷移先として前記第2のデータを採択するか否かを、前記変換規則に基づく採択確率で判断し、
採択すると判断した場合、前記第2のデータを、前記第1のサンプルからの遷移先の第2のサンプルとして出力する、
処理をコンピュータが実行するサンプリング方法。
【請求項7】
データ空間と同じ確率分布の等長空間に所定の変換規則で変換可能な潜在空間を有する機械学習モデルを用いて、前記潜在空間内の第1のデータを前記データ空間内の第2のデータに変換し、前記データ空間内の採択済みの第1のサンプルからのマルコフ連鎖モンテカルロ法における遷移先として前記第2のデータを採択するか否かを、前記変換規則に基づく採択確率で判断し、採択すると判断した場合、前記第2のデータを、前記第1のサンプルからの遷移先の第2のサンプルとして出力する処理部、
を有する情報処理装置。

発明の詳細な説明【技術分野】
【0001】
本発明は、サンプリングプログラム、サンプリング方法、および情報処理装置に関する。
続きを表示(約 1,800 文字)【背景技術】
【0002】
コンピュータによるサンプリングによって、数式で明示的に与えられた確率分布p(x)から、具体的なサンプルを得ることができる。サンプリングの手法の一つにマルコフ連鎖モンテカルロ法(MCMC:Markov chain Monte Carlo method)がある。MCMCは、マルコフ連鎖を用いて、確率分布からサンプリングを行う手法である。
【0003】
近年、MCMCはベイズ統計を中心に広い範囲の統計の問題に応用されている。例えば物理学で現れる多体問題は、一般的に解析的な計算が不可能となることが多い。その場合、物理系の状態をMCMCでサンプリングすることで、多体問題の性質を調べることができる。また、近年注目されている量子計算のシミュレーションにおいてもMCMCが使用されている。NP(Non-deterministic Polynomial time)困難な最適化問題の解探索にもMCMCを有効に利用することができる。
【0004】
さらにデータ解析に対するベイズ統計にもMCMCが利用できる。例えば実験により得られたデータをある有効モデルに当てはめる場合、ベイズ推定では事後分布からサンプリングを行うこととなる。この際のサンプリングにMCMCを用いることができる。
【0005】
MCMCによるサンプリングでは、直前のサンプルの状態とはできるだけ異なる状態に遷移させることが望まれる。互いに独立と見なせる有効なサンプルをMCMCで生成するための技術として、例えばメトロポリス法の提案確率分布に適当な変分モデルを用いる方法がある。変分モデルは前の状態を参照しておらず、大局的な遷移が可能となる。大局的な遷移により、互いに独立と見なせる有効なサンプル生成の効率が向上する。変分モデルとしては機械学習モデルを用いることができ、このようなサンプリング方法は、自己学習モンテカルロ法(SLMC:Self-Learning Monte Carlo method)と呼ばれる。
【0006】
SLMCにおける変分モデルとしては、例えば潜在空間を持つ機械学習モデルが利用される。潜在空間を持つ機械学習モデルを用いたSLMCには、制限ボルツマンマシン(RBM:Restricted Boltzmann Machine)を用いた手法、Flow型モデルを用いた手法、VAE(Variational AutoEncoder)を用いた手法がある。
【0007】
なお、VAEについては特性の定量的理解が進められている。例えばVAEについて、等長埋め込みにマッピングできることが明らかにされている。
【先行技術文献】
【非特許文献】
【0008】
Akira Nakagawa, Keizo Kato, Taiji Suzuki, "Quantitative Understanding of VAE as a Non-linearly Scaled Isometric Embedding", Proceedings of the 38th International Conference on Machine Learning, PMLR 139:7916-7926, 8-24 July 2021
【発明の概要】
【発明が解決しようとする課題】
【0009】
潜在空間を持つ機械学習モデルを用いた従来のSLMCでは、互いに独立と見なせる有効なサンプルの生成効率が十分ではない。例えばRBMを用いた手法は、確率分布の提案にMCMCを行うこととなり、処理量が大きい。Flow型モデルを用いた手法では、確率分布の提案コストは小さいが、使用するモデルに強い制約が課され、汎用性が低い。VAEを用いた手法は、確率分布の提案コストは小さいが、尤度関数を近似評価しており、近似が妥当でない場合がある。近似が妥当でないと採択確率が低くなり、サンプルの生成効率の悪化要因となる。
【0010】
1つの側面では、本件は、互いに独立と見なせる有効なサンプルの生成効率を向上させることを目的とする。
【課題を解決するための手段】
(【0011】以降は省略されています)

この特許をJ-PlatPatで参照する

関連特許

富士通株式会社
アバター制御
3日前
富士通株式会社
光伝送システムでの異常の位置特定
2日前
富士通株式会社
3次元人体動的着装モデル推定装置及び方法
3日前
富士通株式会社
リソース再構成プログラム、リソース再構成方法および情報処理システム
4日前
富士通株式会社
アップリンク伝送方法及び装置
5日前
富士通株式会社
画像コーディング装置、確率モデル生成装置及び画像デコーディング装置
2日前
個人
乗降調査装置
1か月前
個人
プロジェクター
19日前
個人
暗号化記憶媒体
3日前
個人
管理装置
24日前
個人
自動販売機
1か月前
日本精機株式会社
投影装置
1か月前
日本精機株式会社
投影システム
1か月前
キヤノン電子株式会社
周辺機器
11日前
小林クリエイト株式会社
RFタグ
1か月前
個人
求人マッチングサーバ
11日前
株式会社SUBARU
車両
1か月前
カゴメ株式会社
営農支援プログラム
10日前
カゴメ株式会社
営農支援プログラム
10日前
カゴメ株式会社
営農支援プログラム
10日前
株式会社協同印刷
防災・災害マウス
1か月前
カゴメ株式会社
営農支援プログラム
10日前
17LIVE株式会社
サーバ
1か月前
株式会社ゼロボード
価格決定システム
1か月前
トヨタ自動車株式会社
検査装置
24日前
太陽誘電株式会社
触覚生成装置
1か月前
株式会社ワコム
電子ペン
6日前
アスエネ株式会社
水管理の方法
11日前
株式会社ワコム
電子ペン
4日前
株式会社寺岡精工
システム
6日前
株式会社イトーキ
分析装置
1か月前
株式会社アジラ
姿勢推定システム
1か月前
大日本印刷株式会社
作業台
9日前
株式会社NGA
画像投稿システム
24日前
CKD株式会社
遠隔支援システム
11日前
個人
ポイント増量アプリ「太陽光銭サー」
18日前
続きを見る