TOP特許意匠商標
特許ウォッチ Twitter
10個以上の画像は省略されています。
公開番号2024168781
公報種別公開特許公報(A)
公開日2024-12-05
出願番号2023085718
出願日2023-05-24
発明の名称自己教師あり学習プログラム、方法、及び装置
出願人富士通株式会社
代理人弁理士法人太陽国際特許事務所
主分類G06N 3/0895 20230101AFI20241128BHJP(計算;計数)
要約【課題】自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させる。
【解決手段】自己教師あり学習装置は、第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、第1の分子に対応する正解データと、予測結果との比較結果に基づいて、機械学習モデルのパラメータを更新する。
【選択図】図6
特許請求の範囲【請求項1】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する、
ことを含む処理をコンピュータに実行させるための自己教師あり学習プログラム。
続きを表示(約 990 文字)【請求項2】
前記予測結果は、前記第2の分子に含まれる原子のうち、少なくとも前記第1の分子に含まれる原子から値を0に置換した原子が、予め定めた複数種類の原子群に含まれるいずれの原子であるかを示す情報である請求項1に記載の自己教師あり学習プログラム。
【請求項3】
前記予測結果は、前記第2の分子に含まれる全ての原子についての情報を含む請求項2に記載の自己教師あり学習プログラム。
【請求項4】
前記機械学習モデルは、前記第2の分子を示すデータから前記第2の分子の分子構造を示す特徴量を抽出する第1の部分と、前記第1の部分で抽出された特徴量に基づいて、特定のタスクに応じた予測結果を出力する第2の部分とを含み、訓練された機械学習モデルの前記第1の部分は、転移学習に利用される請求項1~請求項3のいずれか1項に記載の自己教師あり学習プログラム。
【請求項5】
前記第2の部分は、前記第2の分子に含まれる原子の各々についての前記第1の部分の出力にそれぞれ対応した異なる出力部を含み、
前記予測結果を取得する処理は、前記第2の分子に含まれる原子の各々についての予測結果を一度に取得することを含む、
請求項4に記載の自己教師あり学習プログラム。
【請求項6】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する、
ことを含む処理をコンピュータが実行する自己教師あり学習方法。
【請求項7】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成する生成部と、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得する取得部と、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する更新部と、
を含む自己教師あり学習装置。

発明の詳細な説明【技術分野】
【0001】
開示の技術は、自己教師あり学習プログラム、自己教師あり学習方法、及び自己教師あり学習装置に関する。
続きを表示(約 2,200 文字)【背景技術】
【0002】
従来、分子の構造データに基づいて、その分子のエネルギーを予測するニューラルネットワークが提案されている。このニューラルネットワークは、「構造」と「エネルギー」とからなるラベル付きデータを用いて教師あり学習により訓練される。この「エネルギー」は、例えば、密度汎関数理論(DFT:Density Functional Theory)と呼ばれる数値計算手法で計算される。DFTによる分子のエネルギーの計算時間は非常に長く、1つの構造のエネルギーの計算に、半日から3日かかる場合もある。そのため、教師あり学習のためのラベル付きデータを大量に集めることが困難である。
【0003】
そこで、ラベルなしデータから、タスクの正解(ラベル)を生成し、生成したラベルを用いて教師あり学習を行う自己教師あり学習と呼ばれる手法が存在する。例えば、文章の一部の単語をマスクして、マスクした単語をニューラルネットワークに予測させることで、自己教師あり学習を行う。分子のエネルギーの予測を行うニューラルネットに向けた自己教師あり学習の手法も提案されている。この手法では、分子を構成する原子及び原子間の結合の一部がマスクされる。
【先行技術文献】
【特許文献】
【0004】
特表2021-518024号公報
【非特許文献】
【0005】
Kristof T. Sch▲u▼tt, Oliver T. Unke, Michael Gastegger, "Equivariant Message Passing for the Prediction of Tensorial Properties and Molecular Spectra," PMLR, 2021.
Johannes Gasteiger, Muhammed Shuaibi, Anuroop Sriram, Stephan Gunnemann, Zachary Ulissi, C. Lawrence Zitnick, Abhishek Das, "GemNet-OC: Developing Graph Neural Networks for Large and Diverse Molecular Simulation Datasets," Transactions on Machine Learning Research, 2022.
Zaixi Zhang, Qi Liu, Shengyu Zhang, Chang-Yu Hsieh, Liang Shi, Chee-Kong Lee, "Graph Self-Supervised Learning for Optoelectronic Properties of Organic Semiconductors," ICML, 2022.
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、実際の原子としては存在しない「マスク」という情報をニューラルネットワークが学習してしまうことになり、無駄な学習が行われ、ニューラルネットワークの予測精度が低下する場合があるという問題がある。
【0007】
一つの側面として、開示の技術は、自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させることを目的とする。
【課題を解決するための手段】
【0008】
一つの態様として、開示の技術は、第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成する。また、開示の技術は、前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得する。そして、開示の技術は、前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する。
【発明の効果】
【0009】
一つの側面として、自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させることができる、という効果を有する。
【図面の簡単な説明】
【0010】
分子のエネルギー予測のNNについて説明するための図である。
転移学習について説明するための図である。
分子のエネルギー予測のためのNNに向けた自己教師あり学習を説明するための図である。
分子のエネルギー予測のためのNNに向けた自己教師あり学習の課題を説明するための図である。
自己教師あり学習装置の機能ブロック図である。
自己教師あり学習装置の処理を説明するための図である。
自己教師あり学習装置として機能するコンピュータの概略構成を示すブロック図である。
自己教師あり学習処理の一例を示すフローチャートである。
本手法の効果についての検証結果を示す図である。
本手法の効果についての検証結果を示す図である。
NNの構成の一例を説明するための図である。
【発明を実施するための形態】
(【0011】以降は省略されています)

この特許をJ-PlatPatで参照する
Flag Counter

関連特許

富士通株式会社
排出の推定と異常
18日前
富士通株式会社
排出の推定と異常
18日前
富士通株式会社
情報処理プログラム
27日前
富士通株式会社
伝送装置及び伝送システム
4日前
富士通株式会社
光伝送装置及び光伝送方法
1か月前
富士通株式会社
バイタルサイン検出装置と方法
6日前
富士通株式会社
エラー訂正装置及びエラー訂正方法
1か月前
富士通株式会社
機械学習プログラム、方法、及び装置
27日前
富士通株式会社
光送受信機制御方法および光送受信機
1か月前
富士通株式会社
ラマン増幅装置およびラマン増幅方法
1か月前
富士通株式会社
情報処理方法および情報処理プログラム
1か月前
富士通株式会社
OD決定方法およびOD決定プログラム
1か月前
富士通株式会社
データ生成プログラム、方法、及び装置
27日前
富士通株式会社
キャッシュコントローラ及び演算処理装置
26日前
富士通株式会社
制御プログラム、制御装置、及び制御方法
25日前
富士通株式会社
遅延制御回路、光送信装置、及び遅延制御方法
6日前
富士通株式会社
プログラム、情報処理方法および情報処理装置
18日前
富士通株式会社
車両販売支援システム、方法およびプログラム
19日前
富士通株式会社
半導体装置、半導体装置の製造方法及び電子装置
4日前
富士通株式会社
特定プログラム、特定方法、および情報処理装置
25日前
富士通株式会社
半導体装置、半導体装置の製造方法及び電子装置
27日前
富士通株式会社
シート搬送制御プログラムおよびシート搬送装置
18日前
富士通株式会社
半導体装置、半導体装置の製造方法及び電子装置
25日前
富士通株式会社
ロードバランサ,制御プログラムおよび制御方法
6日前
富士通株式会社
行動要因推定方法および行動要因推定プログラム
26日前
富士通株式会社
光送受信システム、光送受信方法、及び光送信装置
18日前
富士通株式会社
プログラム、データ処理方法およびデータ処理装置
5日前
富士通株式会社
コンパイラ、コンパイル方法、およびコンパイル装置
27日前
富士通株式会社
機械学習プログラム、機械学習方法及び機械学習装置
26日前
富士通株式会社
情報処理プログラム、情報処理方法及び情報処理装置
25日前
富士通株式会社
情報処理装置、システム、および情報処理プログラム
5日前
富士通株式会社
情報管理プログラム、情報管理方法及び情報管理装置
25日前
富士通株式会社
機械学習方法、機械学習プログラムおよび情報処理装置
1か月前
富士通株式会社
情報処理プログラム、情報処理方法および情報処理装置
25日前
富士通株式会社
画像処理装置、画像処理方法および画像処理プログラム
25日前
富士通株式会社
情報処理プログラム、情報処理装置および情報処理方法
18日前
続きを見る