TOP特許意匠商標
特許ウォッチ Twitter
10個以上の画像は省略されています。
公開番号2024168781
公報種別公開特許公報(A)
公開日2024-12-05
出願番号2023085718
出願日2023-05-24
発明の名称自己教師あり学習プログラム、方法、及び装置
出願人富士通株式会社
代理人弁理士法人太陽国際特許事務所
主分類G06N 3/0895 20230101AFI20241128BHJP(計算;計数)
要約【課題】自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させる。
【解決手段】自己教師あり学習装置は、第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、第1の分子に対応する正解データと、予測結果との比較結果に基づいて、機械学習モデルのパラメータを更新する。
【選択図】図6
特許請求の範囲【請求項1】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する、
ことを含む処理をコンピュータに実行させるための自己教師あり学習プログラム。
続きを表示(約 990 文字)【請求項2】
前記予測結果は、前記第2の分子に含まれる原子のうち、少なくとも前記第1の分子に含まれる原子から値を0に置換した原子が、予め定めた複数種類の原子群に含まれるいずれの原子であるかを示す情報である請求項1に記載の自己教師あり学習プログラム。
【請求項3】
前記予測結果は、前記第2の分子に含まれる全ての原子についての情報を含む請求項2に記載の自己教師あり学習プログラム。
【請求項4】
前記機械学習モデルは、前記第2の分子を示すデータから前記第2の分子の分子構造を示す特徴量を抽出する第1の部分と、前記第1の部分で抽出された特徴量に基づいて、特定のタスクに応じた予測結果を出力する第2の部分とを含み、訓練された機械学習モデルの前記第1の部分は、転移学習に利用される請求項1~請求項3のいずれか1項に記載の自己教師あり学習プログラム。
【請求項5】
前記第2の部分は、前記第2の分子に含まれる原子の各々についての前記第1の部分の出力にそれぞれ対応した異なる出力部を含み、
前記予測結果を取得する処理は、前記第2の分子に含まれる原子の各々についての予測結果を一度に取得することを含む、
請求項4に記載の自己教師あり学習プログラム。
【請求項6】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成し、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得し、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する、
ことを含む処理をコンピュータが実行する自己教師あり学習方法。
【請求項7】
第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成する生成部と、
前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得する取得部と、
前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する更新部と、
を含む自己教師あり学習装置。

発明の詳細な説明【技術分野】
【0001】
開示の技術は、自己教師あり学習プログラム、自己教師あり学習方法、及び自己教師あり学習装置に関する。
続きを表示(約 2,200 文字)【背景技術】
【0002】
従来、分子の構造データに基づいて、その分子のエネルギーを予測するニューラルネットワークが提案されている。このニューラルネットワークは、「構造」と「エネルギー」とからなるラベル付きデータを用いて教師あり学習により訓練される。この「エネルギー」は、例えば、密度汎関数理論(DFT:Density Functional Theory)と呼ばれる数値計算手法で計算される。DFTによる分子のエネルギーの計算時間は非常に長く、1つの構造のエネルギーの計算に、半日から3日かかる場合もある。そのため、教師あり学習のためのラベル付きデータを大量に集めることが困難である。
【0003】
そこで、ラベルなしデータから、タスクの正解(ラベル)を生成し、生成したラベルを用いて教師あり学習を行う自己教師あり学習と呼ばれる手法が存在する。例えば、文章の一部の単語をマスクして、マスクした単語をニューラルネットワークに予測させることで、自己教師あり学習を行う。分子のエネルギーの予測を行うニューラルネットに向けた自己教師あり学習の手法も提案されている。この手法では、分子を構成する原子及び原子間の結合の一部がマスクされる。
【先行技術文献】
【特許文献】
【0004】
特表2021-518024号公報
【非特許文献】
【0005】
Kristof T. Sch▲u▼tt, Oliver T. Unke, Michael Gastegger, "Equivariant Message Passing for the Prediction of Tensorial Properties and Molecular Spectra," PMLR, 2021.
Johannes Gasteiger, Muhammed Shuaibi, Anuroop Sriram, Stephan Gunnemann, Zachary Ulissi, C. Lawrence Zitnick, Abhishek Das, "GemNet-OC: Developing Graph Neural Networks for Large and Diverse Molecular Simulation Datasets," Transactions on Machine Learning Research, 2022.
Zaixi Zhang, Qi Liu, Shengyu Zhang, Chang-Yu Hsieh, Liang Shi, Chee-Kong Lee, "Graph Self-Supervised Learning for Optoelectronic Properties of Organic Semiconductors," ICML, 2022.
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、実際の原子としては存在しない「マスク」という情報をニューラルネットワークが学習してしまうことになり、無駄な学習が行われ、ニューラルネットワークの予測精度が低下する場合があるという問題がある。
【0007】
一つの側面として、開示の技術は、自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させることを目的とする。
【課題を解決するための手段】
【0008】
一つの態様として、開示の技術は、第1の分子に含まれる原子のうち所定割合の原子それぞれを示す値を0に置換した第2の分子を示すデータを生成する。また、開示の技術は、前記第2の分子を示すデータを、分子構造に関する予測を行う機械学習モデルに入力して予測結果を取得する。そして、開示の技術は、前記第1の分子に対応する正解データと、前記予測結果との比較結果に基づいて、前記機械学習モデルのパラメータを更新する。
【発明の効果】
【0009】
一つの側面として、自己教師あり学習により訓練されるニューラルネットワークの予測精度を向上させることができる、という効果を有する。
【図面の簡単な説明】
【0010】
分子のエネルギー予測のNNについて説明するための図である。
転移学習について説明するための図である。
分子のエネルギー予測のためのNNに向けた自己教師あり学習を説明するための図である。
分子のエネルギー予測のためのNNに向けた自己教師あり学習の課題を説明するための図である。
自己教師あり学習装置の機能ブロック図である。
自己教師あり学習装置の処理を説明するための図である。
自己教師あり学習装置として機能するコンピュータの概略構成を示すブロック図である。
自己教師あり学習処理の一例を示すフローチャートである。
本手法の効果についての検証結果を示す図である。
本手法の効果についての検証結果を示す図である。
NNの構成の一例を説明するための図である。
【発明を実施するための形態】
(【0011】以降は省略されています)

この特許をJ-PlatPatで参照する
Flag Counter

関連特許

富士通株式会社
光伝送装置
20日前
富士通株式会社
金融システム
13日前
富士通株式会社
通信装置及び通信方法
19日前
富士通株式会社
演算器及び情報処理装置
19日前
富士通株式会社
基地局装置及び通信方法
12日前
富士通株式会社
キュービット・マッピング
16日前
富士通株式会社
伝送装置及び伝送システム
27日前
富士通株式会社
プログラム,装置及び方法
20日前
富士通株式会社
制御装置及び制御プログラム
16日前
富士通株式会社
基地局装置及び通信システム
19日前
富士通株式会社
キュービット・ルーティング
16日前
富士通株式会社
電源ユニット及びその制御方法
19日前
富士通株式会社
電圧検知回路及び情報処理装置
19日前
富士通株式会社
ネットワーク装置及び判定方法
21日前
富士通株式会社
疾患予測根拠表示方法及びプログラム
12日前
富士通株式会社
情報処理装置及びデータ転送制御方法
13日前
富士通株式会社
連携装置、連携方法、連携プログラム
12日前
富士通株式会社
病変検出方法および病変検出プログラム
16日前
富士通株式会社
作業割当方法および作業割当プログラム
19日前
富士通株式会社
データ転送制御装置および情報処理装置
19日前
富士通株式会社
歪み補正係数算出方法およびプログラム
6日前
富士通株式会社
コンパイルプログラム及びコンパイル方法
16日前
富士通株式会社
モジュール搭載装置、及び、情報処理装置
12日前
富士通株式会社
データ連携方法及びデータ連携プログラム
6日前
富士通株式会社
制御プログラム、制御方法及びサーバ装置
19日前
富士通株式会社
制御プログラム、制御方法および制御システム
5日前
富士通株式会社
半導体装置、半導体装置の製造方法及び電子装置
27日前
富士通株式会社
プログラム、データ処理装置及びデータ処理方法
6日前
富士通株式会社
半導体装置、半導体装置の製造方法及び電子装置
19日前
富士通株式会社
演算プログラム、演算方法、および情報処理装置
12日前
富士通株式会社
データ処理装置、プログラム及びデータ処理方法
19日前
富士通株式会社
プログラム、データ処理方法およびデータ処理装置
16日前
富士通株式会社
通信制御装置、通信装置、端末、及び通信システム
12日前
富士通株式会社
情報処理装置、システム、および情報処理プログラム
28日前
富士通株式会社
情報処理プログラム、情報処理方法及び情報処理装置
19日前
富士通株式会社
移動目標検出のためのレーダ点群の処理方法及び装置
7日前
続きを見る