特許ウォッチ

公開番号2025018969
公報種別公開特許公報(A)
公開日2025-02-06
出願番号2024112886
出願日2024-07-12
発明の名称機械学習方法および情報処理装置
出願人富士通株式会社,インディアンインスティテュートオブサイエンス
代理人弁理士法人酒井国際特許事務所
主分類G06N 20/00 20190101AFI20250130BHJP(計算;計数)
要約【課題】汎化性能を向上させつつ、精度のよい分類器を得ることを課題とする。
【解決手段】情報処理装置は、訓練データセットに含まれる訓練データの組み合わせに基づいて機械学習モデルを訓練した場合の、前記機械学習モデルにかかる評価指標を向上させる度合いを推定し、推定した前記度合いに基づいて前記訓練データセットから訓練データの組を選定し、選定した前記訓練データの組に基づいて他の訓練データを生成し、生成した前記他の訓練データと、前記訓練データセットとに基づいて前記機械学習モデルを訓練する。
【選択図】図1
特許請求の範囲【請求項１】
訓練データセットに含まれる訓練データの組み合わせに基づいて機械学習モデルを訓練した場合の、前記機械学習モデルにかかる評価指標を向上させる度合いを推定し、
推定した前記度合いに基づいて前記訓練データセットから訓練データの組を選定し、
選定した前記訓練データの組に基づいて他の訓練データを生成し、
生成した前記他の訓練データと、前記訓練データセットとに基づいて前記機械学習モデルを訓練する、
処理をコンピュータが実行することを特徴とする機械学習方法。
続きを表示（約 1,400 文字）【請求項２】
前記推定する処理は、特定のクラスに属する訓練データの特徴量の平均に基づいて推定する処理を含む、ことを特徴とする請求項１に記載の機械学習方法。
【請求項３】
前記選定する処理は、前記訓練データセットに付された複数のラベルのうち、前記度合いに基づいて、第１のラベルと第２のラベルを選択し、前記訓練データセットから前記第１のラベルが付された第１の訓練データと前記第２のラベルが付された第２の訓練データとを前記訓練データの組として選定する処理を含む、
ことを特徴とする請求項１に記載の機械学習方法。
【請求項４】
前記第１のラベルは、前記第１の訓練データに付される正解ラベルであり、
前記第２のラベルは、訓練前の前記機械学習モデルに前記第２の訓練データを入力することによって出力される疑似ラベルである、
ことを特徴とする請求項３に記載の機械学習方法。
【請求項５】
前記訓練する処理は、新たな訓練データに基づく前記機械学習モデルの訓練において、前記新たな訓練データのもととなる前記第１の訓練データに付与されたラベルを前記新たな訓練データのラベルとしたときの損失関数の値に基づいて前記機械学習モデルのパラメータを訓練する、
ことを特徴とする請求項３に記載の機械学習方法。
【請求項６】
訓練データセットに含まれる訓練データの組み合わせに基づいて機械学習モデルを訓練した場合の、前記機械学習モデルにかかる評価指標を向上させる度合いを推定し、
推定した前記度合いに基づいて前記訓練データセットから訓練データの組を選定し、
選定した前記訓練データの組に基づいて他の訓練データを生成し、
生成した前記他の訓練データと、前記訓練データセットとに基づいて前記機械学習モデルを訓練する、
制御部を有することを特徴とする情報処理装置。
【請求項７】
前記制御部は、特定のクラスに属する訓練データの特徴量の平均に基づいて推定することを特徴とする請求項６に記載の情報処理装置。
【請求項８】
前記制御部は、前記訓練データセットに付された複数のラベルのうち、前記度合いに基づいて、第１のラベルと第２のラベルを選択し、前記訓練データセットから前記第１のラベルが付された第１の訓練データと前記第２のラベルが付された第２の訓練データとを前記訓練データの組として選定する、
ことを特徴とする請求項６に記載の情報処理装置。
【請求項９】
前記第１のラベルは、前記第１の訓練データに付される正解ラベルであり、
前記第２のラベルは、訓練前の前記機械学習モデルに前記第２の訓練データを入力することによって出力される疑似ラベルである、
ことを特徴とする請求項８に記載の情報処理装置。
【請求項１０】
前記制御部は、新たな訓練データに基づく前記機械学習モデルの訓練において、前記新たな訓練データのもととなる前記第１の訓練データに付与されたラベルを前記新たな訓練データのラベルとしたときの損失関数の値に基づいて前記機械学習モデルのパラメータを訓練する、
ことを特徴とする請求項８に記載の情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、訓練データを用いて機械学習モデルの訓練を行う機械学習技術に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
近年、機械学習アルゴリズムを適用し、複数の訓練データを含む訓練データセットを用いて訓練した分類器（機械学習モデル）が、異常検知や医療における画像診断などに用いられている。この分類器の訓練においては、訓練データセットに含まれる訓練データを組み合わせて混合することで新たな訓練データを生成するＭｉｘｕｐによりデータ拡張を行い、拡張した訓練データセットを用いて分類器を訓練することで分類器の汎化性能をより向上させることが知られている。
【先行技術文献】
【特許文献】
【０００３】
特開２０２２－１８１２０４号公報
特開２０２２－８０２１３号公報
特開２０２２－１２４９８９号公報
米国特許出願公開第２０２１／０１２４９９３号明細書
国際公開第２０２１／１００８１８号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
訓練データセットを用いて分類器の訓練を行う場合、分類器の精度だけでは、機械学習アルゴリズムの性能を適切に評価することが難しいため、より複雑な評価指標が用いられる場合がある。より複雑な評価指標とは、分類器の予測が特定のクラスに偏らなくするための制約付きの評価指標である。しかしながら、上記の従来技術のようにＭｉｘｕｐにより訓練データセットのデータ拡張を行う場合、分類器の汎化性能をより向上させることには役立つが、より複雑な評価指標を最適化させることは困難であるという問題がある。
【０００５】
１つの側面では、本発明は、汎化性能を向上させつつ、精度のよい分類器を得ることができる機械学習方法および情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
第１の案では、機械学習方法は、訓練データセットに含まれる訓練データの組み合わせに基づいて機械学習モデルを訓練した場合の、前記機械学習モデルにかかる評価指標を向上させる度合いを推定し、推定した前記度合いに基づいて前記訓練データセットから訓練データの組を選定し、選定した前記訓練データの組に基づいて他の訓練データを生成し、生成した前記他の訓練データと、前記訓練データセットとに基づいて前記機械学習モデルを訓練する、処理をコンピュータが実行することを特徴とする。
【図面の簡単な説明】
【０００７】
図１は、本実施例に係る情報処理装置の構成を示す機能ブロック図である。
図２は、本実施例に係る情報処理装置の処理手順を示すフローチャートである。
図３は、本実施例の情報処理装置と同様の機能を実現するコンピュータのハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【０００８】
以下、図面に基づいて、本願の開示する情報処理装置、機械学習方法および機械学習プログラムの実施例を詳細に説明する。なお、本実施例により、開示技術が限定されるものではない。また、以下の実施例は、矛盾しない範囲で適宜組み合わせてもよい。
【実施例】
【０００９】
参考文献１：Narasimhan, H., Menon, A.K.: Training over-parameterized models with non-decomposable objectives, NeurIPS 2021
【００１０】
まず、参考文献１などに用いられている分類器の予測精度に関する基本的な評価指標、および、基本的な評価指標より複雑な評価指標（例えば制約付きの評価指標）について説明を行う。
（【００１１】以降は省略されています）

関連特許