特許ウォッチ

公開番号2025037141
公報種別公開特許公報(A)
公開日2025-03-17
出願番号2023143922
出願日2023-09-05
発明の名称学習装置、方法およびプログラム
出願人株式会社東芝
代理人弁理士法人鈴榮特許綜合事務所
主分類G06N 20/00 20190101AFI20250310BHJP(計算;計数)
要約【課題】目標とするクラスタ数の分類に好適なモデルを学習すること。
【解決手段】一実施形態に係る学習装置は、取得部と、学習部と、特徴クラスタ数推定部と、学習条件更新部とを備える。取得部は、複数の対象データと目標クラスタ数とを取得する。学習部は、学習条件のもと、複数の対象データを教師なし学習することによって学習モデルを反復学習する。特徴クラスタ数推定部は、複数の学習データに対応する複数の特徴ベクトルに基づいて特徴クラスタ数を推定する。学習条件更新部は、特徴クラスタ数と目標クラスタ数とに基づいて学習条件を更新する。
【選択図】図1

特許請求の範囲【請求項１】
複数の対象データと目標クラスタ数とを取得する取得部と、
学習条件に基づいて前記複数の対象データを教師なし学習することによって学習モデルを反復学習する学習部と、
前記複数の対象データに対応する複数の特徴ベクトルに基づいて特徴クラスタ数を推定する特徴クラスタ数推定部と、
前記特徴クラスタ数と前記目標クラスタ数とに基づいて前記学習条件を更新する学習条件更新部と
を具備する、学習装置。
続きを表示（約 1,700 文字）【請求項２】
前記学習部は、前記学習モデルに対して前記複数の対象データを入力することにより前記複数の特徴ベクトルを出力する、
請求項１に記載の学習装置。
【請求項３】
前記学習部は、前記複数の対象データのうちの異なる対象データから得られた第１の特徴ベクトルと第２の特徴ベクトルとの誤差が大きいほど損失が小さくなる第１の手法を用いて第１損失を計算し、
前記第１の手法は、前記誤差の感度を制御する第１温度パラメータを有し、
前記学習条件更新部は、前記第１温度パラメータを変更することによって前記学習条件を更新する、
請求項２に記載の学習装置。
【請求項４】
前記学習条件更新部は、
前記特徴クラスタ数が前記目標クラスタ数よりも小さい場合、前記第１温度パラメータを大きくするように前記学習条件を更新し、
前記特徴クラスタ数が前記目標クラスタ数よりも大きい場合、前記第１温度パラメータを小さくするように前記学習条件を更新する、
請求項３に記載の学習装置。
【請求項５】
前記学習部は、特徴ベクトルの要素同士の相関が低いほど損失が小さくなる第２の手法を用いて第２損失を計算し、
前記第２の手法は、前記相関の感度を制御する第２温度パラメータを有し、
前記学習条件更新部は、前記第２温度パラメータを変更することによって前記学習条件を更新する、
請求項２に記載の学習装置。
【請求項６】
前記学習条件更新部は、
前記特徴クラスタ数が前記目標クラスタ数よりも小さい場合、前記第２温度パラメータを大きくするように前記学習条件を更新し、
前記特徴クラスタ数が前記目標クラスタ数よりも大きい場合、前記第２温度パラメータを小さくするように前記学習条件を更新する、
請求項５に記載の学習装置。
【請求項７】
前記学習部は、
前記複数の対象データのうちの異なる対象データから得られた第１の特徴ベクトルと第２の特徴ベクトルとの誤差が大きいほど損失が小さくなる第１の手法を用いて第１損失を計算し、
前記第１の手法は、前記誤差の感度を制御する第１温度パラメータを有し、
特徴ベクトルの要素同士の相関が低いほど損失が小さくなる第２の手法を用いて第２損失を計算し、
前記第２の手法は、前記相関の感度を制御する第２温度パラメータを有し、
前記学習条件更新部は、前記第１温度パラメータ、前記第２温度パラメータ、および前記第１損失と前記第２損失との影響度を調整するバランシングパラメータのうちの少なくとも一つを変更することによって前記学習条件を更新する、
請求項２に記載の学習装置。
【請求項８】
前記学習条件更新部は、
前記特徴クラスタ数が前記目標クラスタ数よりも小さい場合、前記第１温度パラメータ、前記第２温度パラメータ、および前記バランシングパラメータのうちの少なくとも一つを大きくするように前記学習条件を更新し、
前記特徴クラスタ数が前記目標クラスタ数よりも大きい場合、前記第１温度パラメータ、前記第２温度パラメータ、および前記バランシングパラメータのうちの少なくとも一つを小さくするように前記学習条件を更新する、
請求項７に記載の学習装置。
【請求項９】
前記学習条件更新部は、
前記特徴クラスタ数が所定の条件を満たすか否かを判定し、
前記所定の条件を満たすと判定した場合、前記学習モデルの反復学習を終了させ、
前記所定の条件を満たさないと判定した場合、前記学習条件を変更する、
請求項１に記載の学習装置。
【請求項１０】
前記所定の条件は、前記特徴クラスタ数と前記目標クラスタ数との差が所定の値以下、或いは前記特徴クラスタ数が前記目標クラスタ数の下限値以上且つ前記目標クラスタ数の上限値以下である、
請求項９に記載の学習装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明の実施形態は、学習装置、方法およびプログラムに関する。
続きを表示（約 2,000 文字）【背景技術】
【０００２】
従来、機械学習の学習手法において、正解データとしての分類ラベルを与えずに対象データを学習する教師なし学習が知られている。教師なし学習では、分類ラベルが未知であることから、対象データの特徴が反映されたクラスタ数に分類されることがある。また、教師なし学習では、学習条件によって異なるクラスタ数に分類されることがある。これらのことから、教師なし学習の学習結果は、ユーザが想定し得ないクラスタ数になることがあり、必ずしもユーザにとって好適なものではない可能性がある。
【０００３】
上記事情により、教師なし学習において、目標とするクラスタ数に分類したいという需要が考えられる。例えば、検査画像の分類において、不良パターンが１０クラス程度と、分類されるカテゴリ数のおおよその目安が判っている場合がある。また例えば、１０種類の物体（乗り物および動物など）の画像データセットであるＣＩＦＡＲ－１０において、乗り物と動物との２クラスに分類したい場合や、色およびサイズなども考慮して通常の１０クラスよりもさらに細かい１００クラスに分類したい場合がある。しかしながら、このような場合において、目標とするクラスタ数の分類に好適なモデルを学習することができる学習装置はこれまで知られていない。
【先行技術文献】
【特許文献】
【０００４】
特開２０１９－１３９６５１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明が解決しようとする課題は、目標とするクラスタ数の分類に好適なモデルを学習することができる学習装置、方法およびプログラムを提供することである。
【課題を解決するための手段】
【０００６】
一実施形態に係る学習装置は、取得部と、学習部と、特徴クラスタ数推定部と、学習条件更新部とを備える。取得部は、複数の対象データと目標クラスタ数とを取得する。学習部は、学習条件のもと、複数の対象データを教師なし学習することによって学習モデルを反復学習する。特徴クラスタ数推定部は、複数の学習データに対応する複数の特徴ベクトルに基づいて特徴クラスタ数を推定する。学習条件更新部は、特徴クラスタ数と目標クラスタ数とに基づいて学習条件を更新する。
【図面の簡単な説明】
【０００７】
実施形態に係る学習装置の構成を例示するブロック図。
図１の学習部の具体的な構成を例示するブロック図。
図２の損失算出部の具体的な構成を例示するブロック図。
実施形態に係る学習装置の動作を例示するフローチャート。
実施形態における第１温度パラメータを変更した場合の特徴ベクトルを可視化した散布図。
実施形態における第２温度パラメータを変更した場合の特徴ベクトルを可視化した散布図。
実施形態におけるバランシングパラメータを変更した場合の特徴ベクトルを可視化した散布図。
実施形態における特徴ベクトルを可視化した散布図とクラスタ毎の代表画像群とを含む表示データの例。
一実施形態に係るコンピュータのハードウェア構成を例示するブロック図。
【発明を実施するための形態】
【０００８】
以下、図面を参照しながら、学習装置の実施形態について詳細に説明する。実施形態では、乗り物および動物など複数の種類の被写体それぞれを含む画像データ群（データセット）を、教師なし学習によってクラスタリングする機械学習の学習モデルを例に説明する。また、機械学習として、例えば、ニューラルネットワークを利用するものとする。即ち、実施形態の学習モデルは、ニューラルネットワークモデルである。
【０００９】
（実施形態）
図１は、実施形態に係る学習装置１００の構成を例示するブロック図である。学習装置１００は、機械学習の学習モデルを教師なし学習することによって学習済みモデルを生成するためのコンピュータである。学習装置１００は、取得部１１０と、学習部１２０と、特徴クラスタ数推定部１３０と、ラベル保持部１４０と、学習条件更新部１５０と、表示制御部１６０とを備える。
【００１０】
取得部１１０は、複数の対象データ、目標クラスタ数、および学習条件を取得する。取得部１１０は、複数の対象データおよび学習条件を学習部１２０へと出力し、目標クラスタ数および学習条件を学習条件更新部１５０へと出力する。尚、取得部１１０が取得する学習条件は、初期学習条件と呼ばれてもよい。また、初期学習条件は、予め学習装置１００に設定されていてもよい。
（【００１１】以降は省略されています）

関連特許