特許ウォッチ

公開番号2025014621
公報種別公開特許公報(A)
公開日2025-01-30
出願番号2023117326
出願日2023-07-19
発明の名称機械学習装置、機械学習方法、および機械学習プログラム
出願人株式会社JVCケンウッド
代理人個人
主分類G06V 10/764 20220101AFI20250123BHJP(計算;計数)
要約【課題】クラス分類精度の向上を図ることができる機械学習技術を提供する。
【解決手段】新規クラス画像生成部61は、基本クラスの画像を加工して、新規クラスの画像を生成する。画像特徴量出力部62は、基本クラスの画像によって事前学習されており、基本クラスの画像または新規クラスの画像を入力として画像特徴量を出力する。言語分類重み出力部65は、基本クラスの画像と、基本クラスの画像を説明する文章とによって事前学習されており、基本クラスの画像を説明する文章を入力として言語分類重みを出力する。画像分類重み出力部64は、画像特徴量を入力とし、クラス毎に画像特徴量の平均値を算出し、クラス毎の画像分類重みとして出力する。最適化部66は、画像分類重みと言語分類重みとを入力とし、画像分類重みを最適化し、再構築分類重みを出力する。
【選択図】図7
特許請求の範囲【請求項１】
基本クラスの画像に比べて少数の新規クラスの画像を継続学習する機械学習装置であって、
前記基本クラスの画像を加工して、新規クラスの画像を生成する新規クラス画像生成部と、
前記基本クラスの画像によって事前学習された画像特徴量出力部であって、前記基本クラスの画像または前記新規クラスの画像を入力として画像特徴量を出力する画像特徴量出力部と、
前記基本クラスの画像と、前記基本クラスの画像を説明する文章とによって事前学習された言語分類重み出力部であって、前記基本クラスの画像を説明する文章を入力として言語分類重みを出力する言語分類重み出力部と、
前記画像特徴量を入力とし、クラス毎に前記画像特徴量の平均値を算出し、クラス毎の画像分類重みとして出力する画像分類重み出力部と、
前記画像分類重みと前記言語分類重みとを入力とし、前記画像分類重みを最適化し、再構築分類重みを出力する最適化部と、
前記再構築分類重みをクラス分類の重みとして用い、前記画像特徴量出力部が出力した画像特徴量と前記クラス分類の重みとから、クラス分類を出力する分類部とを備えることを特徴とする機械学習装置。
続きを表示（約 1,200 文字）【請求項２】
前記最適化部は、
前記基本クラスの画像分類重みは前記言語分類重みに近づけ、前記新規クラスの画像分類重みは前記言語分類重みから遠ざけるように学習することを特徴とする請求項１に記載の機械学習装置。
【請求項３】
基本クラスの画像に比べて少数の新規クラスの画像を継続学習する機械学習方法であって、
前記基本クラスの画像を加工して、新規クラスの画像を生成する新規クラス画像生成ステップと、
前記基本クラスの画像によって事前学習された画像特徴量出力モジュールを用いて、前記基本クラスの画像または前記新規クラスの画像を入力として画像特徴量を出力する画像特徴量出力ステップと、
前記基本クラスの画像と、前記基本クラスの画像を説明する文章とによって事前学習された言語分類重み出力モジュールを用いて、前記基本クラスの画像を説明する文章を入力として言語分類重みを出力する言語分類重み出力ステップと、
前記画像特徴量を入力とし、クラス毎に前記画像特徴量の平均値を算出し、クラス毎の画像分類重みとして出力する画像分類重み出力ステップと、
前記画像分類重みと前記言語分類重みとを入力とし、前記画像分類重みを最適化し、再構築分類重みを出力する最適化ステップと、
前記再構築分類重みをクラス分類の重みとして用い、前記画像特徴量出力ステップが出力した画像特徴量と前記クラス分類の重みとから、クラス分類を出力する分類ステップとを備えることを特徴とする機械学習方法。
【請求項４】
基本クラスの画像に比べて少数の新規クラスの画像を継続学習する機械学習プログラムであって、
前記基本クラスの画像を加工して、新規クラスの画像を生成する新規クラス画像生成ステップと、
前記基本クラスの画像によって事前学習された画像特徴量出力モジュールを用いて、前記基本クラスの画像または前記新規クラスの画像を入力として画像特徴量を出力する画像特徴量出力ステップと、
前記基本クラスの画像と、前記基本クラスの画像を説明する文章とによって事前学習された言語分類重み出力モジュールを用いて、前記基本クラスの画像を説明する文章を入力として言語分類重みを出力する言語分類重み出力ステップと、
前記画像特徴量を入力とし、クラス毎に前記画像特徴量の平均値を算出し、クラス毎の画像分類重みとして出力する画像分類重み出力ステップと、
前記画像分類重みと前記言語分類重みとを入力とし、前記画像分類重みを最適化し、再構築分類重みを出力する最適化ステップと、
前記再構築分類重みをクラス分類の重みとして用い、前記画像特徴量出力ステップが出力した画像特徴量と前記クラス分類の重みとから、クラス分類を出力する分類ステップとをコンピュータに実行させることを特徴とする機械学習プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、機械学習技術に関する。
続きを表示（約 2,400 文字）【背景技術】
【０００２】
人間は長期にわたる経験を通して新しい知識を学習することができ、昔の知識を忘れないように維持することができる。一方、畳み込みニューラルネットワーク（Convolutional Neural Network(CNN)）の知識は学習に使用したデータセットに依存しており、データ分布の変化に適応するためにはデータセット全体に対してＣＮＮのパラメータの再学習が必要となる。
【０００３】
より効率的で実用的な手法として、既に獲得した知識を再利用しつつ、新たなタスクを学習する継続学習（incremental learningまたはcontinual learning）という手法がある。特に、クラス分類タスクにおける継続学習は基本クラス（過去に学習したクラス）が分類できる状態から新しいクラス（新規クラス）を学習して分類できるようにする手法である。
【０００４】
一方、深層学習では、過去に獲得した知識を大幅に喪失し、タスクの能力が大幅に低下する致命的忘却(catastrophic forgetting)という現象があるが、継続学習ではこれが特に問題となる。クラス分類タスクにおける継続学習では、致命的忘却を抑制して基本クラスの分類性能を維持しつつ、新規クラスの分類性能を獲得することが最大の課題となる。
【０００５】
他方、新しいタスクは数少ないサンプルデータしか利用できないことが多いため、少ない教師データで効率的に学習する手法として、少数ショット学習（few-shot learning）が提案されている。通常であれば学習には数千以上のサンプルが必要であるが、少数ショット学習では少数サンプル（例えば数個のサンプル）で学習が行われる。
【０００６】
また、基本（ベース）クラスを学習済みのモデルに対して追加で学習させ、新たなクラス（新規クラス）の分類を可能にするクラスインクリメンタル学習（Class Incremental Learning：CIL、継続学習）が提案されている。CILでは、クラス分類の学習済みモデルに対してタスクが継続的に追加され、新規タスクでは新規のクラス及び過去のクラスの分類性能が求められる。なお、通常、新規タスクの学習データはビッグデータである。
【０００７】
基本（ベース）クラスの学習結果に対して致命的忘却を伴わずに新規クラスを学習する継続学習と、基本クラスに比べて少数しかない新規クラスを学習する少数ショット学習とを組み合わせたインクリメンタル少数ショット学習（Few-Shot Class Incremental Learning (FSCIL)）と呼ばれる手法が提案されている（非特許文献１）。継続少数ショット学習は、基本クラスについては大規模なデータセットから学習し、新規クラスについては少数のサンプルデータから学習することができる。FSCILはCILに近いクラス分類のインクリメンタル学習シナリオだが、新規タスクの学習データが少数（スモールデータ）である点が大きく異なる。
【０００８】
継続少数ショット学習手法としてＣＥＣ(Continually Evolved Classifiers)が提案されている（非特許文献１）。ＣＥＣは、元の画像を回転させた基本クラスの画像を疑似的に新しい新規クラスの画像とすることにより、疑似継続学習タスクを構築し、グラフアテンションネットワーク（graph attention network(ＧＡＴ)）を学習する。
【先行技術文献】
【非特許文献】
【０００９】
Zhang, C., Song, N., Lin, G., Zheng, Y., Pan, P., & Xu, Y. (2021). Few-shot incremental learning with continually evolved classifiers. In Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (pp. 12455-12464).
Nishida, K., Nishida, K., & Nishioka, S. (2022). Improving Few-Shot Image Classification Using Machine-and User-Generated Natural Language Descriptions. arXiv preprint arXiv:2207.03133.
Chen, T., Kornblith, S., Norouzi, M., & Hinton, G. (2020, November). A simple framework for contrastive learning of visual representations. In International conference on machine learning (pp. 1597-1607). PMLR.
【発明の概要】
【発明が解決しようとする課題】
【００１０】
非特許文献１に記載の手法では、基本クラスの画像を分類するための特徴表現は既に学習済みであるため、回転させただけの学習済み画像を使用するだけでは、グラフモデルの学習が不十分になる可能性がある。そのため、十分な分類精度を得ることができない場合があるという課題があった。
（【００１１】以降は省略されています）

関連特許