特許ウォッチ

公開番号2025083258
公報種別公開特許公報(A)
公開日2025-05-30
出願番号2024011331
出願日2024-01-29
発明の名称情報処理装置、情報処理方法およびプログラム
出願人ソニーグループ株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06N 3/094 20230101AFI20250523BHJP(計算;計数)
要約【課題】敵対的生成ネットワークの生成器が生成するデータの多様性を向上させること。
【解決手段】本願に係る情報処理装置は、識別器と生成器とを含む敵対的生成ネットワークを生成するモデル生成部を備えた情報処理装置であって、モデル生成部は、識別器を、識別器に入力されるデータからデータの特徴ベクトルを生成する特徴抽出ネットワークと、特徴ベクトル空間に分布する特徴ベクトルを1次元空間に落とし込む最終層とに分けて、特徴抽出ネットワークと最終層とをそれぞれ学習させることにより、生成器によって生成される生成データの特徴ベクトルである生成特徴ベクトルの確率分布と、訓練用のデータセットに含まれる実データの特徴ベクトルである実特徴ベクトルの確率分布との距離を評価可能な識別器である距離化可能識別器を生成する。
【選択図】図6
特許請求の範囲【請求項１】
識別器と生成器とを含む敵対的生成ネットワークを生成するモデル生成部を備えた情報処理装置であって、
前記モデル生成部は、
前記識別器を、前記識別器に入力されるデータから前記データの特徴ベクトルを生成する特徴抽出ネットワークと、特徴ベクトル空間に分布する前記特徴ベクトルを１次元空間に落とし込む最終層とに分けて、前記特徴抽出ネットワークと前記最終層とをそれぞれ学習させることにより、前記生成器によって生成される生成データの特徴ベクトルである生成特徴ベクトルの確率分布と、訓練用のデータセットに含まれる実データの特徴ベクトルである実特徴ベクトルの確率分布との距離を評価可能な識別器である距離化可能識別器を生成する、
情報処理装置。
続きを表示（約 1,500 文字）【請求項２】
前記最終層のパラメータは、前記特徴ベクトル空間に分布する前記生成特徴ベクトルの確率分布と前記実特徴ベクトルの確率分布とを分離する方向に関するパラメータであり、
前記モデル生成部は、
前記生成特徴ベクトルの確率分布と前記実特徴ベクトルの確率分布との距離を大きくする前記方向に対応するパラメータの値をとるように前記最終層を学習させることにより、前記距離化可能識別器を生成する、
請求項１に記載の情報処理装置。
【請求項３】
前記モデル生成部は、
前記生成特徴ベクトルの確率分布を特定の方向に移動させると前記生成特徴ベクトルの確率分布と前記実特徴ベクトルの確率分布とが重なるように前記特徴抽出ネットワークを学習させることにより、前記距離化可能識別器を生成する、
請求項１に記載の情報処理装置。
【請求項４】
前記モデル生成部は、
前記データと前記特徴ベクトルとが１対１に対応するように前記特徴抽出ネットワークを学習させることにより、前記距離化可能識別器を生成する、
請求項１に記載の情報処理装置。
【請求項５】
前記モデル生成部は、
前記識別器の損失関数を前記特徴抽出ネットワークの損失関数と前記最終層の損失関数とに分けて、前記特徴抽出ネットワークのパラメータの値と前記最終層のパラメータの値とをそれぞれ学習させることにより、前記距離化可能識別器を生成する、
請求項１に記載の情報処理装置。
【請求項６】
前記モデル生成部は、
前記距離化可能識別器を用いて、前記生成特徴ベクトルの確率分布と前記実特徴ベクトルの確率分布との距離を小さくするように学習させた前記生成器を生成する、
請求項１に記載の情報処理装置。
【請求項７】
前記モデル生成部によって生成された前記生成器を用いて、ランダムなベクトルから前記生成データを生成するデータ生成部をさらに備える
請求項１に記載の情報処理装置。
【請求項８】
コンピュータが、
識別器と生成器とを含む敵対的生成ネットワークを生成することと、
前記識別器を、前記識別器に入力されるデータから前記データの特徴ベクトルを生成する特徴抽出ネットワークと、特徴ベクトル空間に分布する前記特徴ベクトルを１次元空間に落とし込む最終層とに分けて、前記特徴抽出ネットワークと前記最終層とをそれぞれ学習させることにより、前記生成器によって生成される生成データの特徴ベクトルである生成特徴ベクトルの確率分布と、訓練用のデータセットに含まれる実データの特徴ベクトルである実特徴ベクトルの確率分布との距離を評価可能な識別器である距離化可能識別器を生成することと、
を含む、情報処理方法。
【請求項９】
識別器と生成器とを含む敵対的生成ネットワークを生成することと、
前記識別器を、前記識別器に入力されるデータから前記データの特徴ベクトルを生成する特徴抽出ネットワークと、特徴ベクトル空間に分布する前記特徴ベクトルを１次元空間に落とし込む最終層とに分けて、前記特徴抽出ネットワークと前記最終層とをそれぞれ学習させることにより、前記生成器によって生成される生成データの特徴ベクトルである生成特徴ベクトルの確率分布と、訓練用のデータセットに含まれる実データの特徴ベクトルである実特徴ベクトルの確率分布との距離を評価可能な識別器である距離化可能識別器を生成することと、
をコンピュータに実行させる、プログラム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法およびプログラムに関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
従来、敵対的生成ネットワーク（Generative Adversarial Network; GAN）に関する技術が知られている。敵対的生成ネットワークは、生成器と呼ばれるニューラルネットワークによって生成されるデータが従う目標確率分布を学習することを目的とする。この目的を達成するため、識別器と呼ばれるニューラルネットワークを導入し、ミニマックス法で生成器と識別器を最適化する。
【先行技術文献】
【非特許文献】
【０００３】
Ian Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, Sherjil Ozair, Aaron Courville, and Yoshua Bengio, "Generative adversarial nets", Neural Information Processing Systems (NeurIPS), 2014/6, vol.27,pp.2672‐2680.
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記の従来技術では、敵対的生成ネットワークの生成器によって生成されるデータが特定のパターンに偏る、または、生成器が似たようなデータを多く生成する場合（モード崩壊ともいう）がある。言い換えると、上記の従来技術では、敵対的生成ネットワークの生成器が生成するデータの多様性が乏しい場合がある。
【０００５】
そこで、本開示では、敵対的生成ネットワークの生成器が生成するデータの多様性を向上させることができる情報処理装置、情報処理方法およびプログラムを提案する。
【課題を解決するための手段】
【０００６】
本開示の情報処理装置は、識別器と生成器とを含む敵対的生成ネットワークを生成するモデル生成部を備えた情報処理装置であって、前記モデル生成部は、前記識別器を、前記識別器に入力されるデータから前記データの特徴ベクトルを生成する特徴抽出ネットワークと、特徴ベクトル空間に分布する前記特徴ベクトルを１次元空間に落とし込む最終層とに分けて、前記特徴抽出ネットワークと前記最終層とをそれぞれ学習させることにより、前記生成器によって生成される生成データの特徴ベクトルである生成特徴ベクトルの確率分布と、訓練用のデータセットに含まれる実データの特徴ベクトルである実特徴ベクトルの確率分布との距離を評価可能な前記識別器である距離化可能識別器を生成する。
【図面の簡単な説明】
【０００７】
従来技術に係る敵対的生成ネットワークについて説明するための図である。
従来技術に係る敵対的生成ネットワークについて説明するための図である。
従来技術に係る敵対的生成ネットワークと本開示の実施形態に係る敵対的生成ネットワークとの違いについて説明するための図である。
本開示の実施形態に係る情報処理装置の構成例を示す図である。
本開示の実施形態に係る敵対的生成ネットワークについて説明するための図である。
本開示の実施形態に係る敵対的生成ネットワークについて説明するための図である。
本開示の実施形態に係る距離化可能識別器が満たすべき３つの条件について説明するための図である。
本開示に係る情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【０００８】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
【０００９】
（実施形態）
（１．はじめに）
本開示の実施形態では、敵対的生成ネットワークが画像データを生成する場合について説明する。なお、本開示の実施形態に係る敵対的生成ネットワークは、画像データに限らず、例えば、テキストデータまたは音声データなどの画像データ以外のデータを生成するものであってよい。また、本開示の実施形態に係る敵対的生成ネットワークは、2014年にイアン・グッドフェローらが「Generative Adversarial Nets」という論文で発表したオリジナルのGANに限らず、例えば、DCGAN（Deep Convolutional GAN）、CycleGANまたはStyleGANなどの様々なGANの派生形であってもよい。
【００１０】
一般的に、敵対的生成ネットワークは、訓練用のデータとして与えられた実際のデータ（以下、「実データ」と記載する場合がある。）と似たような擬似的なデータを生成する機械学習モデルである。具体的には、敵対的生成ネットワークは、生成器と識別器と呼ばれる２つのニューラルネットワークによって構成される。敵対的生成ネットワークは、生成器と識別器とを互いに競わせるように学習させること（敵対的な学習）により生成される。このように、生成器と識別器とを互いに競わせるように学習させることは、生成器と識別器とに共通する損失関数のミニマックス問題を解くことに対応する。以下では、図１および図２を用いて、従来技術に係る敵対的生成ネットワークの学習方法について具体的に説明する。
（【００１１】以降は省略されています）

関連特許