特許ウォッチ

公開番号2024114099
公報種別公開特許公報(A)
公開日2024-08-23
出願番号2023019532
出願日2023-02-10
発明の名称修正プログラム、修正方法、および情報処理装置
出願人富士通株式会社
代理人個人
主分類G06N 3/09 20230101AFI20240816BHJP(計算;計数)
要約【課題】特定のデータを正しく分類可能にモデルのパラメータを変更すること。
【解決手段】情報処理装置100は、第1の訓練データ111が誤って分類される場合、変更対象とする第1のパラメータ121を特定する。情報処理装置100は、第1のパラメータ121を変更可能にし、他のパラメータを固定して、モデル101に対する第1の修正を実施する。情報処理装置100は、第1の修正を実施する前のモデル101において正しく分類された第2の訓練データ112が、第1の修正を実施した後のモデル101において誤って分類される場合、変更対象とする第2のパラメータ122を特定する。情報処理装置100は、第1のパラメータ121と、第2のパラメータ122とを変更可能にし、他のパラメータを固定して、モデル101に対する第2の修正を実施する。
【選択図】図1
特許請求の範囲【請求項１】
複数の訓練データのうち第１の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第１の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第１のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータを変更可能にし、他のパラメータを固定して、前記第１の訓練データが正しく分類されるよう、前記第１の訓練データに基づいて、前記モデルに対する第１の修正を実施し、
前記第１の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第１の修正を実施する前の前記モデルにおいて正しく分類された第２の訓練データが、前記第１の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第２の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第２のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるよう、前記第２の訓練データに基づいて、前記モデルに対する第２の修正を実施する、
処理をコンピュータに実行させることを特徴とする修正プログラム。
続きを表示（約 2,300 文字）【請求項２】
前記モデルに対する第１の修正を実施する処理は、
前記モデルに対する第１の修正を繰り返し実施し、
前記第２のパラメータを特定する処理は、
前記第１の修正が実施される都度、前記複数の訓練データのうち、前記第１の修正を実施する前の前記モデルにおいて正しく分類された第２の訓練データが、前記第１の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第２の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第２のパラメータを特定し、
前記モデルに対する第２の修正を実施する処理は、
前記第２のパラメータが特定されたことに応じて、前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるまで、前記第２の訓練データに基づいて、前記モデルに対する第２の修正を繰り返し実施する、ことを特徴とする請求項１に記載の修正プログラム。
【請求項３】
前記モデルに対する第１の修正を実施する処理は、
前記複数のパラメータのうち、特定した前記第１のパラメータを変更可能にし、他のパラメータを固定して、前記第１の訓練データが正しく分類されるよう、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第３の訓練データと、前記第１の訓練データとに基づいて、前記モデルに対する第１の修正を実施し、
前記モデルに対する第２の修正を実施する処理は、
前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるよう、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第４の訓練データと、前記第２の訓練データとに基づいて、前記モデルに対する第２の修正を実施する、ことを特徴とする請求項１または２に記載の修正プログラム。
【請求項４】
前記第１のパラメータを特定する処理は、
欠陥局所化により、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第５の訓練データと、前記第１の訓練データとに基づいて、前記複数のパラメータのうち、変更対象とする前記第１のパラメータを特定し、
前記第２のパラメータを特定する処理は、
欠陥局所化により、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第６の訓練データと、前記第２の訓練データとに基づいて、前記複数のパラメータのうち、変更対象とする前記第２のパラメータを特定する、ことを特徴とする請求項３に記載の修正プログラム。
【請求項５】
複数の訓練データのうち第１の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第１の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第１のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータを変更可能にし、他のパラメータを固定して、前記第１の訓練データが正しく分類されるよう、前記第１の訓練データに基づいて、前記モデルに対する第１の修正を実施し、
前記第１の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第１の修正を実施する前の前記モデルにおいて正しく分類された第２の訓練データが、前記第１の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第２の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第２のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるよう、前記第２の訓練データに基づいて、前記モデルに対する第２の修正を実施する、
処理をコンピュータに実行させることを特徴とする修正方法。
【請求項６】
複数の訓練データのうち第１の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第１の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第１のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータを変更可能にし、他のパラメータを固定して、前記第１の訓練データが正しく分類されるよう、前記第１の訓練データに基づいて、前記モデルに対する第１の修正を実施し、
前記第１の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第１の修正を実施する前の前記モデルにおいて正しく分類された第２の訓練データが、前記第１の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第２の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第２のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるよう、前記第２の訓練データに基づいて、前記モデルに対する第２の修正を実施する、
制御部を有することを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、修正プログラム、修正方法、および情報処理装置に関する。
続きを表示（約 2,900 文字）【背景技術】
【０００２】
従来、入力されたデータを分類した結果を出力する機能を有するモデルが存在する。モデルは、例えば、複数のパラメータを有する。モデルが、入力されたデータを誤って分類してしまう場合、モデルのパラメータを変更することにより、モデルが、入力されたデータを正しく分類するよう、モデルを修正することが望まれる。
【０００３】
先行技術としては、例えば、所望の出力信号値からのニューロン和の逸脱を特定し、特定された逸脱を使用して、ニューラルネットワークのシナプスが有する補正重みを変更するものがある。また、例えば、正解にも拘らずリジェクトされたパターンのリジェクト判定値がリジェクト閾値以下になるまで学習処理を続ける技術がある。また、例えば、正しく分類された訓練データの重みの合計と、誤って分類された訓練データの重みの合計に基づいて、複数の仮説のいずれかの仮説の重みを修正する技術がある。また、例えば、異なる２つのモデルの予測の差を低減する技術がある。
【先行技術文献】
【特許文献】
【０００４】
特表２０１７－５１１９４８号公報
特開平０９－１７９８４４号公報
米国特許出願公開第２０１１／００９３４１６号明細書
米国特許出願公開第２０２１／０３１４３３３号明細書
【非特許文献】
【０００５】
Ｔｏｋｕｉ，Ｓｈｏｇｏ，ｅｔａｌ． “ＮｅｕＲｅｃｏｖｅｒ：Ｒｅｇｒｅｓｓｉｏｎ－ＣｏｎｔｒｏｌｌｅｄＲｅｐａｉｒｏｆＤｅｅｐＮｅｕｒａｌＮｅｔｗｏｒｋｓｗｉｔｈＴｒａｉｎｉｎｇＨｉｓｔｏｒｙ．” ａｒＸｉｖｐｒｅｐｒｉｎｔａｒＸｉｖ：２２０３．００１９１（２０２２）．
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、従来技術では、モデルのパラメータを変更し、モデルを修正したことに応じて、修正した後のモデルが、入力された特定のデータを精度よく分類することができなくなる場合がある。例えば、あるデータを正しく分類するよう、モデルのパラメータを変更し、モデルを修正したことに応じて、修正する前のモデルにおいて正しく分類されていた特定のデータが、修正した後のモデルにおいて誤って分類されてしまうことがある。
【０００７】
１つの側面では、本発明は、特定のデータを正しく分類可能にモデルのパラメータを変更することを目的とする。
【課題を解決するための手段】
【０００８】
１つの実施態様によれば、複数の訓練データのうち第１の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第１の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第１のパラメータを特定し、前記複数のパラメータのうち、特定した前記第１のパラメータを変更可能にし、他のパラメータを固定して、前記第１の訓練データが正しく分類されるよう、前記第１の訓練データに基づいて、前記モデルに対する第１の修正を実施し、前記第１の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第１の修正を実施する前の前記モデルにおいて正しく分類された第２の訓練データが、前記第１の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第２の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第２のパラメータを特定し、前記複数のパラメータのうち、特定した前記第１のパラメータと、特定した前記第２のパラメータとを変更可能にし、他のパラメータを固定して、前記第２の訓練データが正しく分類されるよう、前記第２の訓練データに基づいて、前記モデルに対する第２の修正を実施する修正プログラム、修正方法、および情報処理装置が提案される。
【発明の効果】
【０００９】
一態様によれば、特定のデータを正しく分類可能にモデルのパラメータを変更することが可能になる。
【図面の簡単な説明】
【００１０】
図１は、実施の形態にかかる修正方法の一実施例を示す説明図である。
図２は、情報処理システム２００の一例を示す説明図である。
図３は、情報処理装置１００のハードウェア構成例を示すブロック図である。
図４は、情報処理装置１００の機能的構成の一例を示すブロック図である。
図５は、情報処理装置１００の機能的構成の具体例を示すブロック図である。
図６は、成功データを特定する一例を示す説明図（その１）である。
図７は、成功データを特定する一例を示す説明図（その２）である。
図８は、前方影響度を算出する一例を示す説明図である。
図９は、後方影響度を算出する一例を示す説明図である。
図１０は、変更対象重みＷ
1
を特定する一例を示す説明図（その１）である。
図１１は、変更対象重みＷ
1
を特定する一例を示す説明図（その２）である。
図１２は、変更対象重みＷ
1
を特定する一例を示す説明図（その３）である。
図１３は、変更対象重みＷ
1
を特定する一例を示す説明図（その４）である。
図１４は、成功データをサンプリングする一例を示す説明図である。
図１５は、変更対象重みＷ
1
を変更する一例を示す説明図である。
図１６は、第１の終了判定を実施する一例を示す説明図である。
図１７は、変更対象重みＷ
2
を特定する一例を示す説明図（その１）である。
図１８は、変更対象重みＷ
2
を特定する一例を示す説明図（その２）である。
図１９は、変更対象重みＷ
2
を変更する一例を示す説明図である。
図２０は、第２の終了判定を実施する一例を示す説明図である。
図２１は、情報処理装置１００による効果の一例を示す説明図である。
図２２は、全体処理手順の一例を示すフローチャートである。
図２３は、第１局所化処理手順の一例を示すフローチャートである。
図２４は、採取処理手順の一例を示すフローチャートである。
図２５は、第１再訓練処理手順の一例を示すフローチャートである。
図２６は、判定処理手順の一例を示すフローチャートである。
図２７は、第２再訓練処理手順の一例を示すフローチャートである。
図２８は、第２局所化処理手順の一例を示すフローチャートである。
図２９は、変更処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
（【００１１】以降は省略されています）

関連特許