TOP
|
特許
|
意匠
|
商標
特許ウォッチ
Twitter
他の特許を見る
10個以上の画像は省略されています。
公開番号
2024114099
公報種別
公開特許公報(A)
公開日
2024-08-23
出願番号
2023019532
出願日
2023-02-10
発明の名称
修正プログラム、修正方法、および情報処理装置
出願人
富士通株式会社
代理人
個人
主分類
G06N
3/09 20230101AFI20240816BHJP(計算;計数)
要約
【課題】特定のデータを正しく分類可能にモデルのパラメータを変更すること。
【解決手段】情報処理装置100は、第1の訓練データ111が誤って分類される場合、変更対象とする第1のパラメータ121を特定する。情報処理装置100は、第1のパラメータ121を変更可能にし、他のパラメータを固定して、モデル101に対する第1の修正を実施する。情報処理装置100は、第1の修正を実施する前のモデル101において正しく分類された第2の訓練データ112が、第1の修正を実施した後のモデル101において誤って分類される場合、変更対象とする第2のパラメータ122を特定する。情報処理装置100は、第1のパラメータ121と、第2のパラメータ122とを変更可能にし、他のパラメータを固定して、モデル101に対する第2の修正を実施する。
【選択図】図1
特許請求の範囲
【請求項1】
複数の訓練データのうち第1の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第1の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第1のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータを変更可能にし、他のパラメータを固定して、前記第1の訓練データが正しく分類されるよう、前記第1の訓練データに基づいて、前記モデルに対する第1の修正を実施し、
前記第1の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第1の修正を実施する前の前記モデルにおいて正しく分類された第2の訓練データが、前記第1の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第2の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第2のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるよう、前記第2の訓練データに基づいて、前記モデルに対する第2の修正を実施する、
処理をコンピュータに実行させることを特徴とする修正プログラム。
続きを表示(約 2,300 文字)
【請求項2】
前記モデルに対する第1の修正を実施する処理は、
前記モデルに対する第1の修正を繰り返し実施し、
前記第2のパラメータを特定する処理は、
前記第1の修正が実施される都度、前記複数の訓練データのうち、前記第1の修正を実施する前の前記モデルにおいて正しく分類された第2の訓練データが、前記第1の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第2の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第2のパラメータを特定し、
前記モデルに対する第2の修正を実施する処理は、
前記第2のパラメータが特定されたことに応じて、前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるまで、前記第2の訓練データに基づいて、前記モデルに対する第2の修正を繰り返し実施する、ことを特徴とする請求項1に記載の修正プログラム。
【請求項3】
前記モデルに対する第1の修正を実施する処理は、
前記複数のパラメータのうち、特定した前記第1のパラメータを変更可能にし、他のパラメータを固定して、前記第1の訓練データが正しく分類されるよう、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第3の訓練データと、前記第1の訓練データとに基づいて、前記モデルに対する第1の修正を実施し、
前記モデルに対する第2の修正を実施する処理は、
前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるよう、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第4の訓練データと、前記第2の訓練データとに基づいて、前記モデルに対する第2の修正を実施する、ことを特徴とする請求項1または2に記載の修正プログラム。
【請求項4】
前記第1のパラメータを特定する処理は、
欠陥局所化により、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第5の訓練データと、前記第1の訓練データとに基づいて、前記複数のパラメータのうち、変更対象とする前記第1のパラメータを特定し、
前記第2のパラメータを特定する処理は、
欠陥局所化により、前記複数の訓練データのうち、前記モデルにおいて正しく分類された第6の訓練データと、前記第2の訓練データとに基づいて、前記複数のパラメータのうち、変更対象とする前記第2のパラメータを特定する、ことを特徴とする請求項3に記載の修正プログラム。
【請求項5】
複数の訓練データのうち第1の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第1の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第1のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータを変更可能にし、他のパラメータを固定して、前記第1の訓練データが正しく分類されるよう、前記第1の訓練データに基づいて、前記モデルに対する第1の修正を実施し、
前記第1の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第1の修正を実施する前の前記モデルにおいて正しく分類された第2の訓練データが、前記第1の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第2の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第2のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるよう、前記第2の訓練データに基づいて、前記モデルに対する第2の修正を実施する、
処理をコンピュータに実行させることを特徴とする修正方法。
【請求項6】
複数の訓練データのうち第1の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第1の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第1のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータを変更可能にし、他のパラメータを固定して、前記第1の訓練データが正しく分類されるよう、前記第1の訓練データに基づいて、前記モデルに対する第1の修正を実施し、
前記第1の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第1の修正を実施する前の前記モデルにおいて正しく分類された第2の訓練データが、前記第1の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第2の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第2のパラメータを特定し、
前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるよう、前記第2の訓練データに基づいて、前記モデルに対する第2の修正を実施する、
制御部を有することを特徴とする情報処理装置。
発明の詳細な説明
【技術分野】
【0001】
本発明は、修正プログラム、修正方法、および情報処理装置に関する。
続きを表示(約 2,900 文字)
【背景技術】
【0002】
従来、入力されたデータを分類した結果を出力する機能を有するモデルが存在する。モデルは、例えば、複数のパラメータを有する。モデルが、入力されたデータを誤って分類してしまう場合、モデルのパラメータを変更することにより、モデルが、入力されたデータを正しく分類するよう、モデルを修正することが望まれる。
【0003】
先行技術としては、例えば、所望の出力信号値からのニューロン和の逸脱を特定し、特定された逸脱を使用して、ニューラルネットワークのシナプスが有する補正重みを変更するものがある。また、例えば、正解にも拘らずリジェクトされたパターンのリジェクト判定値がリジェクト閾値以下になるまで学習処理を続ける技術がある。また、例えば、正しく分類された訓練データの重みの合計と、誤って分類された訓練データの重みの合計に基づいて、複数の仮説のいずれかの仮説の重みを修正する技術がある。また、例えば、異なる2つのモデルの予測の差を低減する技術がある。
【先行技術文献】
【特許文献】
【0004】
特表2017-511948号公報
特開平09-179844号公報
米国特許出願公開第2011/0093416号明細書
米国特許出願公開第2021/0314333号明細書
【非特許文献】
【0005】
Tokui, Shogo, et al. “NeuRecover: Regression-Controlled Repair of Deep Neural Networks with Training History.” arXiv preprint arXiv:2203.00191 (2022).
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、従来技術では、モデルのパラメータを変更し、モデルを修正したことに応じて、修正した後のモデルが、入力された特定のデータを精度よく分類することができなくなる場合がある。例えば、あるデータを正しく分類するよう、モデルのパラメータを変更し、モデルを修正したことに応じて、修正する前のモデルにおいて正しく分類されていた特定のデータが、修正した後のモデルにおいて誤って分類されてしまうことがある。
【0007】
1つの側面では、本発明は、特定のデータを正しく分類可能にモデルのパラメータを変更することを目的とする。
【課題を解決するための手段】
【0008】
1つの実施態様によれば、複数の訓練データのうち第1の訓練データが、入力されたデータを分類するモデルにおいて誤って分類された場合、欠陥局所化により、前記第1の訓練データに基づいて、前記モデルを形成する複数のパラメータのうち、変更対象とする第1のパラメータを特定し、前記複数のパラメータのうち、特定した前記第1のパラメータを変更可能にし、他のパラメータを固定して、前記第1の訓練データが正しく分類されるよう、前記第1の訓練データに基づいて、前記モデルに対する第1の修正を実施し、前記第1の修正が実施されたことに応じて、前記複数の訓練データのうち、前記第1の修正を実施する前の前記モデルにおいて正しく分類された第2の訓練データが、前記第1の修正を実施した後の前記モデルにおいて誤って分類された場合、欠陥局所化により、前記第2の訓練データに基づいて、前記複数のパラメータのうち、変更対象とする第2のパラメータを特定し、前記複数のパラメータのうち、特定した前記第1のパラメータと、特定した前記第2のパラメータとを変更可能にし、他のパラメータを固定して、前記第2の訓練データが正しく分類されるよう、前記第2の訓練データに基づいて、前記モデルに対する第2の修正を実施する修正プログラム、修正方法、および情報処理装置が提案される。
【発明の効果】
【0009】
一態様によれば、特定のデータを正しく分類可能にモデルのパラメータを変更することが可能になる。
【図面の簡単な説明】
【0010】
図1は、実施の形態にかかる修正方法の一実施例を示す説明図である。
図2は、情報処理システム200の一例を示す説明図である。
図3は、情報処理装置100のハードウェア構成例を示すブロック図である。
図4は、情報処理装置100の機能的構成の一例を示すブロック図である。
図5は、情報処理装置100の機能的構成の具体例を示すブロック図である。
図6は、成功データを特定する一例を示す説明図(その1)である。
図7は、成功データを特定する一例を示す説明図(その2)である。
図8は、前方影響度を算出する一例を示す説明図である。
図9は、後方影響度を算出する一例を示す説明図である。
図10は、変更対象重みW
1
を特定する一例を示す説明図(その1)である。
図11は、変更対象重みW
1
を特定する一例を示す説明図(その2)である。
図12は、変更対象重みW
1
を特定する一例を示す説明図(その3)である。
図13は、変更対象重みW
1
を特定する一例を示す説明図(その4)である。
図14は、成功データをサンプリングする一例を示す説明図である。
図15は、変更対象重みW
1
を変更する一例を示す説明図である。
図16は、第1の終了判定を実施する一例を示す説明図である。
図17は、変更対象重みW
2
を特定する一例を示す説明図(その1)である。
図18は、変更対象重みW
2
を特定する一例を示す説明図(その2)である。
図19は、変更対象重みW
2
を変更する一例を示す説明図である。
図20は、第2の終了判定を実施する一例を示す説明図である。
図21は、情報処理装置100による効果の一例を示す説明図である。
図22は、全体処理手順の一例を示すフローチャートである。
図23は、第1局所化処理手順の一例を示すフローチャートである。
図24は、採取処理手順の一例を示すフローチャートである。
図25は、第1再訓練処理手順の一例を示すフローチャートである。
図26は、判定処理手順の一例を示すフローチャートである。
図27は、第2再訓練処理手順の一例を示すフローチャートである。
図28は、第2局所化処理手順の一例を示すフローチャートである。
図29は、変更処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
(【0011】以降は省略されています)
この特許をJ-PlatPatで参照する
関連特許
富士通株式会社
ラック装置
1日前
富士通株式会社
リスクと診断
2日前
富士通株式会社
試験装置および試験方法
16日前
富士通株式会社
光受信機及び光受信方法
16日前
富士通株式会社
信号処理装置及び信号処理方法
今日
富士通株式会社
物品認識装置、方法及び電子機器
20日前
富士通株式会社
光センサ及び光センサの製造方法
今日
富士通株式会社
光送信器およびタイミング調整方法
7日前
富士通株式会社
機械学習プログラム、方法、及び装置
今日
富士通株式会社
表示制御プログラム、方法、及び装置
16日前
富士通株式会社
ネットワーク装置及びモデル学習方法
16日前
富士通株式会社
機械学習プログラム、方法、及び装置
今日
富士通株式会社
制御プログラム、制御方法及び情報処理装置
16日前
富士通株式会社
試験方法、試験プログラム及び情報処理装置
6日前
富士通株式会社
プログラム、情報処理方法および情報処理装置
6日前
富士通株式会社
推定プログラム、推定方法および情報処理装置
6日前
富士通株式会社
推定プログラム、推定方法および情報処理装置
6日前
富士通株式会社
機械学習のためのグラフセット分析及び可視化
16日前
富士通株式会社
試験制御プログラム,試験システムおよび試験方法
今日
富士通株式会社
プログラム、情報処理装置および情報処理システム
6日前
富士通株式会社
プログラム、情報処理方法およびクラスタシステム
13日前
富士通株式会社
光ネットワーク管理装置及び光ネットワーク管理方法
6日前
富士通株式会社
情報処理プログラム、情報処理方法及び情報処理装置
6日前
富士通株式会社
デバッグプログラム、情報処理装置及びデバッグ方法
15日前
富士通株式会社
画像生成プログラム、画像生成方法および情報処理装置
6日前
富士通株式会社
情報処理プログラム、情報処理装置および情報処理方法
16日前
富士通株式会社
ビデオにおける被遮蔽領域の検出方法、装置及び記憶媒体
8日前
富士通株式会社
情報処理装置、情報処理方法及びコンピュータプログラム
6日前
富士通株式会社
強化学習プログラム、強化学習方法、および情報処理装置
13日前
富士通株式会社
情報処理プログラム、情報処理方法、および情報処理装置
14日前
富士通株式会社
データ拡張プログラム、データ拡張方法および情報処理装置
1日前
富士通株式会社
マルチオブジェクト追跡を改善する方法、装置及び記憶媒体
2日前
富士通株式会社
依頼件数算出プログラム、依頼件数算出方法及び情報処理装置
7日前
富士通株式会社
自動化されたパイプライン推薦のためのMLパイプラインの合成
16日前
富士通株式会社
メタ最適化を用いた量子ニューラルネットワークのトレーニング
16日前
富士通株式会社
歩行状態測定装置、歩行状態測定方法及び歩行状態測定プログラム
13日前
続きを見る
他の特許を見る