特許ウォッチ

公開番号2024123378
公報種別公開特許公報(A)
公開日2024-09-12
出願番号2023030727
出願日2023-03-01
発明の名称モデルパラメータ回復装置、方法及びプログラム
出願人日本電信電話株式会社,国立大学法人大阪大学
代理人個人,個人,個人
主分類G06F 11/10 20060101AFI20240905BHJP(計算;計数)
要約【課題】モデルのパラメータを攻撃前の状態に戻すためにモデルのパラメータの再学習が不要である技術を提供する。
【解決手段】モデルパラメータ回復装置は、モデルのパラメータに付与された誤り訂正符号に基づいてパラメータに所定の変化が生じたかを判断する変化判断部2と、変化判断部2において、パラメータに所定の変化が生じたと判断された場合には、誤り訂正符号に基づいてパラメータを回復する回復部3と、を備えている。
【選択図】図1
特許請求の範囲【請求項１】
モデルのパラメータに付与された誤り訂正符号に基づいて前記パラメータに所定の変化が生じたかを判断する変化判断部と、
前記変化判断部において、前記パラメータに所定の変化が生じたと判断された場合には、前記誤り訂正符号に基づいて前記パラメータを回復する回復部と、
を含むモデルパラメータ回復装置。
続きを表示（約 470 文字）【請求項２】
請求項１のモデルパラメータ回復装置であって、
前記変化判断部は、前記パラメータの変化量が所定の閾値よりも大きい場合に、前記パラメータに所定の変化が生じたと判断する、
モデルパラメータ回復装置。
【請求項３】
請求項１のモデルパラメータ回復装置であって、
前記回復部は、前記パラメータだけではなく、前記モデルの他のパラメータも回復する、
モデルパラメータ回復装置。
【請求項４】
変化判断部が、モデルのパラメータに付与された誤り訂正符号に基づいて前記パラメータに所定の変化が生じたかを判断する変化判断ステップと、
回復部が、前記変化判断部において、前記パラメータに所定の変化が生じたと判断された場合には、前記誤り訂正符号に基づいて前記パラメータを回復する回復ステップと、
を含むモデルパラメータ回復方法。
【請求項５】
請求項１から３の何れかのモデルパラメータ回復装置装置の各部としてコンピュータを機能させるためのプログラム。

発明の詳細な説明【技術分野】
【０００１】
開示の技術は、モデルのパラメータを回復する技術に関する。
続きを表示（約 1,400 文字）【背景技術】
【０００２】
AI、言い換えればモデルパラメータへの攻撃やその対策は様々に検討されているが、攻撃を未然に防ぐ対策は多く提案されていても、攻撃を受けたモデルパラメータを利用し続けるための技術は多くない。
【０００３】
攻撃を受けたモデルパラメータを利用し続けるための技術として、非特許文献１及び２の技術が知られている。
【０００４】
非特許文献１の技術は、バックドア攻撃を検知し、バックドア攻撃が検知された場合には、モデルパラメータを攻撃前の状態に戻すための再学習データセットを最適化する技術である。
【０００５】
非特許文献２の技術は、バックドア攻撃を受けた状態を検知し、パラメータを変更することで攻撃前の状態に戻す技術である。
【先行技術文献】
【非特許文献】
【０００６】
Fahmy, Hazem & Pastore, Fabrizio & Bagherzadeh, Mojtaba & Briand, Lionel. (2021). Supporting Deep Neural Network Safety Analysis and Retraining Through Heatmap-Based Unsupervised Learning. IEEE Transactions on Reliability. PP. 1-17. 10.1109/TR.2021.3074750.
Yue Zhao, Hong Zhu, Kai Chen, and Shengzhi Zhang. 2021. AI-Lancet: Locating Error-inducing Neurons to Optimize Neural Networks. In Proceedings of the 2021 ACM SIGSAC Conference on Computer and Communications Security (CCS '21). Association for Computing Machinery, New York, NY, USA, 141-158.
【発明の概要】
【発明が解決しようとする課題】
【０００７】
非特許文献１及び非特許文献２の技術では、モデルのパラメータを攻撃前の状態に戻すためにモデルのパラメータの再学習を行う必要がある。
【０００８】
開示の技術は、モデルのパラメータを攻撃前の状態に戻すためにモデルのパラメータの再学習を不要にすることを目的とする。
【課題を解決するための手段】
【０００９】
開示の技術の一態様であるモデルパラメータ回復装置は、モデルのパラメータに付与された誤り訂正符号に基づいてパラメータに所定の変化が生じたかを判断する変化判断部と、変化判断部において、パラメータに所定の変化が生じたと判断された場合には、誤り訂正符号に基づいてパラメータを回復する回復部と、を備えている。
【発明の効果】
【００１０】
開示の技術によれば、モデルのパラメータを攻撃前の状態に戻すためにモデルのパラメータの再学習が不要である。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許