特許ウォッチ

公開番号2025065785
公報種別公開特許公報(A)
公開日2025-04-22
出願番号2023175216
出願日2023-10-10
発明の名称パラメータ更新保証システム、証明装置、パラメータ更新保証方法及びプログラム
出願人日本電信電話株式会社,国立大学法人大阪大学
代理人弁理士法人ITOH,個人,個人,個人
主分類H04L 9/32 20060101AFI20250415BHJP(電気通信技術)
要約【課題】機械学習モデルのパラメータを秘匿したまま機械学習モデルの更新に関する透明性を向上させること。
【解決手段】証明装置は、或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルのパラメータの更新を行うように更新部と、更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得するように推論部と、更新前後の前記パラメータ、及び前記データセットに基づいて、更新前の前記パラメータ及び前記データセットを入力として更新後の前記パラメータを計算する第1の回路を生成するように回路生成部と、ゼロ知識証明に基づいて、前記第1の回路及び鍵を用いて証明書を生成するように証明部と、を有し、検証装置は、前記鍵を用いてコミットメントされた更新前後の前記パラメータ、前記証明書、前記更新が行われたこと、及び更新後のパラメータに基づいて前記推論結果が取得されたことを検証するように検証部、を有する。
【選択図】図3
特許請求の範囲【請求項１】
証明装置と検証装置とを含むパラメータ更新保証システムであって、
前記証明装置は、
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルのパラメータの更新を行うように構成されている更新部と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得するように構成されている推論部と、
更新前後の前記パラメータ、及び前記データセットに基づいて、更新前の前記パラメータ及び前記データセットを入力として更新後の前記パラメータを計算する第１の回路を生成するように構成されている回路生成部と、
ゼロ知識証明に基づいて、前記第１の回路及び鍵を用いて証明書を生成するように構成されている証明部と、
を有し、
前記検証装置は、
前記鍵を用いてコミットメントされた更新前後の前記パラメータ、前記証明書、前記更新が行われたこと、及び更新後のパラメータに基づいて前記推論結果が取得されたことを検証するように構成されている検証部、
を有することを特徴とするパラメータ更新保証システム。
続きを表示（約 2,100 文字）【請求項２】
前記回路生成部は、前記推論結果、前記データ、更新前後の前記パラメータ、及び前記データセットに基づいて、前記第１の回路を含み、前記データについて前記パラメータの更新後の前記機械学習モデルと同じ推論結果を計算する第２の回路を生成するように構成されており、
前記証明部は、ゼロ知識証明に基づいて、前記第２の回路及び鍵を用いて証明書を生成するように構成されている、
ことを特徴とする請求項１記載のパラメータ更新保証システム。
【請求項３】
証明装置と検証装置とを含むパラメータ更新保証システムであって、
前記証明装置は、
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルの一部のパラメータの更新を行うように構成されている更新部と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得するように構成されている推論部と、
ゼロ知識証明に基づいて、更新前後の前記パラメータ、前記データ、前記推論結果及び鍵を用いて証明書を生成するように構成されている証明部と、
を有し、
前記検証装置は、
前記鍵を用いてコミットメントされた更新前の前記パラメータ、前記証明書、前記推論結果、前記データ及び前記鍵に基づいて、更新後のパラメータに基づいて前記推論結果が取得されたことを検証するように構成されている検証部、
を有することを特徴とするパラメータ更新保証システム。
【請求項４】
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルのパラメータの更新を行う更新部と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得する推論部と、
更新前後の前記パラメータ、及び前記データセットに基づいて、更新前の前記パラメータ及び前記データセットを入力として更新後の前記パラメータを計算する第１の回路を生成する回路生成部と、
ゼロ知識証明に基づいて、前記第１の回路及び鍵を用いて証明書を生成し、前記証明書を、前記鍵を用いてコミットメントされた更新前後の前記パラメータ、前記証明書、前記更新が行われたこと、及び更新後のパラメータに基づいて前記推論結果が取得されたことを検証する検証装置へ送信する証明部と、
を有することを特徴とする証明装置。
【請求項５】
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルの一部のパラメータの更新を行う更新部と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得する推論部と、
ゼロ知識証明に基づいて、更新前後の前記パラメータ、前記データ、前記推論結果及び鍵を用いて証明書を生成し、前記証明書を、前記鍵を用いてコミットメントされた更新前の前記パラメータ、前記証明書、前記推論結果、前記データ及び前記鍵に基づいて、更新後のパラメータに基づいて前記推論結果が取得されたことを検証する検証装置へ送信する証明部と、
を有することを特徴とする証明装置。
【請求項６】
証明装置が、
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルのパラメータの更新を行う更新手順と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得する推論手順と、
更新前後の前記パラメータ、及び前記データセットに基づいて、更新前の前記パラメータ及び前記データセットを入力として更新後の前記パラメータを計算する第１の回路を生成する回路生成手順と、
ゼロ知識証明に基づいて、前記第１の回路及び鍵を用いて証明書を生成する証明手順と、
を実行し、
検証装置が、
前記鍵を用いてコミットメントされた更新前後の前記パラメータ、前記証明書、前記更新が行われたこと、及び更新後のパラメータに基づいて前記推論結果が取得されたことを検証する検証手順、
を実行する、
ことを特徴とするパラメータ更新保証方法。
【請求項７】
証明装置が、
或るデータセット及び或る更新アルゴリズムに基づいて機械学習モデルの一部のパラメータの更新を行う更新手順と、
更新後の前記機械学習モデルによる、或るデータに対する推論結果を取得する推論手順と、
ゼロ知識証明に基づいて、更新前後の前記パラメータ、前記データ、前記推論結果及び鍵を用いて証明書を生成する証明手順と、
を実行し、
検証装置が、
前記鍵を用いてコミットメントされた更新前の前記パラメータ、前記証明書、前記推論結果、前記データ及び前記鍵に基づいて、更新後のパラメータに基づいて前記推論結果が取得されたことを検証する検証手順、
を実行する、
ことを特徴とするパラメータ更新保証方法。
【請求項８】
請求項４又は５記載の証明装置としてコンピュータを機能させることを特徴とするプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、パラメータ更新保証システム、証明装置、パラメータ更新保証方法及びプログラムに関する。
続きを表示（約 1,200 文字）【背景技術】
【０００２】
近年、ＡＩを用いた様々なシステムが広く展開されている。システム提供者は、システム内で運用している機械学習モデル（以下、単に「モデル」という。）を用いて、システム利用者から受け取ったデータを推論する。その推論結果のみをシステム利用者へ送信する。
【０００３】
新たな未知のデータに対しても高精度で推論するために、一度学習したモデルを利用し続けるのではなく、高頻度で更新されることが求められる。
【０００４】
ＡＩの透明性を担保するために、運用しているモデルに対してどのような更新が行われてきたか（モデルのパラメータがどのように更新されてきたか）、及びモデルが正しく推論結果を返しているかをシステム提供者が証明することができ、また、システム利用者が検証できるシステムを作ることは重要である。
【０００５】
非特許文献１には、どのモデルから更新処理が行われたかを証明する技術が開示されている。この技術では、更新前のモデルパラメータと更新後のモデルパラメータをシステム利用者に対して渡し、正しく更新が行われたことを検証している。
【０００６】
非特許文献２には、モデルが正しく推論結果を返していることを、モデルパラメータを秘匿しながらも保証する技術が開示されている。
【先行技術文献】
【非特許文献】
【０００７】
Jia et al.、"Proof-of-Learning: Definitions and Practice"、In 42nd IEEE Symposium on Security and Privacy、2021
Liu et al.、"zkCNN: Zero Knowledge Proofs for Convolutional Neural Network Predictions and Accuracy"、CCS 2021
【発明の概要】
【発明が解決しようとする課題】
【０００８】
しかしながら、非特許文献１の技術では、モデルパラメータがシステム利用者に公開されてしまい、モデルパラメータを秘匿できないという問題が有る。つまり、モデルパラメータは機密性、資産性を有していることから第三者に対して公開することは望ましくない。
【０００９】
また、非特許文献２の技術では、どのような更新が行われているかを保証することはできない。
【００１０】
本発明は、上記の点に鑑みてなされたものであって、機械学習モデルのパラメータを秘匿したまま機械学習モデルの更新に関する透明性を向上させることを目的とする。
【課題を解決するための手段】
（【００１１】以降は省略されています）

関連特許