特許ウォッチ

公開番号2025011410
公報種別公開特許公報(A)
公開日2025-01-24
出願番号2023113509
出願日2023-07-11
発明の名称推定システム、推定方法及び推定プログラム
出願人日本電信電話株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06N 20/00 20190101AFI20250117BHJP(計算;計数)
要約【課題】1つのモデルを多数のユーザで共有することが可能となり、計算コストを削減することができる。
【解決手段】推定システム100は、利用者端末20iと推定装置40と変換装置30とを有する。利用者端末20iは、推定対象の入力データに、所定の秘密情報を分割した第1秘密情報と第2秘密情報のうちの第1秘密情報に基づいて、所定の変換を分割した第1変換と第2変換のうちの第1変換を実行して、第1変換後データを生成する第1変換部21を有する。変換装置30は、第1変換後データに、第2秘密情報に基づく第2変換を実行して、第2変換後データを生成する第2変換部31を有する。推定装置40は、所定の秘密情報に基づく所定の変換が実行された学習データを基に実行された推定モデル411を用いて、第2変換後データを基に推定処理を実行する推定部41を有する。
【選択図】図4
特許請求の範囲【請求項１】
データに対する推定要求を行う利用者端末と、データに対する推定を行う推定装置と、前記利用者端末と前記推定装置と通信可能である変換装置と、を有する推定システムであって、
前記利用者端末は、
推定対象の入力データに、所定の秘密情報を分割した第１秘密情報と第２秘密情報のうちの前記第１秘密情報に基づいて、所定の変換を分割した第１変換と第２変換のうちの前記第１変換を実行して、第１変換後データを生成する第１変換部
を有し、
前記変換装置は、
前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換部
を有し
前記推定装置は、
前記所定の秘密情報に基づく前記所定の変換が実行された学習データを基に実行された推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定部
を有することを特徴とする推定システム。
続きを表示（約 2,800 文字）【請求項２】
推定モデルの学習を実行する学習装置と、データに対する推定要求を行う利用者端末と、データに対する推定を行う推定装置と、前記学習装置と前記利用者端末と前記推定装置と通信可能である変換装置と、を有する推定システムであって、
前記学習装置は、
学習データに秘密情報に基づく所定の変換を実行する変換部と、
前記変換部によって変換が実行された学習データを基に、前記推定モデルの学習を実行する学習部と、
前記秘密情報を、前記所定の変換を第１変換と第２変換との２段階に分割した際に前記第１変換に使用する第１秘密情報と、前記第２変換に使用する第２秘密情報とに分割する分割部と、
を有し、
前記利用者端末は、
推定対象の入力データに、前記第１秘密情報に基づく前記第１変換を実行して、第１変換後データを生成する第１変換部
を有し、
前記変換装置は、
前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換部
を有し、
前記推定装置は、
前記推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定部
を有することを特徴とする推定システム。
【請求項３】
前記所定の変換は、特定の規則に従った変換であることを特徴とする請求項１または２に記載の推定システム。
【請求項４】
前記所定の変換は、処理対象のデータが画像データである場合には、ＳＨＦ（shuffling）変換、または、ＮＰ（negative／positive）変換であることを特徴とする請求項１または２に記載の推定システム。
【請求項５】
データに対する推定要求を行う利用者端末と、データに対する推定を行う推定装置と、前記利用者端末と前記推定装置と通信可能である変換装置と、を有する推定システムが実行する推定方法であって、
前記利用者端末が、推定対象の入力データに、所定の秘密情報を分割した第１秘密情報と第２秘密情報のうちの前記第１秘密情報に基づいて、所定の変換を分割した第１変換と第２変換のうちの前記第１変換を実行して、第１変換後データを生成する第１変換工程と、
前記変換装置が、前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換工程と、
前記推定装置が、前記所定の秘密情報に基づく前記所定の変換が実行された学習データを基に実行された推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定工程と、
を含んだことを特徴とする推定方法。
【請求項６】
推定モデルの学習を実行する学習装置と、データに対する推定要求を行う利用者端末と、データに対する推定を行う推定装置と、前記学習装置と前記利用者端末と前記推定装置と通信可能である変換装置と、を有する推定システムが実行する推定方法であって、
前記学習装置が、学習データに秘密情報に基づく所定の変換を実行する変換工程と、
前記学習装置が、前記変換工程において変換が実行された学習データを基に、前記推定モデルの学習を実行する学習工程と、
前記学習装置が、前記秘密情報を、前記所定の変換を第１変換と第２変換との２段階に分割した際の前記第１変換に使用する第１秘密情報と、前記第２変換に使用する第２秘密情報とに分割する分割工程と、
前記利用者端末が、推定対象の入力データに、前記第１秘密情報に基づく前記第１変換を実行して、第１変換後データを生成する第１変換工程と、
前記変換装置が、前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換工程と、
前記推定装置が、前記推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定工程と、
を含んだことを特徴とする推定方法。
【請求項７】
方法をコンピュータに実行させる推定プログラムであって、
データに対する推定要求を行う利用者端末としてのコンピュータに、
推定対象の入力データに、所定の秘密情報を分割した第１秘密情報と第２秘密情報のうちの前記第１秘密情報に基づいて、所定の変換を分割した第１変換と第２変換のうちの前記第１変換を実行して、第１変換後データを生成する第１変換ステップ
を実行させ、
前記利用者端末と推定装置と通信可能である変換装置としてのコンピュータに、
前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換ステップ
を実行させ、
データに対する推定結果を前記利用者端末に送信する前記推定装置としてのコンピュータに、
前記所定の秘密情報に基づく前記所定の変換が実行された学習データを基に実行された推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信するステップ
を実行させることを特徴とする推定プログラム。
【請求項８】
方法をコンピュータに実行させる推定プログラムであって、
推定モデルの学習を実行する学習装置としてのコンピュータに、
学習データに秘密情報に基づく所定の変換を実行する変換ステップと、
前記変換ステップにおいて変換が実行された学習データを基に、前記推定モデルの学習を実行する学習ステップと、
前記秘密情報を、前記所定の変換を第１変換と第２変換との２段階に分割した際の前記第１変換に使用する第１秘密情報と、前記第２変換に使用する第２秘密情報とに分割する分割ステップと、
を実行させ、
データに対する推定要求を行う利用者端末としてのコンピュータに、
推定対象の入力データに、前記第１秘密情報に基づく前記第１変換を実行して、第１変換後データを生成する第１変換ステップ
を実行させ、
前記学習装置と前記利用者端末と推定装置と通信可能である変換装置としてのコンピュータに、
前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換ステップ
を実行させ、
データに対する推定を行う前記推定装置としてのコンピュータに、
前記推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定ステップ
を実行させることを特徴とする推定プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、推定システム、推定方法及び推定プログラムに関する。
続きを表示（約 1,800 文字）【背景技術】
【０００２】
近年では機械学習技術の進歩がめざましく、機械学習モデルを用いたサービスの普及も進んでいる。それに伴い、機械学習モデルを標的とした攻撃手法が数多く提案されている。
【０００３】
例えば、モデルの入出力データから、学習に使用したデータを復元するModel Inversion攻撃や、モデル自体を推定するModel Extraction攻撃（非特許文献１）などが知られており、プライバシー保護や知的財産保護の観点での脅威となっている。このような攻撃への対策手法として、完全な手法は存在していない。
【０００４】
そこで、複数の対策によって安全を確保する多重防御の考え方に基づき、新たな観点での防御手法が求められている。
【０００５】
新たな観点での防御手法として、秘密情報に基づく変換を行ったデータを用いてモデルを学習させる方法が提案されている（非特許文献２）。
【０００６】
非特許文献２に記載の手法で作成したモデルから学習用データを復元したとしても、変換後のデータしか得ることができないため、プライバシー保護の観点で有用である。また、非特許文献２に記載の手法によれば、秘密情報を持たないユーザにとっては精度が出ないモデルとなるため、モデル推定に対しても堅牢である。
【先行技術文献】
【非特許文献】
【０００７】
Reza Shokri et al., “Membership Inference Attacks Against Machine Learning Models”, ［令和５年５月１日検索］，インターネット＜ＵＲＬ：https://arxiv.org/pdf/1610.05820.pdf＞
Aprilpyone Maungmaung and Hitoshi Kiya, “A protection method of trained CNN model with a secret key from unauthorized access”, 2021.
【発明の概要】
【発明が解決しようとする課題】
【０００８】
しかしながら、非特許文献２に記載の手法は、モデルと秘密情報を持つユーザが１対１に対応するという特徴を有する。このため、多数のユーザにモデルを提供する場合、ユーザ数だけ学習済みモデルを作成する必要があり、大きな計算コストを要するという問題点があった。
【０００９】
本発明は、上記に鑑みてなされたものであって、１つのモデルを多数のユーザで共有することが可能となり、計算コストを削減することができる推定システム、推定方法及び推定プログラムを提供することを目的とする。
【課題を解決するための手段】
【００１０】
上述した課題を解決し、目的を達成するために、本発明に係る推定システムは、推定モデルの学習を実行する学習装置と、データに対する推定要求を行う利用者端末と、データに対する推定を行う推定装置と、前記学習装置と前記利用者端末と前記推定装置と通信可能である変換装置と、を有する推定システムであって、前記学習装置は、学習データに秘密情報に基づく所定の変換を実行する変換部と、前記変換部によって変換が実行された学習データを基に、前記推定モデルの学習を実行する学習部と、前記秘密情報を、前記所定の変換を第１変換と第２変換との２段階に分割した際に前記第１変換に使用する第１秘密情報と、前記第２変換に使用する第２秘密情報とに分割する分割部と、を有し、前記利用者端末は、推定対象の入力データに、前記第１秘密情報に基づく前記第１変換を実行して、第１変換後データを生成する第１変換部を有し、前記変換装置は、前記第１変換後データに、前記第２秘密情報に基づく前記第２変換を実行して、第２変換後データを生成する第２変換部を有し前記推定装置は、前記推定モデルを用いて、前記第２変換後データを基に推定処理を実行し、推定結果を前記利用者端末に送信する推定部を有することを特徴とする。
（【００１１】以降は省略されています）

関連特許