特許ウォッチ

公開番号2024175248
公報種別公開特許公報(A)
公開日2024-12-18
出願番号2023092866
出願日2023-06-06
発明の名称推論検証システム、推論検証方法、及び推論検証プログラム
出願人三菱電機株式会社
代理人弁理士法人クロスボーダー特許事務所
主分類H04L 9/30 20060101AFI20241211BHJP(電気通信技術)
要約【課題】ゼロ知識証明技術によりCNN(Convolutional Neural Network)を検証する技術において、入力データに関するプライバシーを保護したい。
【解決手段】推論検証システム100は、CNNモデルに対する入力データと、CNNモデルの重みパラメータとの各々について、論理回路で表現されたCNNモデルと、秘匿化された各データとを用いて、CNNモデルにおけるInner ProductとReLU(Rectified Linear Unit)とMax Poolingとの各々に対する証明を生成し、共通パラメータと、生成した証明とを用いて、入力データ及び重みパラメータを用いて推論処理が適切に実行されたことを証明する証明を生成する。
【選択図】図1
特許請求の範囲【請求項１】
論理回路で表現されたＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）モデルと、前記ＣＮＮモデルに対する入力データを、秘匿手法を用いて秘匿化することによって生成された第１秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）とＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第１証明群を生成し、共通パラメータと、前記第１証明群とを用いて、前記入力データを用いて推論処理が実行されたことを証明する第１証明を生成する証明生成部
を備えるユーザ用演算装置と、
論理回路で表現された前記ＣＮＮモデルと、前記ＣＮＮモデルの重みパラメータを、前記秘匿手法を用いて秘匿化することによって生成された第２秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵとＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第２証明群を生成し、前記共通パラメータと、前記第２証明群とを用いて、前記重みパラメータを用いて推論処理が実行されたことを証明する第２証明を生成する証明生成部
を備える提供者用演算装置と
を備える推論検証システムであって、
前記ユーザ用演算装置の前記証明生成部は、前記第１証明群を生成する際に前記ユーザ用演算装置が前記提供者用演算装置から取得したデータを使用し、
前記提供者用演算装置の前記証明生成部は、前記第２証明群を生成する際に前記提供者用演算装置が前記ユーザ用演算装置から取得したデータを使用する推論検証システム。
続きを表示（約 2,800 文字）【請求項２】
ｇ，ｈ∈Ｇは群Ｇに含まれている要素ｇ及び要素ｈを表すものとし、ｖ∈Ｇ＾ｍは群Ｇに含まれているｍ個の要素から成るベクトル（ｖ１，…，ｖｍ）を表すものとし、群Ｚ＿ｐは素数ｐに対して｛１，…，ｐ｝から構成される乗法群を表すものとしたとき、前記秘匿手法において、
値ｘを前記ユーザ用演算装置が所持しており、値ｙを前記提供者用演算装置が所持しているものとし、前記秘匿手法によって秘匿化された前記値ｘを［ｘ］と表記し、前記秘匿手法によって秘匿化された前記値ｙを［ｙ］と表記したとき、前記［ｘ］及び前記［ｙ］について、
Ａｄｄ（［ｘ］，［ｙ］）：ｚ（＝ｘ＋ｙ）を前記秘匿手法によって秘匿化した［ｚ］を計算する関数と、
ＳＭｕｌｔ（ａ，［ｘ］）：ｚ（＝ａｘ、ａはある数）を前記秘匿手法によって秘匿化した［ｚ］を計算する関数と、
Ｍｕｌｔ（［ｘ］，［ｙ］）：ｚ（＝ｘｙ）を前記秘匿手法によって秘匿化した［ｚ］を計算する関数と、
Ｒａｎｄ（）：ランダムな値ｚ（∈Ｚ＿ｐ）を前記秘匿手法によって秘匿化した［ｚ］を計算する関数と、
ＥＱ（［ｘ］，［ｙ］）：ｘ＝ｙである場合にｚ＝１となるｚを前記秘匿手法によって秘匿化した［ｚ］を出力する関数と、
Ｏｕｔｐｕｔ（［ｘ］）：値ｘを各装置に出力する関数と
が成立し、
前記ユーザ用演算装置と前記提供者用演算装置とが合わせてｍ個の入力（ｘ１，…，ｘｍ）を所持しており、かつ、前記ｍ個の入力を前記秘匿手法によって秘匿化した各値が［ｘ１］，…，［ｘｍ］であるとき、群Ｇに含まれているｍ個の要素から成るｖｅｃ（ｇ）＝（ｇ１，…，ｇｍ）に対して、
Ｃｏｍ（［ｘ１］，…，［ｘｍ］，ｖｅｃ（ｇ））：ｚ（＝ｇ１＾（ｘ１）…ｇｍ＾（ｘｍ））を前記秘匿手法によって秘匿化した［ｚ］を計算する関数と、
Ａｒｇｍａｘ（［ｘ１］，…，［ｘｍ］）：ｘ１，…，ｘｍの中で最大となるｘｉ（ｉ∈｛１，…，ｍ｝）のインデックスｉを前記秘匿手法によって秘匿化した［ｉ］を計算する関数と
が成立する請求項１に記載の推論検証システム。
【請求項３】
Ｍ∈Ｇ＾（ｍ×ｎ）は群Ｇに含まれている要素から成るｍ×ｎ要素の行列を表すものとしたとき、
前記第１証明群及び前記第２証明群の各々は、ＷＬ，ＷＲ，ＷＯ∈Ｚ＿ｐ＾（Ｑ×ｎ）とし、ＷＶ∈Ｚ＿ｐ＾（Ｑ×ｎ）とし、ａ＿Ｌ，ａ＿Ｒ，ａ＿Ｏ∈Ｚ＿ｐ＾ｎとし、［ａ＿Ｌ］と［ａ＿Ｒ］と［ａ＿Ｏ］とをそれぞれａ＿Ｌとａ＿Ｒとａ＿Ｏとを前記秘匿手法によって秘匿化した値としたとき、ＷＬと、ＷＲと、ＷＯと、ＷＶと、［ａ＿Ｌ］と、［ａ＿Ｒ］と、［ａ＿Ｏ］とから成り、
前記共通パラメータは、ｇ，ｈ∈Ｇとし、ｖｅｃ（ｇ），ｖｅｃ（ｈ）∈Ｇ＾ｍとしたとき、ｇと、ｈと、ｖｅｃ（ｇ）と、ｖｅｃ（ｈ）とから成る請求項２に記載の推論検証システム。
【請求項４】
前記推論検証システムは、さらに、
前記第１証明と前記第２証明とを用いて、推論処理において前記重みパラメータと前記入力データとが用いられたか否かを検証する検証部
を備える検証装置
を備える請求項１から３のいずれか１項に記載の推論検証システム。
【請求項５】
コンピュータであるユーザ用演算装置が、論理回路で表現されたＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）モデルと、前記ＣＮＮモデルに対する入力データを、秘匿手法を用いて秘匿化することによって生成された第１秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）とＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第１証明群を生成し、共通パラメータと、前記第１証明群とを用いて、前記入力データを用いて推論処理が実行されたことを証明する第１証明を生成し、
コンピュータである提供者用演算装置が、論理回路で表現された前記ＣＮＮモデルと、前記ＣＮＮモデルの重みパラメータを、前記秘匿手法を用いて秘匿化することによって生成された第２秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵとＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第２証明群を生成し、前記共通パラメータと、前記第２証明群とを用いて、前記重みパラメータを用いて推論処理が実行されたことを証明する第２証明を生成する推論検証方法であって、
前記ユーザ用演算装置は、前記第１証明群を生成する際に前記ユーザ用演算装置が前記提供者用演算装置から取得したデータを使用し、
前記提供者用演算装置は、前記第２証明群を生成する際に前記提供者用演算装置が前記ユーザ用演算装置から取得したデータを使用する推論検証方法。
【請求項６】
論理回路で表現されたＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）モデルと、前記ＣＮＮモデルに対する入力データを、秘匿手法を用いて秘匿化することによって生成された第１秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）とＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第１証明群を生成し、共通パラメータと、前記第１証明群とを用いて、前記入力データを用いて推論処理が実行されたことを証明する第１証明を生成する証明生成処理
をコンピュータであるユーザ用演算装置に実行させ、
論理回路で表現された前記ＣＮＮモデルと、前記ＣＮＮモデルの重みパラメータを、前記秘匿手法を用いて秘匿化することによって生成された第２秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵとＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第２証明群を生成し、前記共通パラメータと、前記第２証明群とを用いて、前記重みパラメータを用いて推論処理が実行されたことを証明する第２証明を生成する証明生成処理
をコンピュータである提供者用演算装置に実行させる推論検証プログラムであって、
前記ユーザ用演算装置の前記証明生成処理において、前記第１証明群を生成する際に前記ユーザ用演算装置が前記提供者用演算装置から取得したデータを使用し、
前記提供者用演算装置の前記証明生成処理において、前記第２証明群を生成する際に前記提供者用演算装置が前記ユーザ用演算装置から取得したデータを使用する推論検証プログラム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、推論検証システム、推論検証方法、及び推論検証プログラムに関する。
続きを表示（約 3,200 文字）【背景技術】
【０００２】
ニューラルネットワークによるＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）推論技術は、データの分類などの機械学習タスクにおいて大きな成功を収めている。ニューラルネットワークによるデータ分析を行うためには、事前に大量の学習データを用いて、推論モデルの学習を行う必要がある。このとき、学習データを用意することの困難さと、計算資源の制約などの理由から、ユーザがユーザ自身の環境において推論モデルを構築することが困難である場合がある。
このような困難があることから、近年ではクラウドシステムにおいてニューラルネットワークによるデータ分析を提供するサービスであるＭＬａａＳ（ＭａｃｈｉｎｅＬｅａｒｎｉｎｇａｓａＳｅｒｖｉｃｅ）がある。ＭＬａａＳにおいて、ユーザは、推論モデルの構築にコストを費やす必要がなく、また、分析したいデータをクラウドシステムにアップロードすることにより、提供されている推論モデルを用いた推論を実行することができる。
【０００３】
ＭＬａａＳにおいて、分類対象であるデータ（入力データ）の所有者と推論モデルの所有者（推論サービス提供者）とが異なる場合に、入力データと推論モデルとを用いて推論処理が適切に実行されたことを第三者に証明する必要があるケースが考えられる。
具体例として、入力データの所有者として患者、推論モデルの所有者として医者、第三者として保険会社を想定したとき、入力データから推論モデルを用いて生成した診断結果が適切であることを保険会社に証明するケースが考えられる。最も簡単な解決策は、入力データと推論モデルとを保険会社に公開し、計算処理を再現することである。しかしながら、個人のプライバシーに関わる情報が含まれている可能性がある入力データと、知的財産となりうる推論モデルとをそのまま開示することは難しいという課題がある。
非特許文献１は、このような課題に対する解決方法を開示している。
【先行技術文献】
【非特許文献】
【０００４】
Ｓ．Ｌｅｅ，Ｈ．Ｋｏ，Ｊ．Ｋｉｍ，ａｎｄＨ．Ｏｈ、“ｖＣＮＮ：ＶｅｒｉｆｉａｂｌｅＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋｂａｓｅｄｏｎｚｋ－ＳＮＡＲＫｓ”，ｈｔｔｐｓ：／／ｅｐｒｉｎｔ．ｉａｃｒ．ｏｒｇ／２０２０／５８４，２０２０．
【発明の概要】
【発明が解決しようとする課題】
【０００５】
非特許文献１が開示している方法では、ゼロ知識証明技術を用いることにより、推論サービス提供者と入力データの所有者とが協力して、入力データと推論モデルとを用いた推論処理が実際に実行されたことを証明することができる。これにより、推論サービス提供者は、推論結果が入力データと推論モデルとを用いた分析処理によって得られた結果であることを第三者に対して証明することができる。
【０００６】
ここで、非特許文献１が開示している方法において、入力データの所有者は、推論サービス提供者に対して入力データを平文の状態で渡す必要がある。そのため、入力データの所有者のプライバシーに関わる情報などに対して当該方法を適用した場合、入力データの所有者にとって不利益が生じる可能性がある。
本開示は、ゼロ知識証明技術によりＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）を検証する技術において、入力データと推論モデルとのどちらも秘匿化した状態で、入力データと推論モデルとを用いた推論処理が適切に実行されたことを示す証明を生成する手法を提案することを目的とする。本開示を利用することにより、入力データに関するプライバシーを保護することができる。
【課題を解決するための手段】
【０００７】
本開示に係る推論検証システムは、
論理回路で表現されたＣＮＮ（ＣｏｎｖｏｌｕｔｉｏｎａｌＮｅｕｒａｌＮｅｔｗｏｒｋ）モデルと、前記ＣＮＮモデルに対する入力データを、秘匿手法を用いて秘匿化することによって生成された第１秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵ（ＲｅｃｔｉｆｉｅｄＬｉｎｅａｒＵｎｉｔ）とＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第１証明群を生成し、共通パラメータと、前記第１証明群とを用いて、前記入力データを用いて推論処理が実行されたことを証明する第１証明を生成する証明生成部
を備えるユーザ用演算装置と、
論理回路で表現された前記ＣＮＮモデルと、前記ＣＮＮモデルの重みパラメータを、前記秘匿手法を用いて秘匿化することによって生成された第２秘匿化データとを用いて、前記ＣＮＮモデルにおけるＩｎｎｅｒＰｒｏｄｕｃｔとＲｅＬＵとＭａｘＰｏｏｌｉｎｇとの各々に対する証明として第２証明群を生成し、前記共通パラメータと、前記第２証明群とを用いて、前記重みパラメータを用いて推論処理が実行されたことを証明する第２証明を生成する証明生成部
を備える提供者用演算装置と
を備える推論検証システムであって、
前記ユーザ用演算装置の前記証明生成部は、前記第１証明群を生成する際に前記ユーザ用演算装置が前記提供者用演算装置から取得したデータを使用し、
前記提供者用演算装置の前記証明生成部は、前記第２証明群を生成する際に前記提供者用演算装置が前記ユーザ用演算装置から取得したデータを使用する。
【発明の効果】
【０００８】
本開示によれば、ＣＮＮモデルに対する入力データは秘匿化され、ＣＮＮモデルの重みパラメータは秘匿化される。また、秘匿化された各データを用いて、ゼロ知識証明技術によりＣＮＮを検証するための証明が生成される。従って、本開示によれば、ゼロ知識証明技術によりＣＮＮを検証する技術において、入力データと推論モデルとのどちらも秘匿化した状態で、入力データと推論モデルとを用いた推論処理が適切に実行されたことを示す証明を生成することができる。
【図面の簡単な説明】
【０００９】
実施の形態１に係る推論検証システム１００の構成例を示す図。
実施の形態１に係る共通パラメータ生成装置２００の構成例を示す図。
実施の形態１に係るユーザ用演算装置３００の構成例を示す図。
実施の形態１に係る提供者用演算装置４００の構成例を示す図。
実施の形態１に係る検証装置５００の構成例を示す図。
実施の形態１に係るコンピュータ１０のハードウェア構成例を示す図。
実施の形態１に係る共通パラメータ生成装置２００の動作を示すフローチャート。
実施の形態１に係るユーザ用演算装置３００の動作を示すフローチャート。
実施の形態１に係る提供者用演算装置４００の動作を示すフローチャート。
実施の形態１に係る検証装置５００の動作を示すフローチャート。
実施の形態１の変形例に係るコンピュータ１０のハードウェア構成例を示す図。
【発明を実施するための形態】
【００１０】
実施の形態の説明及び図面において、同じ要素及び対応する要素には同じ符号を付している。同じ符号が付された要素の説明は、適宜に省略又は簡略化する。図中の矢印は、データ若しくは信号の流れ、又は処理の流れを主に示している。また、「部」を、「回路」、「装置」、「機器」、「ステップ」、「工程」、「手順」、「処理」又は「サーキットリー」に適宜読み替えてもよい。
（【００１１】以降は省略されています）

関連特許