特許ウォッチ

公開番号2024164476
公報種別公開特許公報(A)
公開日2024-11-27
出願番号2023079973
出願日2023-05-15
発明の名称情報処理方法及び情報処理システム
出願人株式会社日立製作所
代理人弁理士法人サンネクスト国際特許事務所
主分類H04L 9/10 20060101AFI20241120BHJP(電気通信技術)
要約【課題】複数層の処理層による機械学習等の処理時に、機密情報である機械学習パラメータを保護する。
【解決手段】ニューラルネットワークによる情報処理方法では、信頼領域38において、通常領域310において秘匿化機械学習パラメータ515に基づいて秘匿化入力データ516に対して実行された第i層処理部312の実行結果を、パラメータ保護乱数528により除算するパラメータ秘匿化影響除去処理537を実行する。そして、パラメータ秘匿化影響除去処理537の実行結果から入力秘匿化影響除去パラメータ529を減算する入力秘匿化影響除去処理538を実行し、推論結果531を出力する。
【選択図】図3

特許請求の範囲【請求項１】
複数の第ｉ層（ｉは１以上Ｎ以下の自然数）からなるニューラルネットワークによる情報処理を実行する情報処理システムが行う情報処理方法であって、
前記情報処理システムは、プロセッサと、メモリと、を有し、
前記メモリは、通常領域から隔離されたＴＥＥ（Trusted Execution Environment）である隔離領域を含み、
前記隔離領域は、
前記第ｉ層の処理に用いられる第ｉ層パラメータと、
前記第ｉ層パラメータを保護する乱数である第ｉ層パラメータ保護乱数と、
前記第ｉ層へ入力される第ｉ層入力データと、
前記第ｉ層入力データを保護する乱数である第ｉ層入力データ保護乱数と、を保持し、
前記プロセッサが、前記隔離領域において、
前記第ｉ層パラメータと前記第ｉ層パラメータ保護乱数とを乗算して該第ｉ層パラメータを秘匿化した第ｉ層秘匿化パラメータを生成するパラメータ秘匿化処理を前記第ｉ層毎に実行し、該第ｉ層秘匿化パラメータを前記通常領域へ出力し、
前記第ｉ層パラメータと前記第ｉ層入力データ保護乱数とを乗算して前記第ｉ層入力データに対して施された秘匿化を除去する第ｉ層入力データ秘匿化除去パラメータを生成して前記隔離領域に保持する入力秘匿化影響除去パラメータ生成処理を前記第ｉ層毎に実行し、
前記第ｉ層入力データ保護乱数を前記第ｉ層入力データに加算して該第ｉ層入力データに対して秘匿化を施した第ｉ層秘匿化入力データを生成する秘匿化入力データ生成処理を実行し、該第ｉ層秘匿化入力データを前記第ｉ層入力データとして前記通常領域へ出力し、
前記通常領域において前記第ｉ層秘匿化パラメータに基づいて前記第ｉ層秘匿化入力データに対して実行された前記第ｉ層の処理の実行結果を該通常領域から取得し、該実行結果を前記第ｉ層パラメータ保護乱数により除算するパラメータ秘匿化影響除去処理を実行し、
前記パラメータ秘匿化影響除去処理の実行結果から前記第ｉ層入力データ秘匿化除去パラメータを減算する入力秘匿化影響除去処理を実行し、該入力秘匿化影響除去処理の実行結果を前記第ｉ層から出力される第ｉ層出力データとする
各処理を含んだことを特徴とする情報処理方法。
続きを表示（約 2,700 文字）【請求項２】
請求項１に記載の情報処理方法であって、
前記メモリは、前記通常領域を含み、
前記プロセッサが、前記通常領域において、
前記第ｉ層秘匿化パラメータに基づいて前記第ｉ層秘匿化入力データに対して前記第ｉ層の処理を実行し、該第ｉ層の処理の実行結果を前記隔離領域へ出力する
処理を含んだことを特徴とする情報処理方法。
【請求項３】
請求項１に記載の情報処理方法であって、
前記プロセッサが、前記隔離領域において、
前記第ｉ層入力データ毎に対する前記第ｉ層の処理毎に一時的な乱数を生成し、前記第ｉ層入力データ保護乱数と該一時的な乱数とを乗算した結果を前記第ｉ層入力データに加算して前記第ｉ層秘匿化入力データを生成する前記秘匿化入力データ生成処理を実行し、該第ｉ層秘匿化入力データを前記第ｉ層入力データとして前記通常領域へ出力し、
前記パラメータ秘匿化影響除去処理の実行結果から前記第ｉ層入力データ秘匿化除去パラメータと前記一時的な乱数とを乗算した結果を減算する前記入力秘匿化影響除去処理を実行し、該入力秘匿化影響除去処理の実行結果を前記第ｉ層から出力される第ｉ層出力データとする
処理を含んだことを特徴とする情報処理方法。
【請求項４】
請求項３に記載の情報処理方法であって、
前記プロセッサが、
前記第ｉ層入力データ保護乱数に代えて、該第ｉ層入力データ保護乱数と同一のサイズの全ての要素が１の行列を用いる
ことを特徴とする情報処理方法。
【請求項５】
請求項１に記載の情報処理方法であって、
前記隔離領域は、
前記第ｉ層の処理を前記通常領域及び前記隔離領域の何れにおいて実行するかを示す情報である各層処理秘匿化設定情報を保持し、
前記プロセッサが、
前記各層処理秘匿化設定情報に応じて前記通常領域及び前記隔離領域の何れかにおいて前記第ｉ層の処理を実行する
ことを特徴とする情報処理方法。
【請求項６】
請求項１に記載の情報処理方法であって、
前記ニューラルネットワークは、ＣＮＮ（Convolutional Neural Network）であり、
前記第ｉ層パラメータは、ＣＮＮの機械学習パラメータである
ことを特徴とする情報処理方法。
【請求項７】
複数の第ｉ層（ｉは１以上Ｎ以下の自然数）からなるニューラルネットワークによる情報処理を実行する情報処理システムであって、
プロセッサと、メモリと、を有し、
前記メモリは、通常領域から隔離されたＴＥＥ（Trusted Execution Environment）である隔離領域を含み、
前記隔離領域は、
前記第ｉ層の処理に用いられる第ｉ層パラメータと、
前記第ｉ層パラメータを保護する乱数である第ｉ層パラメータ保護乱数と、
前記第ｉ層へ入力される第ｉ層入力データと、
前記第ｉ層入力データを保護する乱数である第ｉ層入力データ保護乱数と、を保持し、
前記プロセッサは、前記隔離領域において、
前記第ｉ層パラメータと前記第ｉ層パラメータ保護乱数とを乗算して該第ｉ層パラメータを秘匿化した第ｉ層秘匿化パラメータを生成するパラメータ秘匿化処理を前記第ｉ層毎に実行し、該第ｉ層秘匿化パラメータを前記通常領域へ出力し、
前記第ｉ層パラメータと前記第ｉ層入力データ保護乱数とを乗算して前記第ｉ層入力データに対して施された秘匿化を除去する第ｉ層入力データ秘匿化除去パラメータを生成して前記隔離領域に保持する入力秘匿化影響除去パラメータ生成処理を前記第ｉ層毎に実行し、
前記第ｉ層入力データ保護乱数を前記第ｉ層入力データに加算して該第ｉ層入力データに対して秘匿化を施した第ｉ層秘匿化入力データを生成する秘匿化入力データ生成処理を実行し、該第ｉ層秘匿化入力データを前記第ｉ層入力データとして前記通常領域へ出力し、
前記通常領域において前記第ｉ層秘匿化パラメータに基づいて前記第ｉ層秘匿化入力データに対して実行された前記第ｉ層の処理の実行結果を該通常領域から取得し、該実行結果を前記第ｉ層パラメータ保護乱数により除算するパラメータ秘匿化影響除去処理を実行し、
前記パラメータ秘匿化影響除去処理の実行結果から前記第ｉ層入力データ秘匿化除去パラメータを減算する入力秘匿化影響除去処理を実行し、該入力秘匿化影響除去処理の実行結果を前記第ｉ層から出力される第ｉ層出力データとする
ことを特徴とする情報処理システム。
【請求項８】
請求項７に記載の情報処理システムであって、
前記メモリは、前記通常領域を含み、
前記プロセッサは、前記通常領域において、
前記第ｉ層秘匿化パラメータに基づいて前記第ｉ層秘匿化入力データに対して前記第ｉ層の処理を実行し、該第ｉ層の処理の実行結果を前記隔離領域へ出力する
ことを特徴とする情報処理システム。
【請求項９】
請求項７に記載の情報処理システムであって、
前記プロセッサは、前記隔離領域において、
前記第ｉ層入力データ毎に対する前記第ｉ層の処理毎に一時的な乱数を生成し、前記第ｉ層入力データ保護乱数と該一時的な乱数とを乗算した結果を前記第ｉ層入力データに加算して前記第ｉ層秘匿化入力データを生成する前記秘匿化入力データ生成処理を実行し、該第ｉ層秘匿化入力データを前記第ｉ層入力データとして前記通常領域へ出力し、
前記パラメータ秘匿化影響除去処理の実行結果から前記第ｉ層入力データ秘匿化除去パラメータと前記一時的な乱数とを乗算した結果を減算する前記入力秘匿化影響除去処理を実行し、該入力秘匿化影響除去処理の実行結果を前記第ｉ層から出力される第ｉ層出力データとする
ことを特徴とする情報処理システム。
【請求項１０】
請求項９に記載の情報処理システムであって、
前記プロセッサは、
前記第ｉ層入力データ保護乱数に代えて、該第ｉ層入力データ保護乱数と同一のサイズの全ての要素が１の行列を用いる
ことを特徴とする情報処理システム。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、秘匿情報処理方法及び秘匿情報処理に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
近年、官民が連携した個人データ活用スキームが進展している。例えば、公共サービス及び民間サービスの連携等、多様な情報を連携した新たな価値の創出されている。多様な情報を連携した新たな価値を創出するためには、回帰分析等の統計解析及びＣＮＮ（Convolutional Neural Network）等の機械学習が有効とされる。統計解析及びの機械学習は、安価に利用可能なパブリッククラウド等を用いて、様々な企業が容易に実行できる基盤も提供されている。
【０００３】
一方、プライバシーの保護を目的とした規制強化も進展している。したがって、病院及び銀行等のデータホルダが所有する機密情報を秘匿したまま活用する技術が求められる。
【０００４】
こうした背景のもと、救急と警備会社等の官民が情報連携した公共サービスや、公共サービスとの相乗効果を生む製薬、保険、交通、及び情報銀行等の民間サービスの連携等、多様な情報を連携した新たな価値の創出が促進されている。多様なデータを分析して新たな価値を創出するためには、回帰分析等の統計解析や機械学習等の分析処理が有効とされる。さらに、これらのサービスが実現されるためには、病院や銀行等のデータホルダが所有する個人情報等の機密情報を、個人のプライバシーを保護したまま、公共サービスや民間サービスの提供者が分析し活用することを可能とする秘匿情報処理技術が求められる。
【０００５】
従来技術では、データを暗号化したまま特定の処理を可能とすることで、機密情報を秘匿した状態の活用を実現している。しかし、従来技術で実行可能な処理は、検索及び順序比較等の基本的な処理に限定されており、処理の自由度に限界があった。そのため、処理の高い自由度が必要とされる高度な統計処理及びＣＮＮ等の機械学習を用いた画像処理に対応できる技術が求められている。
【０００６】
近年、ＣＰＵ（Central Processing Unit）には、ＴＥＥ（Trusted Execution Environment）機能が搭載されている。ＴＥＥ機能は、秘匿情報の処理に有効であると考えられる。ＴＥＥ機能は、コンピュータ上で稼働するＯＳの管理者権限を奪われても情報を読み取られない信頼領域を提供する機能である。信頼領域内で暗号化データの復号及び処理の実行を行うことで、安全かつ高度な処理が可能となる。
【０００７】
ＴＥＥ機能の信頼領域を利用する技術として、特許文献１に記載の技術がある。特許文献１は、推論パイプラインでの機密入力データの情報漏洩を軽減するプライバシー強化型Deep Learningシステムを開示している。
【０００８】
特許文献１に記載の技術は、ニューラルネットワークの階層構造を利用して、各Deep Learningモデルを信頼領域で処理するFrontNetと通常領域で処理するBackNetに分割する。
【０００９】
特許文献１に記載の技術において、エンドユーザが利用する端末は、暗号化された入力と暗号化されたFrontNetをシステムに送信する。特許文献１に記載の技術は、クラウドインフラストラクチャ上のＴＥＥ機能を利用して、FrontNetのエンクレーブ（ＴＥＥ機能における隔離実行プロセス）にてDeep Learningの処理を実施し、ユーザ入力の機密性と完全性を暗号で保護する。
【００１０】
一方、特許文献１に記載の技術において、BackNetの推論計算では安全なエンクレーブが不足し、クラウドマシンにＧＰＵ（Graphical Processing Unit）等のDeep Learningアクセラレーションチップが搭載されている場合は、パフォーマンスの向上によるメリットが得られる。
（【００１１】以降は省略されています）

関連特許