特許ウォッチ

公開番号2025050335
公報種別公開特許公報(A)
公開日2025-04-04
出願番号2023159059
出願日2023-09-22
発明の名称情報処理装置、情報処理方法及びプログラム
出願人大日本印刷株式会社
代理人弁理士法人鷲田国際特許事務所
主分類G06N 3/04 20230101AFI20250327BHJP(計算;計数)
要約【課題】機械学習モデルにおける情報を類推するリスクを低減するための技術を提供することである。
【解決手段】本開示の一態様は、データを取得する取得部と、前記データに対して機械学習モデルにおける演算を非決定的な実行順序によって実行するモデル処理部と、を有する、情報処理装置に関する。
【選択図】図5
特許請求の範囲【請求項１】
データを取得する取得部と、
前記データに対して機械学習モデルにおける演算を非決定的な実行順序によって実行するモデル処理部と、
を有する、情報処理装置。
続きを表示（約 690 文字）【請求項２】
前記モデル処理部は、前記機械学習モデルにおける演算をランダム化された実行順序によって実行する、請求項１に記載の情報処理装置。
【請求項３】
前記モデル処理部は、ニューラルネットワークモデルのレイヤ内のノード演算をノード単位で非決定的な実行順序によって実行する、請求項１に記載の情報処理装置。
【請求項４】
前記モデル処理部は、ニューラルネットワークモデルのノード内の加重和演算を加重項単位で非決定的な実行順序によって実行する、請求項１に記載の情報処理装置。
【請求項５】
前記モデル処理部は、前記機械学習モデルにおける演算にダミー演算を追加する、請求項１に記載の情報処理装置。
【請求項６】
前記モデル処理部は、前記機械学習モデルにおける演算を複数の演算コアに非決定的に割り当てる、請求項１に記載の情報処理装置。
【請求項７】
前記モデル処理部は、前記機械学習モデルにおける演算に追加されたダミー演算を複数の演算コアに非決定的に割り当てる、請求項１に記載の情報処理装置。
【請求項８】
データを取得することと、
前記データに対して機械学習モデルにおける演算を非決定的な実行順序によって実行することと、
をコンピュータが実行する情報処理方法。
【請求項９】
データを取得することと、
前記データに対して機械学習モデルにおける演算を非決定的な実行順序によって実行することと、
をコンピュータに実行させるプログラム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法及びプログラムに関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
近年、画像処理や言語処理のための機械学習モデルが広範に利用されるようになってきている。このような機械学習モデルは、サーバに格納されてネットワークを介し実行されるだけでなく、エッジ端末上に格納されて実行されることもある。このような機械学習モデルを搭載したエッジ端末は、様々な環境に配置されて利用されている。例えば、製造物の不良品検知のための機械学習モデルを搭載したエッジ端末は、工場の製造ラインなどに配置されうる。また、物品の移動のための機械学習モデルを搭載したピック・アンド・プレース用の可動式のロボットは、物流倉庫などに配置されて利用されている。また、顔認証用の機械学習モデルを搭載したエッジ端末は、オフィスの入口などに配置されている。
【０００３】
ニューラルネットワークにおける重み係数やバイアス値などの情報には、企業のノウハウや秘密情報が結集している。従来、このようなノウハウを盗もうとする攻撃者は、エッジ端末を分解し、メモリの内容を読み出すことによって秘密情報を取り出そうとする。このような攻撃には、遠隔での死活監視やエッジ端末に開封センサを搭載することによって、攻撃を検知できる。また、遠隔操作により情報漏洩を試みるサイバー攻撃（例えば、バッファオーバランなど）に対しては、ソフトウェアによる対策によって攻撃に対抗できる。
【先行技術文献】
【特許文献】
【０００４】
特表２０１８－５２４７４５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
このような攻撃の１つとして、特定の秘密情報を処理している瞬間の電流や電磁波の変化に着目したサイドチャネル解析がある。サイドチャネル解析では、未開封状態でエッジ端末に流れる電流やエッジ端末から漏れる電磁波の変化と、機械学習モデルの推定処理への入力情報とを観測することが可能であれば、内部の秘密情報を類推できうる。エッジ端末の運用中でも、サイドチャネル解析が可能となる情報が収集されうるため、エッジ端末は、攻撃を仕掛けられていることに気付くことは困難とされている。サイドチャネル解析では、秘密情報を扱う処理が一定のタイミングで繰り返されると、攻撃が成功するリスクが高まりうる。
【０００６】
上記問題点を鑑み、本開示の課題は、機械学習モデルにおける情報を類推するリスクを低減するための技術を提供することである。
【課題を解決するための手段】
【０００７】
本開示の一態様は、データを取得する取得部と、前記データに対して機械学習モデルにおける演算を非決定的な実行順序によって実行するモデル処理部と、を有する、情報処理装置に関する。
【発明の効果】
【０００８】
本開示によると、機械学習モデルにおける情報を類推するリスクを低減するための技術を提供することができる。
【図面の簡単な説明】
【０００９】
図１は、本開示の一実施例による非決定的な演算処理を示す概略図である。
図２は、本開示の一実施例によるエッジ端末のハードウェア構成を示すブロック図である。
図３は、本開示の一実施例によるエッジ端末の機能構成を示すブロック図である。
図４は、本開示の一実施例による機械学習モデルを示す図である。
図５は、本開示の一実施例によるモデル演算処理を示すフローチャートである。
【発明を実施するための形態】
【００１０】
以下、図面を参照して本開示の実施の形態を説明する。
（【００１１】以降は省略されています）

関連特許