特許ウォッチ

公開番号2025167019
公報種別公開特許公報(A)
公開日2025-11-07
出願番号2024071275
出願日2024-04-25
発明の名称情報処理装置、情報処理方法、プログラム、サーバ、及び情報処理システム
出願人日本電気株式会社
代理人個人
主分類G06N 20/00 20190101AFI20251030BHJP(計算;計数)
要約【課題】クライアント等の情報処理装置に関するコンピューターセキュリティを向上させること。
【解決手段】言語モデルの機械学習を行う学習部と、サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成する生成部と、リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信する秘匿部と、を有し、前記学習部は、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、情報処理装置が提供される。
【選択図】図4
特許請求の範囲【請求項１】
言語モデルの機械学習を行う学習部と、
サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成する生成部と、
リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信する秘匿部と、を有し、
前記学習部は、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、
情報処理装置。
続きを表示（約 2,100 文字）【請求項２】
前記生成部は、第１信頼度の第１リプライと、第１信頼度よりも低い第２信頼度の第２リプライとを生成し
前記秘匿部は、前記第１リプライに前記特定種別の情報が含まれ、前記第２リプライに前記特定種別の情報が含まれない場合、前記第２リプライを、秘匿リプライとして決定する、
請求項１に記載の情報処理装置。
【請求項３】
前記学習部は、ローカルデータに基づく第１モデルと、前記参照データに基づく第２モデルとにそれぞれ異なる重みを付けて、前記第１モデルと前記第２モデルとを前記言語モデルとして統合する、
請求項１または２に記載の情報処理装置。
【請求項４】
前記学習部は、ローカルデータと、前記組み合わせのデータとを統合した学習用データに基づいて、前記言語モデルを学習する、
請求項１または２に記載の情報処理装置。
【請求項５】
前記他の情報処理装置は、第１情報処理装置、及び第２情報処理装置を含み、
前記学習部は、前記第１情報処理装置により第３信頼度で生成された第３リプライと、前記第２情報処理装置により第４信頼度で生成された第４リプライとのうち、信頼度が最も高いリプライと前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、
請求項１または２に記載の情報処理装置。
【請求項６】
前記他の情報処理装置は、第１情報処理装置、及び第２情報処理装置を含み、
前記学習部は、前記第１情報処理装置により第３信頼度で生成された第３リプライと、前記第２情報処理装置により第４信頼度で生成された第４リプライと、前記生成部により第５信頼度で生成された第５リプライとのうち、同一リプライに対する信頼度を合計した値が最も高いリプライと前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、
請求項１または２に記載の情報処理装置。
【請求項７】
言語モデルの機械学習を行い、
サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成し、
前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信し、
前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、
情報処理方法。
【請求項８】
言語モデルの機械学習を行い、
サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成し、
前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信し、
前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、
処理をコンピュータに実行させるプログラム。
【請求項９】
参照データを複数の情報処理装置へ送信する送信部と、
機械学習された言語モデルを用いて生成された前記参照データに対するリプライ、または前記リプライにおける特定種別の情報が秘匿された秘匿リプライを、前記複数の情報処理装置のそれぞれから取得する取得部と、
前記取得部により取得された各リプライのうち、第一リプライを特定する特定部と、を有し、
前記送信部は、前記第一リプライと前記参照データとの組み合わせのデータに基づき前記言語モデルを学習させる情報を前記複数の情報処理装置へ送信する、
サーバ。
【請求項１０】
サーバと複数の情報処理装置とを含み、
前記複数の情報処理装置のそれぞれは、
言語モデルの機械学習を行う学習部と、
サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成する生成部と、
前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信する秘匿部と、を有し、
前記学習部は、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習し、
前記サーバは、
参照データを複数の情報処理装置へ送信する送信部と、
機械学習された言語モデルを用いて生成された前記参照データに対するリプライ、または前記リプライにおける前記特定種別の情報が秘匿された秘匿リプライを、前記複数の情報処理装置のそれぞれから取得する取得部と、
前記取得部により取得された各リプライのうち、第一リプライを特定する特定部と、を有し、
前記送信部は、前記第一リプライと前記参照データとの組み合わせのデータに基づき前記言語モデルを学習させる情報を前記複数の情報処理装置へ送信する、
情報処理システム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法、プログラム、サーバ、及び情報処理システムに関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
特許文献１には、連合学習（ＦＬ：ＦｅｄｅｒａｔｅｄＬｅａｒｎｉｎｇ）は、複数の当事者が共同で機械学習（ＭＬ：ｍａｃｈｉｎｅｌｅａｒｎｉｎｇ）モデルを構築することができる、協調トレーニングの仕組みを提供することが記載されている。また、連合学習では、すべてのトレーニングデータを集約サーバ（またはデータセンタ）にプールする代わりに、各当事者は信頼され保護されたドメイン／インフラストラクチャ内にプライベートデータを保持できることが記載されている。また、各当事者は、ローカルモデルをトレーニングし、モデルの更新または勾配を集約サーバにアップロードするのみであることが記載されている。また、この集約装置は、モデル更新を融合し、モデル同期のためにすべての当事者に集約されたモデルをブロードキャストすることが記載されている。
【先行技術文献】
【特許文献】
【０００３】
特開２０２２－１７７８２８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１記載の技術では、各クライアント（各当事者）での機械学習により生成されたモデル（ローカルモデル）から、各クライアントでの学習データ（訓練データ）が漏洩する可能性があり得る。
【０００５】
本開示の目的は、上述した課題を鑑み、クライアント等の情報処理装置に関するコンピューターセキュリティを向上させる技術を提供することにある。
【課題を解決するための手段】
【０００６】
本開示に係る第１の態様では、言語モデルの機械学習を行う学習部と、サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成する生成部と、リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信する秘匿部と、を有し、前記学習部は、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、情報処理装置が提供される。
【０００７】
また、本開示に係る第２の態様では、言語モデルの機械学習を行い、サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成し、前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信し、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、情報処理方法が提供される。
【０００８】
また、本開示に係る第３の態様では、言語モデルの機械学習を行い、サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成し、前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信し、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習する、処理をコンピュータに実行させるプログラムが提供される。
【０００９】
また、本開示に係る第４の態様では、参照データを複数の情報処理装置へ送信する送信部と、機械学習された言語モデルを用いて生成された前記参照データに対するリプライ、または前記リプライにおける特定種別の情報が秘匿された秘匿リプライを、前記複数の情報処理装置のそれぞれから取得する取得部と、前記取得部により取得された各リプライのうち、第一リプライを特定する特定部と、を有し、前記送信部は、前記第一リプライと前記参照データとの組み合わせのデータに基づき前記言語モデルを学習させる情報を前記複数の情報処理装置へ送信する、サーバが提供される。
【００１０】
また、本開示に係る第５の態様では、サーバと複数の情報処理装置とを含み、前記複数の情報処理装置のそれぞれは、言語モデルの機械学習を行う学習部と、サーバから受信した参照データに対するリプライを、前記言語モデルを用いて生成する生成部と、前記リプライにおける特定種別の情報を秘匿した秘匿リプライを前記サーバに送信する秘匿部と、を有し、前記学習部は、前記サーバから受信した、他の情報処理装置によって前記参照データに対して生成されたリプライと、前記参照データとの組み合わせのデータに基づき、前記言語モデルを学習し、前記サーバは、参照データを複数の情報処理装置へ送信する送信部と、機械学習された言語モデルを用いて生成された前記参照データに対するリプライ、または前記リプライにおける前記特定種別の情報が秘匿された秘匿リプライを、前記複数の情報処理装置のそれぞれから取得する取得部と、前記取得部により取得された各リプライのうち、第一リプライを特定する特定部と、を有し、前記送信部は、前記第一リプライと前記参照データとの組み合わせのデータに基づき前記言語モデルを学習させる情報を前記複数の情報処理装置へ送信する、情報処理システムが提供される。
【発明の効果】
（【００１１】以降は省略されています）

関連特許