特許ウォッチ

公開番号2024055650
公報種別公開特許公報(A)
公開日2024-04-18
出願番号2022162746
出願日2022-10-07
発明の名称連合学習装置、サーバ装置、連合学習システム、連合学習方法、およびプログラム
出願人日本電気株式会社
代理人弁理士法人 HARAKENZO WORLD PATENT & TRADEMARK
主分類G06Q 30/0601 20230101AFI20240411BHJP(計算;計数)
要約【課題】情報の提供を受ける側にとって適切な情報を作成する。
【解決手段】連合学習装置1は、各商品に対する各ユーザによる評価を示す評価値、及び、各対象属性に関する各評価対象の属性値、を含む第1学習データセットを用いて、評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第1予測モデルを学習させる学習部11と、第1予測モデルの少なくとも一部を表す第1パラメータ情報をサーバ装置に送信するパラメータ情報送信部12と、第1学習データセットと同様に構成された第2学習データセットを用いて学習された第2予測モデルの少なくとも一部を表す第2パラメータ情報と、第1パラメータ情報と、が統合された統合パラメータ情報を、サーバ装置から取得するパラメータ情報取得部13と、第1パラメータ情報を統合パラメータ情報に置き換えることにより第1予測モデルを更新する更新部14と、を含む。
【選択図】図1
特許請求の範囲【請求項１】
評価対象リスト内の一部又は全部の評価対象の各々に対する評価値であって、ユーザリスト内の各ユーザによる評価を示す評価値、及び、前記評価対象リスト内の一部又は全部の評価対象の各々が有する対象属性値であって、対象属性リスト内の各対象属性に関する対象属性値、を含む第１学習データセットを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第１予測モデルを学習させる学習手段と、
前記第１予測モデルの少なくとも一部を表す第１パラメータ情報をサーバ装置に送信するパラメータ情報送信手段と、
前記第１学習データセットと同様に構成された第２学習データセットであって、前記第１学習データセットに対して前記評価対象リスト、前記ユーザリスト、前記対象属性リスト、各評価値、および各対象属性値の少なくとも一部が異なる第２学習データセットを用いて学習された第２予測モデルの少なくとも一部を表す第２パラメータ情報と、前記第１パラメータ情報と、が統合された統合パラメータ情報を、前記サーバ装置から取得するパラメータ情報取得手段と、
前記第１パラメータ情報を前記統合パラメータ情報に置き換えることにより前記第１予測モデルを更新する更新手段と、
を含む、連合学習装置。
続きを表示（約 2,100 文字）【請求項２】
前記第１学習データセットは、さらに、前記ユーザリスト内の一部又は全部のユーザの各々が有するユーザ属性値であって、ユーザ属性リスト内の各ユーザ属性に関するユーザ属性値を含み、
前記学習手段は、当該第１学習データセットを用いて前記第１予測モデルを学習させる、
請求項１に記載の連合学習装置。
【請求項３】
前記学習手段は、
前記第１学習データセットを、前記各ユーザおよび前記各評価対象の組み合わせに対応する評価値のうち一部が欠損した多次元配列として、当該多次元配列を分解した複数のベクトルを前記第１予測モデルとして求め、
前記パラメータ情報送信手段は、前記複数のベクトルの少なくとも一部を前記第１パラメータ情報として送信する、
請求項１または２に記載の連合学習装置。
【請求項４】
前記学習手段は、
前記多次元配列の欠損していない評価値に対して、前記複数のベクトルの積において当該評価値に対応する成分が近似するように、当該複数のベクトルを求める、
請求項３に記載の連合学習装置。
【請求項５】
前記パラメータ情報送信手段は、前記第１予測モデルを表す情報のうち、前記第１学習データセットおよび前記第２学習データセットに共通する情報に起因して得られたパラメータ情報を、前記第１パラメータ情報として送信する、
請求項１または２に記載の連合学習装置。
【請求項６】
前記第１予測モデルを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する予測手段、
をさらに含む、請求項１または２に記載の連合学習装置。
【請求項７】
請求項１に記載の連合学習装置としてそれぞれ機能する複数の連合学習装置の各々から前記第１パラメータ情報を取得するパラメータ情報取得手段と、
複数の前記第１パラメータ情報を統合することにより前記統合パラメータ情報を生成する統合手段と、
前記統合パラメータ情報を、前記複数の連合学習装置のそれぞれに送信するパラメータ情報送信手段と、
を含むサーバ装置。
【請求項８】
請求項１に記載された連合学習装置としてそれぞれ機能する複数の連合学習装置と、
請求項７に記載されたサーバ装置と、
を含む、連合学習システム。
【請求項９】
コンピュータが、
評価対象リスト内の一部又は全部の評価対象の各々に対する評価値であって、ユーザリスト内の各ユーザによる評価を示す評価値、及び、前記評価対象リスト内の一部又は全部の評価対象の各々が有する対象属性値であって、対象属性リスト内の各対象属性に関する対象属性値、を含む第１学習データセットを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第１予測モデルを学習させることと、
前記第１予測モデルの少なくとも一部を表す第１パラメータ情報をサーバ装置に送信することと、
前記第１学習データセットと同様に構成された第２学習データセットであって、前記第１学習データセットに対して前記評価対象リスト、前記ユーザリスト、前記対象属性リスト、各評価値、および各対象属性値の少なくとも一部が異なる第２学習データセットを用いて学習された第２予測モデルの少なくとも一部を表す第２パラメータ情報と、前記第１パラメータ情報と、が統合された統合パラメータ情報を、前記サーバ装置から取得することと、
前記第１パラメータ情報を前記統合パラメータ情報に置き換えることにより前記第１予測モデルを更新することと、
を含む、連合学習方法。
【請求項１０】
コンピュータを、
評価対象リスト内の一部又は全部の評価対象の各々に対する評価値であって、ユーザリスト内の各ユーザによる評価を示す評価値、及び、前記評価対象リスト内の一部又は全部の評価対象の各々が有する対象属性値であって、対象属性リスト内の各対象属性に関する対象属性値、を含む第１学習データセットを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第１予測モデルを学習させる学習手段と、
前記第１予測モデルの少なくとも一部を表す第１パラメータ情報をサーバ装置に送信するパラメータ情報送信手段と、
前記第１学習データセットと同様に構成された第２学習データセットであって、前記第１学習データセットに対して前記評価対象リスト、前記ユーザリスト、前記対象属性リスト、各評価値、および各対象属性値の少なくとも一部が異なる第２学習データセットを用いて学習された第２予測モデルの少なくとも一部を表す第２パラメータ情報と、前記第１パラメータ情報と、が統合された統合パラメータ情報を、前記サーバ装置から取得するパラメータ情報取得手段と、
前記第１パラメータ情報を前記統合パラメータ情報に置き換えることにより前記第１予測モデルを更新する更新手段と、
として機能させる、プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、連合学習を行う技術に関する。
続きを表示（約 2,400 文字）【背景技術】
【０００２】
ユーザに推薦する商品を決定するために、ユーザが過去に購入した商品につけたレーティング等をもとに、他の商品に対するユーザの興味を予測する技術が知られている。
【０００３】
非特許文献１には、このような予測を、連合学習を用いて実現する技術が記載されている。ここで、連合学習とは、複数のクライアントがそれぞれ有する学習データセットを用いて１つの予測モデルを学習する技術である。連合学習においては、各クライアントが有する学習データセットは他のクライアントに開示されないので、情報の秘匿性が担保される。非特許文献１に記載された技術は、協調フィルタリングを連合学習で実現している。また、非特許文献２には、レーティングに加えてユーザ属性を考慮してユーザの興味を予測することで、ユーザに商品を推薦する技術が記載されている。
【先行技術文献】
【非特許文献】
【０００４】
Muhammad Ammad-ud-din et. al.， "FEDERATED COLLABORATIVE FILTERING FOR PRIVACY-PRESERVING PERSONALIZED RECOMMENDATION SYSTEM", arXiv:1901.09888(cs), Submitted on 29 Jan 2019
Q. Nguyen and F. Ricci., "User preferences initialization and integration in critique based mobile recommender systems", Artificial Intelligence in Mobile Systems, pp. 71- 78, 2004.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、非特許文献１及び非特許文献２に開示されている技術を用いたとしても、情報の提供を受ける側にとって適切な情報を作成することができない。この理由は、非特許文献１及び非特許文献２に開示されている技術が選ぶ情報の精度が低いからである。
【０００６】
そこで、本発明の目的の１つは、情報の提供を受ける側にとって適切な情報を作成することが可能な連合学習装置等を提供することである。
【課題を解決するための手段】
【０００７】
本発明の一態様に係る連合学習装置は、評価対象リスト内の一部又は全部の評価対象の各々に対する評価値であって、ユーザリスト内の各ユーザによる評価を示す評価値、及び、前記評価対象リスト内の一部又は全部の評価対象の各々が有する対象属性値であって、対象属性リスト内の各対象属性に関する対象属性値、を含む第１学習データセットを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第１予測モデルを学習させる学習手段と、前記第１予測モデルの少なくとも一部を表す第１パラメータ情報をサーバ装置に送信するパラメータ情報送信手段と、前記第１学習データセットと同様に構成された第２学習データセットであって、前記第１学習データセットに対して前記評価対象リスト、前記ユーザリスト、前記対象属性リスト、各評価値、および各対象属性値の少なくとも一部が異なる第２学習データセットを用いて学習された第２予測モデルの少なくとも一部を表す第２パラメータ情報と、前記第１パラメータ情報と、が統合された統合パラメータ情報を、前記サーバ装置から取得するパラメータ情報取得手段と、前記第１パラメータ情報を前記統合パラメータ情報に置き換えることにより前記第１予測モデルを更新する更新手段と、を含む。
【０００８】
本発明の一態様に係るサーバ装置は、上述した連合学習装置としてそれぞれ機能する複数の連合学習装置の各々から前記第１パラメータ情報を取得するパラメータ情報取得手段と、複数の前記第１パラメータ情報を統合することにより前記統合パラメータ情報を生成する統合手段と、前記統合パラメータ情報を、前記複数の連合学習装置のそれぞれに送信するパラメータ情報送信手段と、を含む。
【０００９】
本発明の一態様に係る連合学習システムは、上述した連合学習装置としてそれぞれ機能する複数の連合学習装置と、上述したサーバ装置と、を含む。
【００１０】
本発明の一態様に係る連合学習方法は、コンピュータが、評価対象リスト内の一部又は全部の評価対象の各々に対する評価値であって、ユーザリスト内の各ユーザによる評価を示す評価値、及び、前記評価対象リスト内の一部又は全部の評価対象の各々が有する対象属性値であって、対象属性リスト内の各対象属性に関する対象属性値、を含む第１学習データセットを用いて、前記評価値が得られていない評価対象およびユーザの組み合わせに対応する評価値を予測する第１予測モデルを学習させることと、前記第１予測モデルの少なくとも一部を表す第１パラメータ情報をサーバ装置に送信することと、前記第１学習データセットと同様に構成された第２学習データセットであって、前記第１学習データセットに対して前記評価対象リスト、前記ユーザリスト、前記対象属性リスト、各評価値、および各対象属性値の少なくとも一部が異なる第２学習データセットを用いて学習された第２予測モデルの少なくとも一部を表す第２パラメータ情報と、前記第１パラメータ情報と、が統合された統合パラメータ情報を、前記サーバ装置から取得することと、前記第１パラメータ情報を前記統合パラメータ情報に置き換えることにより前記第１予測モデルを更新することと、を含む。
（【００１１】以降は省略されています）

関連特許