特許ウォッチ

公開番号2024167088
公報種別公開特許公報(A)
公開日2024-11-29
出願番号2024080733
出願日2024-05-17
発明の名称知識グラフ内のリンクを決定するための装置及びコンピュータ実装された方法
出願人ローベルトボツシユゲゼルシヤフトミツトベシユレンクテルハフツング,ROBERT BOSCH GMBH
代理人アインゼル・フェリックス=ラインハルト,個人,個人,個人,個人
主分類G06N 5/022 20230101AFI20241122BHJP(計算;計数)
要約【課題】第1のエンティティと第2のエンティティと関係とを含む知識グラフ内のリンクを決定するための装置及びコンピュータ実装された方法を提供する。
【解決手段】方法は、第1のエンティティの埋め込みを表す1の表現を決定すること206と、知識グラフのエンティティの埋め込みの表現の集合から第2のエンティティの埋め込みを表す第2の表現を選択すること208と、を含む。第2の表現を選択することは、第2の表現についての予測を決定すること208-1と、第2の表現についての予測に依存して第2の表現を選択すること208-2と、を含む。方法はまた、第1のエンティティと第2のエンティティと関係とが含まれるリンクを決定すること210を含み、第1の表現は、双曲空間内、特に2次元双曲空間内の多次元ベクトル、特に2次元ベクトルを含む。
【選択図】図2
特許請求の範囲【請求項１】
知識グラフ内のリンクを決定するためのコンピュータ実装された方法であって、
前記リンクは、第１のエンティティと、第２のエンティティと、関係とを含む、
方法において、
前記方法は、第１の表現を決定すること（２０６）であって、前記第１の表現は、前記第１のエンティティの埋め込みを表す、こと（２０６）を含み、
前記方法は、前記知識グラフのエンティティの埋め込みの表現の集合から第２の表現を選択すること（２０８）であって、前記第２の表現は、前記第２のエンティティの埋め込みを表す、こと（２０８）を含み、
前記第２の表現を選択すること（２０８）は、前記第２の表現についての予測を決定すること（２０８－１）と、前記第２の表現についての前記予測に依存して前記第２の表現を選択すること（２０８－２）とを含み、
前記方法は、前記第１のエンティティと、前記第２のエンティティと、前記関係とが含まれる前記リンクを決定すること（２１０）を含み、
前記第１の表現は、双曲空間内、特に２次元双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、
前記第１の表現を決定すること（２０６）は、前記第１のエンティティの埋め込みを多次元ベクトルの第１の集合に分割すること（２０６－１）と、前記第１の集合のベクトルを、前記関係に依存して前記第１の表現の多次元ベクトルにマッピングすること（２０６－２）とを含み、
前記第２の表現についての前記予測を決定すること（２０８－１）は、前記関係に依存して前記双曲空間内の前記多次元ベクトルを回転させること（２０８－１１）及び並進させること（２０８－１２）を含む
ことを特徴とする、方法。
続きを表示（約 1,600 文字）【請求項２】
前記第２の表現についての前記予測は、前記双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、
前記第２の表現は、前記双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、
前記第２の表現を選択すること（２０８－２）は、
同一の双曲空間内に存在する、前記第２の表現の前記多次元ベクトルと、前記第２の表現についての前記予測の前記多次元ベクトルとの間の差を決定すること（２０８－２１）と、
前記差に依存して距離を決定すること（２０８－２２）と、
前記距離に依存して前記第２の表現を選択すること（２０８－２３）と、
を含む、
請求項１に記載の方法。
【請求項３】
前記距離を決定すること（２０８－２２）は、
前記第２の表現についての前記予測の前記多次元ベクトルを連結すること（２０８－２２１）と、
前記第２の表現の前記多次元ベクトルを連結すること（２０８－２２２）と、
前記第２の表現についての前記予測の連結された多次元ベクトルに依存して、かつ、前記第２の表現の連結された多次元ベクトルに依存して前記距離を決定すること（２０８－２２３）と、
を含む、
請求項２に記載の方法。
【請求項４】
前記第１の表現を決定すること（２０６－１）は、前記第１の集合のベクトルをそれぞれ異なる双曲空間にマッピングすること（２０６－２）を含む、
請求項１乃至３のいずれか一項に記載の方法。
【請求項５】
複数の双曲空間のうちの少なくとも１つの双曲空間の曲率が、前記関係によって定義される、
請求項１乃至４のいずれか一項に記載の方法。
【請求項６】
複数の双曲空間のうちの少なくとも１つの双曲空間における回転の程度が、前記関係によって定義される、
請求項１乃至５のいずれか一項に記載の方法。
【請求項７】
複数の双曲空間のうちの少なくとも１つの双曲空間における並進の程度が、前記関係によって定義される、
請求項１乃至６のいずれか一項に記載の方法。
【請求項８】
前記方法は、前記関係を提供すること（２０４）を含み、
前記関係は、双曲空間ごとに、回転の程度、並進の程度、及び／又は、前記双曲空間の曲率を定義する１つのパラメータを含む、
請求項１乃至７のいずれか一項に記載の方法。
【請求項９】
前記方法は、前記知識グラフのエンティティの埋め込みの表現の集合を決定すること（２０６）を含み、
前記埋め込みの表現の集合を決定すること（２０６）は、
それぞれの埋め込みを多次元ベクトルの集合に分割すること（２０６－１）と、
特に前記関係に依存して、それぞれの集合のベクトルをそれぞれの表現の多次元ベクトルにマッピングすること（２０６－２）と、
を含む、
請求項１乃至８のいずれか一項に記載の方法。
【請求項１０】
前記方法は、
前記関係に依存して前記第１のエンティティを前記第１の表現にマッピングするように、
前記関係に依存して前記第２のエンティティを前記第２の表現にマッピングするように、
前記関係に依存して前記双曲空間内の前記第１の表現を回転及び並進させるように、並びに、
前記第２の表現についての前記予測に依存してかつ前記第２の表現に依存して前記第２のエンティティを決定するように、又は、モデルによって前記第２のエンティティを選択するように、
モデルをトレーニングすることを含む、
請求項１乃至９のいずれか一項に記載の方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
背景
本発明は、知識グラフ内のリンクを決定するための装置及びコンピュータ実装された方法に関する。
続きを表示（約 2,100 文字）【発明の概要】
【発明が解決しようとする課題】
【０００２】
発明の開示
独立請求項に記載のコンピュータ実装された方法及び装置は、知識グラフ内における未知のリンクの予測の改良を提供する。
【０００３】
知識グラフとは、ファクトを、共通して３つ組（先頭エンティティｈ、関係ｒ、及び、末尾エンティティｔ）の形態で表すマルチリレーショナルグラフである。知識グラフ埋め込みとは、リンク予測を介して距離空間又はニューラルネットワークにおいて知識グラフを数値的に表したものであり、これにより、問い合わせ応答、エンティティ分類のような多くの下流のタスクに対して強力な機械学習を活用する可能性が可能となる。双曲空間内の知識グラフ埋め込みは、低次元の埋め込み空間内においても非常に良好な性能を達成することができる。
【課題を解決するための手段】
【０００４】
知識グラフ内のリンクを決定するためのコンピュータ実装された方法は、リンクが、第１のエンティティと、第２のエンティティと、関係とを含み、本方法は、第１の表現を決定することであって、第１の表現は、第１のエンティティの埋め込みを表す、ことを含み、本方法は、知識グラフのエンティティの埋め込みの表現の集合から第２の表現を選択することであって、第２の表現は、第２のエンティティの埋め込みを表す、ことを含み、第２の表現を選択することは、第２の表現についての予測を決定することと、第２の表現についての予測に依存して第２の表現を選択することとを含み、本方法は、第１のエンティティと、第２のエンティティと、関係とが含まれるリンクを決定することを含み、第１の表現は、双曲空間内、特に２次元双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、第１の表現を決定することは、第１のエンティティの埋め込みを多次元ベクトルの第１の集合に分割することと、第１の集合のベクトルを、関係に依存して第１の表現の多次元ベクトルにマッピングすることとを含み、第２の表現についての予測を決定することは、関係に依存して双曲空間内の多次元ベクトルを回転させること及び並進させることを含む。本方法は、トレーニングにおいて未知の３つ組に対して、トレーニングデータにおいて不十分に表現されているエンティティに対して、及び、トレーニングデータにおいて不十分に表現されている関係に対して、多種多様な外挿を提供する。本方法は、低次元空間内におけるリンク予測を改良する。本方法は、強力な合成を支援する。
【０００５】
リンクは、先頭エンティティすなわち第１のエンティティと、末尾エンティティすなわち第２のエンティティとを含む。本方法は、多様体Ｍにおける先頭エンティティの埋め込みを、直積空間Ｐの成分空間内のサブベクトルに分解し、これらのサブベクトルに対して、それぞれの関係ごとに特有である並進及び回転を実施して、第２の表現についての予測を決定する。第２の表現は、結果的に生じた、並進及び回転させられたサブベクトルに基づいて選択される。
【０００６】
いくつかの実施形態においては、第２の表現についての予測は、双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、第２の表現は、双曲空間内の多次元ベクトル、特に２次元ベクトルを含み、第２の表現を選択することは、同一の双曲空間内に存在する、第２の表現の多次元ベクトルと、第２の表現についての予測の多次元ベクトルとの間の差を決定することと、差に依存して距離を決定することと、距離に依存して第２の表現を選択することとを含む。距離は、並進及び回転させられたサブベクトルに依存して決定される。第２の表現は、所与のグラウンドトゥルースであるものとしてもよいし、又は、埋め込み若しくは第２のエンティティに依存して決定されるものとしてもよい。
【０００７】
いくつかの実施形態においては、距離を決定することは、第２の表現についての予測の多次元ベクトルを連結することと、第２の表現の多次元ベクトルを連結することと、第２の表現についての予測の連結された多次元ベクトルに依存して、かつ、第２の表現の連結された多次元ベクトルに依存して距離を決定することとを含む。例えば、並進及び回転させられたサブベクトルが連結され、第２のエンティティの埋め込みを表す連結されたベクトルまでの距離が決定される。
【０００８】
いくつかの実施形態においては、第１の表現を決定することは、第１の集合のベクトルをそれぞれ異なる双曲空間にマッピングすることを含む。
【０００９】
いくつかの実施形態においては、複数の双曲空間のうちの少なくとも１つの双曲空間の曲率が、関係によって定義される。このことはつまり、曲率が、学習可能なパラメータであるということを意味する。
【００１０】
いくつかの実施形態においては、複数の双曲空間のうちの少なくとも１つの双曲空間における回転の程度が、関係によって定義される。このことはつまり、回転の程度が、学習可能なパラメータであるということを意味する。
（【００１１】以降は省略されています）

関連特許