特許ウォッチ

公開番号2024173478
公報種別公開特許公報(A)
公開日2024-12-12
出願番号2023091920
出願日2023-06-02
発明の名称リスク評価装置、データ防御装置、リスク評価方法およびプログラム
出願人日本電気株式会社
代理人個人,個人
主分類G06N 20/20 20190101AFI20241205BHJP(計算;計数)
要約【課題】複数の部分モデルを含むモデルが用いられる際の、情報漏洩のリスクを評価できるようにする。
【解決手段】リスク評価装置が、第1のクラス分類に用いられる分類項目の値のリストである説明変数値リストと、第2のクラス分類におけるクラスを識別する目的変数値とを含む対象データを取得し、第1のクラス分類と第2のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第1集合から部分モデルごとに生成された第2集合の要素がそのクラスに分類される度合いを示す部分モデルごとに、説明変数値リストに対する第1のクラス分類で分類されるクラス、かつ、目的変数値で識別される第2のクラス分類におけるクラスに、第2集合の要素が分類される度合いを示すコンフィデンススコアを算出し、部分モデルごとのコンフィデンススコアに基づいて、対象データが第1集合に含まれている可能性を評価する。
【選択図】図1
特許請求の範囲【請求項１】
第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得するデータ取得手段と、
前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出するコンフィデンススコア算出手段と、
前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価するリスク評価手段と、
を備えるリスク評価装置。
続きを表示（約 1,900 文字）【請求項２】
前記データ取得手段は、１つ以上の分類項目の値が不明となっている対象データに、値が不明となっている分類項目の候補値を設定することで、前記コンフィデンススコアの算出の対象となる対象データを生成する、
請求項１に記載のリスク評価装置。
【請求項３】
前記リスク評価手段は、値が不明となっている分類項目の候補値のリストに含まれる候補値ごとに、その候補値が設定された対象データについて、前記第２集合の要素のうち、その対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、その対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに分類される要素が無いことを示している部分モデルの個数を示す非該当性スコアを算出する、
請求項２に記載のリスク評価装置。
【請求項４】
値が不明となっている分類項目の候補値のリストに含まれる候補値のうち、前記非該当性スコアが最小の候補値を、その分類項目の推定値とする推定手段
を更に備える、請求項３に記載のリスク評価装置。
【請求項５】
前記推定手段は、値が不明となっている分類項目の候補値のリストに含まれる候補値のうち、前記非該当性スコアが最小の候補値が複数ある場合、その分類項目の推定値を未定とする、
請求項４に記載のリスク評価装置。
【請求項６】
前記推定手段は、前記非該当性スコアの最小値と、最小値の次に小さい値との差の大きさが所定の閾値よりも小さい場合、その分類項目の推定値を未定とする、
請求項４に記載のリスク評価装置。
【請求項７】
前記推定手段は、前記非該当性スコアの最小値が所定の閾値よりも大きい場合、その分類項目の推定値を未定とする、
請求項５または請求項６に記載のリスク評価装置。
【請求項８】
複数の部分モデルを含む機械学習モデルについて、メンバーシップ推論攻撃に対する脆弱性を有するデータを、各前記部分モデルについて特定し、
特定した前記データが統合されたデータを生成し、
生成した前記データについて、前記複数の部分モデルによって算出されるスコアとは異なる値のスコアを出力する、
データ防御装置。
【請求項９】
コンピュータが、
第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得し、
前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出し、
前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価する、
ことを含むリスク評価方法。
【請求項１０】
コンピュータに、
第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得することと、
前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出することと、
前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価することと、
を実行させるためのプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、リスク評価装置、データ防御装置、リスク評価方法およびプログラムに関する。
続きを表示（約 2,400 文字）【背景技術】
【０００２】
ランダムフォレストなど、複数の部分モデルを含むモデルが用いられる場合がある。例えば、特許文献１には、人物の感情を推定する際のモデルがランダムフォレストによって構築されていてもよいことが記載されている。
【先行技術文献】
【特許文献】
【０００３】
特開２０１９－２０７６０４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
複数の部分モデルを含むモデルが用いられる際の、情報漏洩のリスクを評価できることが好ましい。
【０００５】
本発明の目的の一例は、上述の課題を解決することのできるリスク評価装置、データ防御装置、リスク評価方法およびプログラムを提供することである。
【課題を解決するための手段】
【０００６】
本発明の第１の態様によれば、リスク評価装置は、第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得するデータ取得手段と、前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出するコンフィデンススコア算出手段と、前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価するリスク評価手段と、を備える。
【０００７】
本発明の第２の態様によれば、データ防御装置は、第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストを取得するデータ取得手段と、前記第１のクラス分類と第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出するコンフィデンススコア算出手段と、前記コンフィデンススコアが、あるクラスに分類される前記第２集合の要素の個数が０個であることを示している場合、そのクラスに分類される前記第２集合の要素の個数が１個以上と示されるように、そのコンフィデンススコアを書き換える、コンフィデンススコア書き換え手段と、書き換えられたコンフィデンススコアを出力するコンフィデンススコア出力手段と、を備える。
【０００８】
本発明の第３の態様によれば、リスク評価方法は、コンピュータが、第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得し、前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出し、前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価する、ことを含む。
【０００９】
本発明の第４の態様によれば、プログラムは、コンピュータに、第１のクラス分類に用いられる項目である分類項目の値のリストである説明変数値リストと、第２のクラス分類におけるクラスを識別する値である目的変数値とを含むデータである対象データを取得することと、前記第１のクラス分類と前記第２のクラス分類との組み合わせによるクラス分類におけるクラスごとに、所定の第１集合から部分モデルごとに生成された集合である第２集合の要素がそのクラスに分類される度合いを示す部分モデルを、複数通りの前記第１のクラス分類のそれぞれについて含むモデルの前記部分モデルごとに、前記対象データに含まれる前記説明変数値リストに対する前記第１のクラス分類で分類されるクラス、かつ、前記対象データに含まれる前記目的変数値で識別される前記第２のクラス分類におけるクラスに前記第２集合の要素が分類される度合いを示すコンフィデンススコアを算出することと、前記部分モデルごとのコンフィデンススコアに基づいて、前記対象データが前記第１集合に含まれている可能性を評価することと、を実行させるためのプログラムである。
【発明の効果】
【００１０】
本発明によれば、複数の部分モデルを含むモデルが用いられる際の、情報漏洩のリスクを評価することができる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許