特許ウォッチ

公開番号2025106230
公報種別公開特許公報(A)
公開日2025-07-15
出願番号2025001075
出願日2025-01-06
発明の名称摂動を使用して人工知能モデルの性能を測定する方法および装置
出願人三星電子株式会社,Samsung Electronics Co.,Ltd.
代理人弁理士法人ITOH
主分類G06N 20/00 20190101AFI20250708BHJP(計算;計数)
要約【課題】摂動を使用してAIモデルの性能を測定する方法および装置を提供する。
【解決手段】一実施形態によれば、クラス重要度に基づいて複数のクラスそれぞれに対して摂動を決定する段階、摂動に基づいてノイズを決定し、ノイズを複数のクラスの代表ベクトルに追加する段階、そしてノイズが追加された代表ベクトルを含む加重値行列を使用してAIモデルから出力される複数の推論結果からAIモデルの推論不確実性を計算する段階を通じてAIモデルの性能を測定する装置および方法が提供される。
【選択図】図1

特許請求の範囲【請求項１】
ＡＩモデルの性能を測定する装置であって、
プロセッサおよびメモリを含み、前記メモリは、前記プロセッサがプロセスを実行するように構成された命令を含み、前記プロセスは、
摂動に基づいてノイズを決定する段階と、
前記ノイズを前記ＡＩモデルの線形分類器の複数のクラスに対応する各代表ベクトルに追加する段階と、
前記ノイズが追加された代表ベクトルを使用して前記ＡＩモデルの前記線形分類器によって出力される、一つのイメージに対する複数の推論結果に基づいて、前記イメージに対する前記ＡＩモデルの推論不確実性を決定する段階と
を含む、装置。
続きを表示（約 1,200 文字）【請求項２】
前記プロセスは、
標準正規分布に従うノイズ分布からノイズをサンプリングする段階と、
サンプリングされたノイズを前記摂動の大きさだけスケーリングする段階と
をさらに含み、
前記ノイズを前記ＡＩモデルの線形分類器の複数のクラスに対応する各代表ベクトルに追加する段階は、
前記スケーリングされたノイズを前記各代表ベクトルに追加する段階
を含む、請求項１に記載の装置。
【請求項３】
前記ノイズをサンプリングする段階は、
前記ノイズ分布から前記複数のクラスそれぞれに対するノイズを独立的にサンプリングする、請求項２に記載の装置。
【請求項４】
前記ノイズを前記ＡＩモデルの線形分類器の複数のクラスに対応する各代表ベクトルに追加する段階は、
前記のクラスに対応する複数の代表ベクトルそれぞれに前記ノイズを独立的に追加する段階
を含む、請求項１に記載の装置。
【請求項５】
前記プロセスは、
前記複数のクラスのクラス重要度に比例して前記複数のクラスそれぞれに対して摂動を決定する段階
をさらに含む、請求項４に記載の装置。
【請求項６】
前記複数の推論結果は、前記ＡＩモデルのエンコーダにより生成された前記イメージの特徴ベクトルのクラス分類結果に対応し、
前記クラス分類結果は、前記特徴ベクトルが前記ノイズが追加された複数の代表ベクトルを使用して前記線形分類器によって前記複数のクラスのうちの一つのクラスに分類されることによって決定される、請求項１に記載の装置。
【請求項７】
前記プロセスは、
予め決定された個数のクラス分類結果を前記複数の推論結果として前記線形分類器から受信する段階
をさらに含む、請求項６に記載の装置。
【請求項８】
前記イメージに対する前記ＡＩモデルの推論不確実性を決定する段階は、
前記複数の推論結果の標準偏差を前記ＡＩモデルの推論不確実性として決定する段階
を含む、請求項１ないし７のうちの何れか一項に記載の装置。
【請求項９】
前記ＡＩモデルの前記推論結果は、前記推論結果の前記標準偏差が予め決定された偏差臨界値の条件を満たすという決定に基づいて最終結果として使用されないか、または
前記ＡＩモデルの前記推論結果は、前記推論結果の前記標準偏差が予め決定された偏差臨界値の条件を満たさないという決定に基づいて最終結果として使用される、請求項８に記載の装置。
【請求項１０】
前記標準偏差は、前記推論結果として出力された複数のスコアベクトルに基づいて統計的に決定される、請求項８に記載の装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本記載は、摂動を使用してＡＩモデルの性能を測定する方法および装置に関するものである。
続きを表示（約 1,400 文字）【背景技術】
【０００２】
ＡＩモデルを使用して入力データのクラスを分類する技術はイメージ認識、自律走行、および遠隔医療などの様々な方面で多様に活用されている。そしてこのようなＡＩモデルの不確実性を低め信頼性を高めるための研究が行われている。
【０００３】
ＡＩモデルの不確実性を定量化するためにＡＩモデルの推論時モデルの一部パラメータを任意にドロップアウト（ｄｒｏｐｏｕｔ）する方式で、ＡＩモデルの不確実性はＡＩモデルの予測分布の変化に基づいて決定される。また、入力データのミックスアップ（ｍｉｘ－ｕｐ）がＡＩモデルの不確実性を測定するのに使用できる。
【発明の概要】
【発明が解決しようとする課題】
【０００４】
一実施形態は、摂動を使用してＡＩモデルの性能を測定する装置を提供する。
【０００５】
他の実施形態は、摂動を使用してＡＩモデルをトレーニングさせる装置を提供する。
【０００６】
他の実施形態は、摂動を使用してＡＩモデルの性能を測定する方法を提供する。
【課題を解決するための手段】
【０００７】
一実施形態によれば、ＡＩモデルの性能を測定する装置が提供される。前記装置は、クラス重要度に基づいて複数のクラスそれぞれに対して摂動を決定し、前記摂動に基づいて決定されたノイズを前記複数のクラスの代表ベクトルに追加する摂動追加器、および前記ノイズが追加された代表ベクトルを含む加重値行列を使用して前記ＡＩモデルによって出力された複数の推論結果から前記ＡＩモデルの推論不確実性を計算する性能測定器を含む。
【０００８】
他の実施形態によれば、ＡＩモデルをトレーニングさせる装置が提供される。前記装置は、摂動に基づいて決定されたノイズを複数のクラスの代表ベクトルに追加し、前記ノイズが追加された代表ベクトルを含む加重値行列を使用して前記ＡＩモデルがトレーニングされる時前記摂動の大きさをアップデートする摂動追加器、および前記アップデートされた摂動に基づいて前記ＡＩモデルのトレーニング終了を決定するトレーニング決定器を含む。
【０００９】
また他の実施形態によれば、ＡＩモデルの性能を測定する方法が提供される。前記方法は、クラス重要度に基づいて複数のクラスそれぞれに対して摂動を決定する段階、前記摂動に基づいてノイズを決定し、前記ノイズを前記複数のクラスの代表ベクトルに追加する段階、そして前記ノイズが追加された代表ベクトルを含む加重値行列を使用して前記ＡＩモデルから出力される複数の推論結果から前記ＡＩモデルの推論不確実性を計算する段階を含む。
【発明の効果】
【００１０】
トレーニングされたＡＩモデル２１０の加重値行列にクラス別摂動に基づいたノイズを追加して重要度が高いクラスに対するトレーニングされたＡＩモデル２１０の性能が厳格に測定できる。これによりトレーニングされたＡＩモデルの性能がクラスの重要度によって容易に測定でき、ＡＩモデルのトレーニング目標が正確にターゲッティングできる。また、トレーニングセットを使用してトレーニングされたＡＩモデルがトレーニングセットと別個に生成されたテストセットによって検証される必要がないので、テストセットの生成に必要な時間および費用が節約できる。
【図面の簡単な説明】
（【００１１】以降は省略されています）

関連特許