特許ウォッチ

公開番号2025002376
公報種別公開特許公報(A)
公開日2025-01-09
出願番号2023102515
出願日2023-06-22
発明の名称演算システム
出願人株式会社デンソー,トヨタ自動車株式会社,株式会社ミライズテクノロジーズ
代理人弁理士法人明成国際特許事務所
主分類G06F 11/16 20060101AFI20241226BHJP(計算;計数)
要約【課題】演算システムにおいて、システム構成に無駄が生じることを抑制しつつ異常の有無を検出する。
【解決手段】ニューラルネットワークモデルを利用した演算処理を実行する演算システム100は、複数のプロセッサコアPC1～PC8と、演算処理の演算負荷に応じて、演算用コアを決定し、演算処理を実行させる演算割当部11と、プロセッサコアの異常の有無を検出する異常検出部12と、を備え、演算割当部は、基本演算と並列して、演算用コアでないプロセッサコアの少なくとも一部に異常検出用演算を実行させ、異常検出部は、基本演算の演算結果である第1の演算結果と、異常検出用演算の演算結果である第2の演算結果と、の差異が予め定められた許容条件を満たす場合には、演算用コアと、異常検出用コアとに異常がないと判定し、差異が許容条件を満たさない場合には、演算用コアと異常検出用コアとの少なくとも一部に異常があると判定する。
【選択図】図1
特許請求の範囲【請求項１】
ニューラルネットワークモデルを利用した演算処理を実行する演算システム（１００）であって、
前記演算処理を実行する複数のプロセッサコア（ＰＣ１～ＰＣ８）と、
前記演算処理の演算負荷に応じて、前記複数のプロセッサのうち前記演算処理を実行させるプロセッサコアである演算用コアを決定し、前記演算用コアに前記演算処理を実行させる演算割当部（１１）と、
前記プロセッサコアの異常の有無を検出する異常検出部（１２）と、
を備え、
前記演算割当部は、前記演算用コアに実行させる前記演算処理である基本演算と並列して、前記複数のプロセッサコアのうち、前記演算用コアでないプロセッサコアの少なくとも一部に、前記基本演算に基づき得られる演算である異常検出用演算を実行させ、
前記異常検出部は、
前記基本演算の演算結果である第１の演算結果と、前記異常検出用演算の演算結果である第２の演算結果と、の差異が予め定められた許容条件を満たす場合には、前記演算用コアと、前記異常検出用演算を実行させたプロセッサコアである異常検出用コアとに異常がないと判定し、
前記差異が前記許容条件を満たさない場合には、前記演算用コアと前記異常検出用コアとの少なくとも一部に異常があると判定する、
演算システム。
続きを表示（約 1,300 文字）【請求項２】
請求項１に記載の演算システムであって、
前記異常検出部は、前記第１の演算結果と、前記第１の演算結果と並列して出力された前記第２の演算結果と、を利用して、前記異常の有無を検出する、
演算システム。
【請求項３】
請求項１に記載の演算システムであって、
前記第１の演算結果を記憶する半導体メモリ装置をさらに備え、
前記異常検出部は、前記半導体メモリ装置から読み出した前記第１の演算結果と、前記第１の演算結果の後に出力された前記第２の演算結果と、を利用して、前記異常の有無を検出する、
演算システム。
【請求項４】
請求項１に記載の演算システムであって、
前記異常検出部は、前記第１の演算結果および前記第２の演算結果として、前記ニューラルネットワークモデルを構成する複数のレイヤのうちの最終レイヤにおける演算結果である最終演算結果と、前記複数のレイヤのうちの中間レイヤにおける演算結果である中間演算結果と、のうちの少なくともいずれか一方を利用して、前記異常の有無を検出する、
演算システム。
【請求項５】
請求項１から請求項４のいずれか一項に記載の演算システムであって、
前記演算割当部は、前記異常検出用演算として、前記基本演算と同じ前記演算処理を前記異常検出用コアに実行させ、
前記許容条件は、前記第１の演算結果と、前記第２の演算結果と、が互いに一致するとの条件を含む、
演算システム。
【請求項６】
請求項１から請求項４のいずれか一項に記載の演算システムであって、
前記演算割当部は、前記異常検出用演算として、前記基本演算よりも演算負荷が抑制されるように予め学習された軽量化演算を前記異常検出用コアに実行させ、
前記許容条件は、前記差異が予め定められた閾値未満であるとの条件を含む、
演算システム。
【請求項７】
請求項１から請求項４のいずれか一項に記載の演算システムであって、
前記ニューラルネットワークモデルは、入力データに基づいて、予め定められた複数のクラスのそれぞれについて、前記入力データが該クラスに属する確率を出力する多クラス分類器として構成されており、
前記演算割当部は、前記異常検出用演算として、前記基本演算よりも演算負荷が抑制されるように予め学習された軽量化演算を前記異常検出用コアに実行させ、
前記許容条件は、前記第１の演算結果において前記確率が高い上位Ｎ個のクラスと、前記第２の演算結果において前記確率が高い上位Ｎ個のクラスと、のそれぞれにおいて予め定められた数のクラスが互いに一致するとの条件を含む、
演算システム。
【請求項８】
請求項１から請求項４のいずれか一項に記載の演算システムであって、
前記演算割当部は、前記異常検出用演算として、予め定められた軽量化演算よりもビット数が少ない重み係数を用いて予め学習されたビット数削減演算を前記異常検出用コアに実行させる、
演算システム。

発明の詳細な説明【技術分野】
【０００１】
本開示は、演算システムに関する。
続きを表示（約 2,600 文字）【背景技術】
【０００２】
従来、プロセッサを備える演算システムの機能安全の担保のため、演算システムに異常が発生した場合に当該異常を検出する手法が求められている。特許文献１では、システムの異常検出のために、平常時に用いられるプロセッサコアに加えて、異常検出用のプロセッサコアを備え、２つのプロセッサコアによる各演算結果を互いに比較するシステムが開示されている。また、特許文献２では、システムの異常検出のために、システムの起動時におけるプロセッサコアの演算結果と予めメモリに保持された演算結果とを比較するシステムが開示されている。
【先行技術文献】
【特許文献】
【０００３】
米国特許第６０６５１３５号明細書
米国特許出願公開第２００６／００６２０４６号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００４】
同様の構成は、ニューラルネットワークを利用した演算処理を実行するＮＰＵ（Neural network Processing Unit）を備える演算システムについても適用され得る。しかしながら、特許文献１では、平常時に用いられるプロセッサコアに加えて異常検出用のプロセッサコアを備えるので、システム構成に無駄が生じるという問題がある。また、特許文献２では、予めメモリに保持された演算結果についてシステムの起動時に比較することしかできず、新たに出力される演算結果について異常検出ができないという問題がある。
【課題を解決するための手段】
【０００５】
本開示は、以下の形態として実現することが可能である。
【０００６】
本開示の一形態によれば、ニューラルネットワークモデルを利用した演算処理を実行する演算システム（１００）が提供される。この演算システムは、前記演算処理を実行する複数のプロセッサコア（ＰＣ１～ＰＣ８）と、前記演算処理の演算負荷に応じて、前記複数のプロセッサのうち前記演算処理を実行させるプロセッサコアである演算用コアを決定し、前記演算用コアに前記演算処理を実行させる演算割当部（１１）と、前記プロセッサコアの異常の有無を検出する異常検出部（１２）と、を備え、前記演算割当部は、前記演算用コアに実行させる前記演算処理である基本演算と並列して、前記複数のプロセッサコアのうち、前記演算用コアでないプロセッサコアの少なくとも一部に、前記基本演算に基づき得られる演算である異常検出用演算を実行させ、前記異常検出部は、前記基本演算の演算結果である第１の演算結果と、前記異常検出用演算の演算結果である第２の演算結果と、の差異が予め定められた許容条件を満たす場合には、前記演算用コアと、前記異常検出用演算を実行させたプロセッサコアである異常検出用コアとに異常がないと判定し、前記差異が前記許容条件を満たさない場合には、前記演算用コアと前記異常検出用コアとの少なくとも一部に異常があると判定する。
【０００７】
この形態の制御装置によれば、演算処理の演算負荷に応じて、複数のプロセッサのうち演算用コアを決定し、演算用コアにおいて実行させた基本演算の演算結果と、複異常検出用コアにおいて実行させた異常検出用演算の演算結果とが一致するか否かを判定することにより、異常の有無を検出できる。このため、平常時に用いられるプロセッサコアに加えて異常検出用のプロセッサコアを備える構成と比較して、システム構成に無駄が生じることを抑制しつつ、異常の有無を検出できる。また、新たに出力される演算結果を利用して異常の有無を検出できる。
【図面の簡単な説明】
【０００８】
本実施形態の演算システムの概略構成を示すブロック図である。
ニューラルネットワークモデルの構成の一例を示す説明図である。
第１実施形態の異常検出処理の手順を示すフローチャートである。
第１実施形態の異常検出処理の手順を示すフローチャートである。
第１実施形態における演算処理の割り当ての一例を示す説明図である。
第２実施形態の異常検出処理の手順を示すフローチャートである。
第２実施形態の異常検出処理の手順を示すフローチャートである。
第２実施形態における演算処理の割り当ての一例を示す説明図である。
第３実施形態の異常検出処理の手順を示すフローチャートである。
第３実施形態における演算処理の割り当ての一例を示す説明図である。
他の実施形態における演算処理の割り当ての一例を示す説明図である。
【発明を実施するための形態】
【０００９】
Ａ．第１実施形態：
Ａ－１．システム構成：
本実施形態の演算システム１００は、ニューラルネットワークモデルを利用した演算処理を実行する。本実施形態では、演算システム１００は、車両に搭載されたカメラにより撮像された画像データを対象として、画像データに含まれる歩行者や構造物等を判別するための演算処理を行う。本実施形態では、ニューラルネットワークモデルは、画像データに基づいて、予め定められた複数のクラスのそれぞれについて、画像データに含まれる各物体が該クラスに属する確率を出力する多クラス分類器として構成されている。なお、演算システム１００は、画像データに限らず、音声データやテキストデータを対象として演算処理を実行してもよい。
【００１０】
図２に、ニューラルネットワークモデルの例を示す。図２に示すニューラルネットワークモデルは、畳み込み層Ｌ１と、プーリング層Ｌ２と、畳み込み層Ｌ３と、プーリング層Ｌ４と、全結合層Ｌ５とを有する。演算システム１００は、かかる順番で各層における演算を実行する。なお、演算システム１００は、図２に示す構成のニューラルネットワークモデルに限らず、任意の構成のニューラルネットワークモデルを利用した演算処理を実行してよい。また、演算システム１００は、単一の種類のニューラルネットワークモデルを利用する演算処理に限らず、複数の種類のニューラルネットワークモデルを順次使い分けて利用する演算処理を実行してよい。
（【００１１】以降は省略されています）

関連特許