発明の詳細な説明【技術分野】 【0001】 本発明は、機械学習を用いた推論を行う処理システム等に関する。 続きを表示(約 2,200 文字)【背景技術】 【0002】 従来の監視カメラシステムでは、取得した映像を目視確認することにより、異常状態や危険状態を検知していた。一方、近年の監視カメラシステムでは、映像内の人物などのオブジェクトやその動きなどの注目すべき対象を検出し、その対象の属性を推論することで、リアルタイムに異常状態を検知する機能を有することで、目視確認の不要な高機能性を提供している。 【0003】 一般的な推論では、機械学習と呼ぶ技術のうちニューラルネットワークが用いられる。ニューラルネットワークは脳内の神経細胞とそのつながりである神経細胞網とを数式的モデルを用いて構成される。また数式的モデルは、高速演算するために、例えば、GPU(Graphic Processing Unit)によって計算される。 【0004】 近年では、より複雑な機械学習を実現するため、ディープニューラルネットワーク(DNN)を一つの大きなネットワークとして構築する深層学習も用いられる。深層学習ではより高い処理性能が要求されるため、低消費電力で高スループットの処理を実現することが困難となっている。 【0005】 この問題に対し、DNNを模倣するスパイキングニューラルネットワーク(SNN)に変換し、これを処理する低電力動作可能な脳型デバイスを用いた機械学習方式が研究されている(例えば、非特許文献1参照)。また、非特許文献2には、入力データにスパイク列を用い、特定の条件下のみで発火する脳型アレイで処理することにより、発火時のみに電力を消費する構造の脳型デバイスが開示されており、GPUを用いた数式的モデル方式と比較し、2倍から48倍の低電力効果を得ることが可能であることが開示されている。この方式での出力は、発火するか否かの2種(0又は1)であり、0から1までのグラデーションは存在しない。 【0006】 ここで、一般的な機械学習では、入力データとデータの属性とを組とする学習データを入力し、GPUとDNNを用いて学習を行うプロセス(学習プロセス)を実行する。学習プロセスにて多量の学習データを用いて学習することにより、後の推論プロセスにおける新たなデータを入力とした場合の推論精度を向上できる。 【0007】 次に、監視カメラシステムなどへの推論装置の社会実装を考える。上記した通り、機械学習では事前の学習プロセスと、社会実装後の推論プロセスとに分類できる。社会実装後では、環境変化への適応などの継続的な認識精度の向上が要求される。これに対して、能動的学修と呼ぶ技術が用いられる。例えば、非特許文献3には、認識精度に加え、その確信度を算出し、低確信度の入力データを再学習対象とすることで、認識精度を向上することが開示されている。 【0008】 確信度の算出方法は、大きく2種あり、非特許文献4に開示されたTemperature Scaling方式のように、予測時に認識精度を直接的に確信度になるように補正をかける技術や、非特許文献5に開示されたTrust Score方式のように、推論時に推論データと事前学習データとの距離から確信度を算出する技術がある。これらの確信度算出には数式的モデルを使用した算術演算が用いられる。 【先行技術文献】 【非特許文献】 【0009】 “Benchmarking Keyword Spotting Efficiency on Neuromorphic Hardware”, P. Blouw, et al., in NICE '19, March 2019. “Loihi A Neuromorphic Manycore Processor with On-Chip Learning ”, M. Davies, et. Al., in IEEE Micro 38, 82-99 (2018) “Confidence-Based Active Learning”, Mingkun Li, et. Al., IEEE PAMI 28, No.8, 1251-1261 (2006) “On the Properties of the Softmax Function with Application in Game Theory and Reinforcement Learning”, Bolin Gao, et. Al., in arXiv preprint arXiv:1704.00805. (2017) “To Trust Or Not To Trust A Classifier”, Heinrich Jiang, et. Al., in NeurIPS2018. (2018) 【発明の概要】 【発明が解決しようとする課題】 【0010】 DNNを用いた数式的モデルによる推論結果と確信度との算出では、数式的モデルをソフトウェア的により算術演算して算出する。一方、SNNの出力は、発火するか否か(値1又は値0を出力する)のみのため、DNNを用いた数式的モデルと同様な確信度を算出することはできない。 (【0011】以降は省略されています) この特許をJ-PlatPatで参照する