特許ウォッチ

公開番号2025011667
公報種別公開特許公報(A)
公開日2025-01-24
出願番号2023113902
出願日2023-07-11
発明の名称情報処理装置、推論装置、制御方法およびプログラム
出願人キヤノン株式会社
代理人弁理士法人大塚国際特許事務所
主分類G06N 3/10 20060101AFI20250117BHJP(計算;計数)
要約【課題】推論装置の機能を拡張する拡張装置が推論装置に接続されている場合に、推論装置と拡張装置のハードウェア資源を有効活用できる技術を実現する。
【解決手段】情報処理装置は、学習済みの推論モデルを用いて推論処理を実行するためのプログラムを作成する作成手段と、前記推論処理を、第1の推論装置において実行する第1の処理と、前記第1の推論装置に接続可能な1つまたは複数の第2の推論装置において実行する第2の処理に振り分ける制御手段と、を有し、前記作成手段は、前記第1の推論装置における推論処理用のハードウェアに関する第1の情報と、前記第2の推論装置における推論処理用のハードウェアに関する第2の情報とに基づいて、前記第1の処理を実行するためのプログラムと、前記第2の処理を実行するためのプログラムとを作成する。
【選択図】図1
特許請求の範囲【請求項１】
学習済みの推論モデルを用いて推論処理を実行するためのプログラムを作成する作成手段と、
前記推論処理を、第１の推論装置において実行する第１の処理と、前記第１の推論装置に接続可能な１つまたは複数の第２の推論装置において実行する第２の処理に振り分ける制御手段と、を有し、
前記作成手段は、前記第１の推論装置における推論処理用のハードウェアに関する第１の情報と、前記第２の推論装置における推論処理用のハードウェアに関する第２の情報とに基づいて、前記第１の処理を実行するためのプログラムと、前記第２の処理を実行するためのプログラムとを作成することを特徴とする情報処理装置。
続きを表示（約 1,200 文字）【請求項２】
前記作成手段は、前記推論処理を実行するためのプログラムを、前記第１の情報と前記第２の情報とに基づいて、前記第１の処理を実行するためのプログラムと、前記第２の処理を実行するためのプログラムとに変換することを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記作成手段は、さらにプログラム変換用の設定に関する第３の情報に基づいて前記変換を実行することを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記制御手段は、前記第１の情報と前記第２の情報の中から、比較する項目を選択し、当該項目と閾値との比較により前記推論処理の振り分け方法を決定することを特徴とする請求項１に記載の情報処理装置。
【請求項５】
前記制御手段は、前記第１の情報と前記第２の情報の中から、優先度の高い項目から比較する項目を選択し、当該項目と閾値との比較により前記推論処理の振り分け方法を決定することを特徴とする請求項４に記載の情報処理装置。
【請求項６】
前記制御手段は、前記第１の情報と前記第２の情報の全ての項目と閾値との比較により前記推論処理の振り分け方法を決定することを特徴とする請求項１に記載の情報処理装置。
【請求項７】
前記制御手段は、前記第１の情報と前記第２の情報の中で、閾値を超えている項目数に応じて前記推論処理の振り分け方法を決定することを特徴とする請求項６に記載の情報処理装置。
【請求項８】
前記制御手段は、前記第１の情報と前記第２の情報の中で、閾値を超えている項目数が同じ場合は、優先度の高い項目に応じて前記推論処理の振り分け方法を決定し、
前記閾値を超えている項目数が異なる場合は、前記閾値を超えている項目数が多い方に前記推論処理を振り分けることを特徴とする請求項７に記載の情報処理装置。
【請求項９】
前記制御手段は、前記推論処理が前記第１の推論装置と前記第２の推論装置のいずれにおいても実行可能であるか否かを判定し、
前記推論処理が前記第１の推論装置と前記第２の推論装置のいずれにおいても実行可能である場合は、前記推論処理の振り分け方法を決定し、
前記推論処理が前記第１の推論装置と前記第２の推論装置のいずれにおいても実行不可能である場合は、前記推論処理の振り分け方法を決定しないで、前記第１の推論装置および前記第２の推論装置とは異なるハードウェアで実行することを決定することを特徴とする請求項１に記載の情報処理装置。
【請求項１０】
前記第１の情報および前記第２の情報は、推論処理性能、消費電力、処理可能なデータ型、演算処理時のデータアクセス量、内部メモリに関する情報の少なくともいずれかを含むことを特徴とする請求項１に記載の情報処理装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、推論装置の機能を拡張する技術に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
ＡＩ（人工知能）を利用した機械学習として、ニューラルネットワークを用いたディープラーニング（深層学習）技術が知られている。ディープラーニング技術は、撮影画像から人物の顔や表情等を認識する画像処理等に利用されている。ディープラーニング技術を利用した画像処理では、撮影画像等を入力データとして学習済みの推論モデルに適用して機械学習による推論処理が実行され、推論結果が出力される。
【０００３】
推論処理は単一の推論装置で実行されてもよいが、より複雑な処理を行う場合には推論装置のハードウェア資源だけでは不足な場合もあるため、推論処理を実行可能な拡張装置を推論装置に接続することにより推論装置の機能を拡張する技術も知られている。特許文献１には、撮像装置に接続された着脱可能デバイスが撮影画像の解析処理を実行する技術が記載されている。
【先行技術文献】
【特許文献】
【０００４】
特開２０２２－１３３１３５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
特許文献１では、撮像装置に接続された着脱可能デバイスにより推論処理を実行することが可能となるが、撮像装置のハードウェア資源を推論処理に活用できていない。
【０００６】
本発明は、上記課題に鑑みてなされ、その目的は、推論装置の機能を拡張する拡張装置が推論装置に接続されている場合に、推論装置と拡張装置のハードウェア資源を有効活用できる技術を実現することである。
【課題を解決するための手段】
【０００７】
上記課題を解決し、目的を達成するために、本発明の情報処理装置は、学習済みの推論モデルを用いて推論処理を実行するためのプログラムを作成する作成手段と、前記推論処理を、第１の推論装置において実行する第１の処理と、前記第１の推論装置に接続可能な１つまたは複数の第２の推論装置において実行する第２の処理に振り分ける制御手段と、を有し、前記作成手段は、前記第１の推論装置における推論処理用のハードウェアに関する第１の情報と、前記第２の推論装置における推論処理用のハードウェアに関する第２の情報とに基づいて、前記第１の処理を実行するためのプログラムと、前記第２の処理を実行するためのプログラムとを作成する。
【発明の効果】
【０００８】
本発明によれば、推論装置の機能を拡張する拡張装置が推論装置に接続されている場合に、推論装置と拡張装置のハードウェア資源を有効活用できる。
【図面の簡単な説明】
【０００９】
本実施形態の推論装置と拡張装置を含むシステム構成図。
本実施形態の推論装置の構成を示すブロック図。
本実施形態の情報処理装置の構成を示すブロック図。
本実施形態の推論プログラム作成ツールを例示する図。
実施形態１の情報処理装置の制御処理を示すフローチャート。
実施形態１の情報処理装置の制御処理を示すフローチャート。
実施形態１の推論装置の制御処理を示すフローチャート。
実施形態２の情報処理装置の制御処理を示すフローチャート。
実施形態３の推論装置と拡張装置を含むシステム構成図。
【発明を実施するための形態】
【００１０】
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものでするものでない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
（【００１１】以降は省略されています）

関連特許