特許ウォッチ

公開番号2025026911
公報種別公開特許公報(A)
公開日2025-02-26
出願番号2024197551,2021555113
出願日2024-11-12,2020-11-05
発明の名称情報処理装置、情報処理方法及び情報処理プログラム
出願人ソニーグループ株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06T 7/00 20170101AFI20250218BHJP(計算;計数)
要約【課題】情報処理装置による処理に関する根拠を説明可能にする。
【解決手段】本開示に係る情報処理装置は、自律的に移動可能な移動体の制御に用いられるモデルに入力される入力情報を取得する取得部と、前記モデルへの前記入力情報の入力後の前記モデルの状態を示す状態情報に基づいて、前記モデルへの前記入力情報の入力後の前記移動体の制御の根拠を示す根拠情報を生成する生成部と、を備え、前記生成部により生成された前記移動体の制御の根拠を示す根拠情報を出力し、物体を検知するセンサ部により検知された物体に応じて、前記モデルが注視している領域をその他の領域と区別して表示する。
【選択図】図3
特許請求の範囲【請求項１】
自律的に移動可能な移動体の制御に用いられるモデルに入力される入力情報を取得する取得部と、
前記モデルへの前記入力情報の入力後の前記モデルの状態を示す状態情報に基づいて、前記モデルへの前記入力情報の入力後の前記移動体の制御の根拠を示す根拠情報を生成する生成部と、
を備え、
前記生成部により生成された前記移動体の制御の根拠を示す根拠情報を出力し、物体を検知するセンサ部により検知された物体に応じて、前記モデルが注視している領域をその他の領域と区別して表示する
情報処理装置。
続きを表示（約 900 文字）【請求項２】
前記注視している領域は、前記モデルが物体を人であると認識している領域である
請求項１に記載の情報処理装置。
【請求項３】
前記生成部は、
前記モデルの出力を用いた処理の根拠を示す前記根拠情報を生成する
請求項１に記載の情報処理装置。
【請求項４】
前記取得部は、
自律的に行動する装置の制御に用いられる前記モデルを取得し、
前記生成部は、
前記モデルへの前記入力情報の入力後の前記装置の制御の根拠を示す前記根拠情報を生成する
請求項１に記載の情報処理装置。
【請求項５】
前記取得部は、
自動運転により動作する車両である前記移動体の制御に用いられる前記モデルを取得する
請求項１に記載の情報処理装置。
【請求項６】
前記生成部は、
前記移動体の移動方向の根拠を示す前記根拠情報を生成する
請求項１に記載の情報処理装置。
【請求項７】
前記取得部は、
センサ情報の入力に応じて出力を行う前記モデルと、センサにより検知された前記センサ情報である前記入力情報とを取得し、
前記生成部は、
前記センサによる検知に応じて前記入力情報が入力された前記モデルの前記根拠情報を生成する
請求項１に記載の情報処理装置。
【請求項８】
前記取得部は、
画像情報の入力に応じて前記画像情報の認識結果を出力する前記モデルと、前記画像情報である前記入力情報とを取得する
請求項１に記載の情報処理装置。
【請求項９】
前記生成部は、
前記モデルの出力に関する根拠を示す画像情報を前記根拠情報として生成する
請求項１に記載の情報処理装置。
【請求項１０】
前記生成部は、
前記モデルの出力に関する根拠を示すヒートマップを前記根拠情報として生成する
請求項９に記載の情報処理装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法及び情報処理プログラムに関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
自動運転等の機械（コンピュータ）が人間の行動を支援したり、コンピュータ自体が判断等を行い動作したりする種々のシステムが提供されている（例えば、特許文献１、２参照）。また、様々な技術分野において、機械学習を利用した情報処理が活用されており、ニューラルネットワーク等のモデルを学習する技術が提供されてきている。例えば、このような学習されたモデルは、上述のような自動運転等のシステムに利用される。
【先行技術文献】
【特許文献】
【０００３】
特開２０１８－１５４１４０号公報
特開２０１９－１０９６７５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
従来技術（例えば特許文献１）によれば、非常信号が受信されると運転者により予め登録された非常にとるべき挙動が発動する技術が提案されている。また、従来技術（例えば特許文献２）によれば、自動運転を支援するために運転行動のデータを集約し道路ネットワークに関連付け管理・保存する技術が提案されている。このように、従来技術では、コンピュータが非常に動作を行なったりする技術が提供されているがコンピュータがどのように判断したかについては考慮されていない。
【０００５】
一方で、自動運転等のコンピュータ（情報処理装置）が判断を行うシステムがどのように判断を行ったのかの判断根拠を人間にも把握可能にすることが望まれている。特に、ニューラルネットワークの構造を有するモデルについては、その構造の複雑さにより人間が判断根拠を把握することが難しいといった課題がある。この課題は自動運転に限らず、ニューラルネットワークの構造を有するモデルを用いる分野に共通する課題である。また、このようなコンピュータが実行した処理についての根拠を示すことは、ニューラルネットワークの構造を有する場合に限らず、コンピュータにより行われる処理全般に共通する課題である。そのため、情報処理装置による処理に関する根拠を説明可能にすることが望まれている。
【０００６】
そこで、本開示では、情報処理装置による処理に関する根拠を説明可能にすることができる情報処理装置、情報処理方法及び情報処理プログラムを提案する。
【課題を解決するための手段】
【０００７】
上記の課題を解決するために、本開示に係る一形態の情報処理装置は、自律的に移動可能な移動体の制御に用いられるモデルに入力される入力情報を取得する取得部と、前記モデルへの前記入力情報の入力後の前記モデルの状態を示す状態情報に基づいて、前記モデルへの前記入力情報の入力後の前記モデルの出力に関する根拠を示す根拠情報を生成する生成部と、を備え、前記生成部により生成された前記移動体の制御の根拠を示す根拠情報を出力し、物体を検知するセンサ部により検知された物体に応じて、前記モデルが注視している領域をその他の領域と区別して表示する。
【図面の簡単な説明】
【０００８】
本開示の実施形態に係る情報処理の一例を示す図である。
実施形態に係る情報処理の流れの一例を示す図である。
実施形態に係る移動体装置の構成例を示す図である。
本開示の実施形態に係るモデル情報記憶部の一例を示す図である。
本開示の実施形態に係るログ情報記憶部の一例を示す図である。
本開示の実施形態に係るモデルの一例を示す図である。
実施形態に係る情報処理の手順を示すフローチャートである。
移動体の制御処理の手順を示すフローチャートである。
実施形態に係る情報処理の他の一例を示す図である。
車両内システムの構成の概念図の一例を示す図である。
本開示の変形例に係る情報処理システムの構成例を示す図である。
本開示の変形例に係る情報処理装置の構成例を示す図である。
本技術が適用され得る移動体制御システムの概略的な機能の構成例を示すブロック図である。
移動体装置や情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【０００９】
以下に、本開示の実施形態について図面に基づいて詳細に説明する。なお、この実施形態により本願にかかる情報処理装置、情報処理方法及び情報処理プログラムが限定されるものではない。また、以下の各実施形態において、同一の部位には同一の符号を付することにより重複する説明を省略する。
【００１０】
以下に示す項目順序に従って本開示を説明する。
１．実施形態
１－１．本開示の実施形態に係る情報処理の概要
１－１－１．自動運転における課題及び効果等
１－１－２．他の可視化例
１－１－２－１．複合アルゴリズムによる可視化解析手法
１－１－３．他の適用例
１－１－４．ＡＩ倫理
１－２．実施形態に係る移動体装置の構成
１－２－１．モデル例
１－３．実施形態に係る情報処理の手順
１－４．他の情報処理例
１－５．車両内システムの構成の概念図
２．その他の実施形態
２－１．その他の構成例
２－２．移動体の構成
２－３．その他
３．本開示に係る効果
４．ハードウェア構成
（【００１１】以降は省略されています）

関連特許