特許ウォッチ

公開番号2025100091
公報種別公開特許公報(A)
公開日2025-07-03
出願番号2023217197
出願日2023-12-22
発明の名称プログラム、情報処理装置、及び情報処理方法
出願人H.U.グループホールディングス株式会社
代理人個人,個人
主分類G06T 7/00 20170101AFI20250626BHJP(計算;計数)
要約【課題】学習モデルが出力した結果と、ユーザが意図する結果とが相違する場合に、その原因と解決案とを出力するプログラム、情報処理装置、及び情報処理方法を提供すること。
【解決手段】プログラムは、入力画像に対する認識処理を実行するよう学習された画像認識モデルによる第1結果と、前記入力画像に対するユーザによる第2結果とが相違する場合に、前記第1結果及び相違する原因を尋ねる質問を含むプロンプトを取得し、プロンプトを入力した場合に、結果が相違した原因を出力する言語生成モデルに、取得したプロンプトを入力することにより、原因を出力する処理をコンピュータに実行させる。
【選択図】図8
特許請求の範囲【請求項１】
入力画像に対する認識処理を実行するよう学習された画像認識モデルによる第１結果と、前記入力画像に対するユーザによる第２結果とが相違する場合に、前記第１結果及び相違する原因を尋ねる質問を含むプロンプトを取得し、
プロンプトを入力した場合に、結果が相違した原因を出力する言語生成モデルに、取得したプロンプトを入力することにより、原因を出力する
処理をコンピュータに実行させるプログラム。
続きを表示（約 1,200 文字）【請求項２】
前記第１結果は出力値と該出力値の確信度とを含む
請求項１に記載のプログラム。
【請求項３】
前記第１結果及び前記第２結果が相違した原因と第１結果が含まれる過去の事例を複数取得し、
前記事例に基づき、前記第１結果及び前記原因を含むプロンプトを作成し、
作成した前記プロンプトを前記言語生成モデルへ入力して、前記言語生成モデルを学習させ、
学習後に、前記第１結果及び相違する原因を尋ねる質問を含むプロンプトを、前記言語生成モデルへ入力する
請求項１又は請求項２に記載のプログラム。
【請求項４】
前記第１結果に含まれる前記確信度が所定の閾値以上である場合、前記原因は、前記ユーザの判断誤りとする
請求項２に記載のプログラム。
【請求項５】
画像を入力した場合に、前記認識処理を妨げる問題を前記画像が含んでいる確信度を出力する検知モデルへ、前記入力画像を入力し、前記確信度を取得し、
取得した確信度が所定の閾値以上である場合、前記原因は、前記画像認識モデルの誤りとする
請求項１又は請求項２に記載のプログラム。
【請求項６】
前記第１結果及び前記第２結果が相違した原因と第１結果と前記検知モデルが出力した前記確信度が含まれる過去の事例を複数取得し、
前記事例に基づき、前記第１結果及び前記確信度、並びに、前記原因を含むプロンプト作成し、
作成した前記プロンプトを前記言語生成モデルへ入力して、前記言語生成モデルを学習させ、
学習後に、前記第１結果及び前記検知モデルが出力した前記確信度、並びに、相違する原因を尋ねる質問を含むプロンプトを、前記言語生成モデルへ入力する
請求項５に記載のプログラム。
【請求項７】
前記第１結果と前記第２結果との相違を解消するための解決案が不明である旨の入力を受け付けた場合、問合せを行いたい旨のプロンプトを前記言語生成モデルへ入力し、
前記言語生成モデルより取得した問合せ先の情報を含む問合せ提案を出力する
請求項１又は請求項２に記載のプログラム。
【請求項８】
前記第１結果と前記第２結果とを取得し、
前記第１結果と前記第２結果とを照合することにより、相違するか否かを判断する
請求項１又は請求項２に記載のプログラム。
【請求項９】
前記原因を出力した後に、再試行に伴い前記第１結果と前記第２結果とが一致した場合に、相違した際の前記第１結果と前記原因とを対応付けて、前記事例として記憶する
請求項３に記載のプログラム。
【請求項１０】
前記原因を出力した後の再試行により前記第１結果の誤りが解消した場合、前記入力画像と前記第２結果とを前記画像認識モデルの訓練データとして記憶する
請求項１又は請求項２に記載のプログラム。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、学習モデルもしくはその利用者に関する不完全性に対して、その原因を出力するプログラム、情報処理装置、及び情報処理方法に関する。
続きを表示（約 1,600 文字）【背景技術】
【０００２】
近年、人工知能（ＡＩ：Artificial Intelligence）の主たる構成要素として学習モデルが利用されている。学習モデルの精度を高めるためには、多数の教師データの作成が必要となるが、その作成は容易ではない。そのため、ある一定程度の精度が得られた時点で運用を開始し、運用において、学習モデルが出力した結果を適宜、人が確認する。そして、学習モデルが出力した結果と人が判断した結果とが相違する場合に、相違の原因を突き止め、学習モデルのパラメータの調整や、学習モデルの再学習を行い、精度の向上を図ることが行なわれている。
【０００３】
しかし、学習モデルが出力した結果と人が判断した結果とが相違の原因を突き止めるのは、未熟な担当者には容易ではなく、多大な労力を必要とする。また発生頻度の低い原因が多数種類、蓄積していくことが想定され、情報の維持管理に人員を必要とする等、費用対効果が十分に得られない可能性もある。
【０００４】
結果の相違に関して、特許文献１には、車両の運転者による視認を支援する視認支援装置において、運転者の目視が不適切であると判定された場合に、警告出力装置に警告を発生させるための警告情報を出力することが開示されている。
【先行技術文献】
【特許文献】
【０００５】
特開２０１８－１５１７６５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかし、特許文献１に開示の視認支援装置は、警告を発生させるだけで、目視が不適切であることの原因は出力されない。本発明はこのような状況に鑑みてなされたものである。その目的は、学習モデルが出力した結果と、ユーザが意図する結果とが相違する場合に、その原因と解決案とを出力するプログラム、情報処理装置、及び情報処理方法の提供である。
【課題を解決するための手段】
【０００７】
本願の一態様に係るプログラムは、入力画像に対する認識処理を実行するよう学習された画像認識モデルによる第１結果と、前記入力画像に対するユーザによる第２結果とが相違する場合に、前記第１結果及び相違する原因を尋ねる質問を含むプロンプトを取得し、プロンプトを入力した場合に、結果が相違した原因を出力する言語生成モデルに、取得したプロンプトを入力することにより、原因を出力する処理をコンピュータに実行させる。
【発明の効果】
【０００８】
本発明の一観点によれば、学習モデルが出力した結果と、ユーザが意図する結果とが相違する場合に、その原因と解決案とを出力することが可能となる。
【図面の簡単な説明】
【０００９】
情報処理システムの構成例を示す説明図である。
原因ＤＢの例を示す説明図である。
問合せＤＢの例を示す説明図である。
訓練ＤＢの例を示す説明図である。
分類モデルの構成例を示す説明図である。
検知モデルの構成例を示す説明図である。
情報処理装置の機能部間の関連性を示す説明図である。
業務処理の手順例を示すフローチャートである。
原因推定処理の手順例を示すフローチャートである。
判定結果画面の例を示す説明図である。
業務処理の他の手順例を示すフローチャートである。
【発明を実施するための形態】
【００１０】
（実施の形態１）
以下実施の形態を、図面を参照して説明する。図１は情報処理システムの構成例を示す説明図である。情報処理システム１００は情報処理装置１、カメラ２及び対話サービス３を含む。情報処理装置１及び対話サービス３は、公衆電話網や携帯電話通信網等のネットワークにより、通信可能に接続されている。
（【００１１】以降は省略されています）

関連特許