特許ウォッチ

公開番号2025112632
公報種別公開特許公報(A)
公開日2025-08-01
出願番号2024006978
出願日2024-01-19
発明の名称情報処理装置、情報処理方法、および情報処理プログラム
出願人LINEヤフー株式会社
代理人弁理士法人酒井国際特許事務所
主分類G06F 16/90 20190101AFI20250725BHJP(計算;計数)
要約【課題】適切でない応答を抑制することができる情報処理装置、情報処理方法、および情報処理プログラムを提供すること。
【解決手段】本願に係る情報処理装置は、利用者の要求を示す情報を受け付ける受付部と、受付部によって受け付けられた情報で示される要求に対する応答を示す情報を生成するか否かを判定する判定部と、判定部によって応答を示す情報を生成すると判定された場合、要求に対する応答を示す情報として生成AIを用いて生成された応答情報を利用者に提供する提供部とを備える。判定部は、受付部によって受け付けられた情報で示される要求が、非応答対象として設定された第1対象に関する要求および応答対象として設定された第2対象に関する要求であるか否かに基づいて、受付部によって受け付けられた情報で示される要求に対する応答を示す情報を生成するか否かを判定する。
【選択図】図3
特許請求の範囲【請求項１】
利用者の要求を示す情報を受け付ける受付部と、
前記受付部によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する判定部と、
前記判定部によって前記応答を示す情報を生成すると判定された場合、前記要求に対する応答を示す情報として生成ＡＩを用いて生成された応答情報を前記利用者に提供する提供部と、を備え、
前記判定部は、
前記受付部によって受け付けられた前記情報で示される要求が、非応答対象として設定された第１対象に関する要求および応答対象として設定された第２対象に関する要求であるか否かに基づいて、前記受付部によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する
ことを特徴とする情報処理装置。
続きを表示（約 1,400 文字）【請求項２】
前記第１対象は、
前記利用者によって指定されたカテゴリに対して非応答対象として設定された対象を含む
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記第２対象は、
前記利用者によって指定されたカテゴリを含む
ことを特徴とする請求項１に記載の情報処理装置。
【請求項４】
前記判定部は、
前記受付部によって受け付けられた前記情報で示される要求が前記第１対象に関する要求であるか否かを、第１言語モデルを用いて判定する
ことを特徴とする請求項１～３のいずれか１つに記載の情報処理装置。
【請求項５】
前記判定部は、
前記受付部によって受け付けられた前記情報で示される要求が前記第２対象に関する要求であるか否かを、第２言語モデルを用いて判定する
ことを特徴とする請求項１～３のいずれか１つに記載の情報処理装置。
【請求項６】
第３言語モデルを用いて前記第１対象を示す情報を生成する生成部を備える
ことを特徴とする請求項４に記載の情報処理装置。
【請求項７】
前記生成部は、
前記利用者によって指定されたカテゴリである指定カテゴリとは異なるカテゴリであって前記指定カテゴリに非応答のカテゴリとして予め関連付けられた非応答カテゴリを示す非応答カテゴリ情報を含む情報を言語モデルに入力し、前記第１対象を示す情報として前記言語モデルにリスクを示す情報を生成させる
ことを特徴とする請求項６に記載の情報処理装置。
【請求項８】
コンピュータが実行する情報処理方法であって、
利用者の要求を示す情報を受け付ける受付工程と、
前記受付工程によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する判定工程と、
前記判定工程によって前記応答を示す情報を生成すると判定された場合、前記要求に対する応答を示す情報として生成ＡＩを用いて生成された応答情報を前記利用者に提供する提供工程と、を含み、
前記判定工程は、
前記受付工程によって受け付けられた前記情報で示される要求が、非応答対象として設定された第１対象に関する要求および応答対象として設定された第２対象に関する要求であるか否かに基づいて、前記受付工程によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する
ことを特徴とする情報処理方法。
【請求項９】
利用者の要求を示す情報を受け付ける受付手順と、
前記受付手順によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する判定手順と、
前記判定手順によって前記応答を示す情報を生成すると判定された場合、前記要求に対する応答を示す情報として生成ＡＩを用いて生成された応答情報を前記利用者に提供する提供手順と、をコンピュータに実行させ、
前記判定手順は、
前記受付手順によって受け付けられた前記情報で示される要求が、非応答対象として設定された第１対象に関する要求および応答対象として設定された第２対象に関する要求であるか否かに基づいて、前記受付手順によって受け付けられた前記情報で示される要求に対する応答を示す情報を生成するか否かを判定する
ことを特徴とする情報処理プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置、情報処理方法、および情報処理プログラムに関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
近年、トランスフォーマーモデルなどの言語モデルを用いて利用者からの要求に対する応答を行う技術が開発されている。例えば、特許文献１には、質問に対する回答を言語モデルに生成させる技術が開示されている。
【先行技術文献】
【特許文献】
【０００３】
特許第７３５３６９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記の従来技術では、回答などの応答を行うことが適切でない場合についての対応については考慮されておらず、改善の余地がある。
【０００５】
本願は、上記に鑑みてなされたものであって、適切でない応答を抑制することができる情報処理装置、情報処理方法、および情報処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
本願に係る情報処理装置は、受付部と、判定部と、提供部とを備える。受付部は、利用者の要求を示す情報を受け付ける。判定部は、受付部によって受け付けられた情報で示される要求に対する応答を示す情報を生成するか否かを判定する。提供部は、判定部によって応答を示す情報を生成すると判定された場合、要求に対する応答を示す情報として生成ＡＩを用いて生成された応答情報を利用者に提供する提供部とを備える。判定部は、受付部によって受け付けられた情報で示される要求が、非応答対象として設定された第１対象に関する要求および応答対象として設定された第２対象に関する要求であるか否かに基づいて、受付部によって受け付けられた情報で示される要求に対する応答を示す情報を生成するか否かを判定する。
【発明の効果】
【０００７】
実施形態の一態様によれば、適切でない応答を抑制することができるという効果を奏する。
【図面の簡単な説明】
【０００８】
図１は、実施形態に係る情報処理を説明するための図である。
図２は、実施形態に係る情報処理システムの構成の一例を示す図である。
図３は、実施形態に係る情報処理装置の構成の一例を示す図である。
図４は、実施形態に係る情報処理装置の利用者情報記憶部に記憶される利用者情報テーブルの一例を示す図である。
図５は、実施形態に係る情報処理装置の非応答対象情報記憶部に記憶される非応答対象テーブルの一例を示す図である。
図６は、実施形態に係る情報処理装置における各カテゴリに予め設定された非応答カテゴリの一例を示す図である。
図７は、実施形態に係る情報処理装置の処理部における第１生成処理部で用いられる指示情報の一例と第３言語モデルの出力例とを示す図である。
図８は、実施形態に係る情報処理装置の処理部における第２生成処理部で用いられる指示情報の一例と第３言語モデルの出力例とを示す図である。
図９は、実施形態に係る情報処理装置の処理部における第１生成処理部と第２生成処理部とによる処理の関係を示す図である。
図１０は、実施形態に係る情報処理装置の処理部における第３生成処理部で用いられる指示情報と第３言語モデルの出力例との一例を示す図であり、要求情報で示される要求がＱ＆Ａサービスにおける質問であり、非応答カテゴリ情報が文字列「インターネットに関する質問」である場合の例図である。
図１１は、実施形態に係る情報処理装置における処理部の第４生成処理部が判定部の一部の処理として行う明示的非応答判定処理に用いられる指示情報の一例を示す図である。
図１２は、実施形態に係る情報処理装置における処理部の評価部による処理の流れを示す図である。
図１３は、実施形態に係る情報処理装置における処理部の判定部による明示的非応答判定処理に用いられる指示情報の一例を示す図である。
図１４は、実施形態に係る情報処理装置の処理部による情報処理の一例を示すフローチャートである。
図１５は、実施形態に係る情報処理装置の処理部による要求処理の一例を示すフローチャートである。
図１６は、実施形態に係る情報処理装置の処理部による非応答対象情報生成処理の一例を示すフローチャートである。
図１７は、実施形態に係る情報処理装置の機能を実現するコンピュータの一例を示すハードウェア構成図である。
【発明を実施するための形態】
【０００９】
以下に、本願に係る情報処理装置、情報処理方法、および情報処理プログラムを実施するための形態（以下、「実施形態」と呼ぶ）について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る情報処理装置、情報処理方法、および情報処理プログラムが限定されるものではない。また、各実施形態は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。また、以下の各実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【００１０】
〔１．情報処理の一例〕
まず、図１を用いて、実施形態に係る情報処理の一例について説明する。図１は、実施形態に係る情報処理を説明するための図である。
（【００１１】以降は省略されています）

関連特許