TOP
|
特許
|
意匠
|
商標
特許ウォッチ
Twitter
他の特許を見る
公開番号
2025111087
公報種別
公開特許公報(A)
公開日
2025-07-30
出願番号
2024005253
出願日
2024-01-17
発明の名称
人工知能管理システム、方法及びプログラム
出願人
個人
代理人
個人
主分類
G06F
16/90 20190101AFI20250723BHJP(計算;計数)
要約
【課題】ユーザー固有の趣味・嗜好を反映させ、ユーザが興味を持っている話題に特化した形で、国や地域の文化、言語、法律、地理、宗教、教育の各側面を理解し、これらに適応する多様性と柔軟性をAIに持たせる。
【解決手段】自然言語処理を用いてユーザーと対話が可能な人工知能を管理するシステムであって、ユーザーに関する情報を記憶する記憶部と、ユーザーが入力した情報を取得する入力インターフェース52と、ユーザー情報から抽出されたユーザー固有条件を入力情報にコンテキスト情報として付加して入力情報とともにAI提供サーバー群4に送出するコンテキスト生成部541と、人工知能からの返答を受信する返答データ制御部542と、返答情報に含まれるキーワードに基づいてフィルタリングを行うフィルタリング部36bと、フィルタリング部36bによってフィルタリングされた情報を出力情報として出力する出力I/F53と、を備える。
【選択図】図4
特許請求の範囲
【請求項1】
自然言語処理を用いて、ユーザーと対話が可能な人工知能を管理するシステムであって、
前記ユーザーに関する情報をユーザー情報として記憶する記憶部と、
前記ユーザーが入力した情報を入力情報として取得する入力取得部と、
前記ユーザー情報から抽出されたユーザー固有条件を、前記入力情報にコンテキスト情報として付加して、入力情報とともに前記人工知能に送出する送出部と、
前記人工知能からの返答を返答情報として受信する返答受信部と、
前記返答情報に含まれるキーワードに基づいて、フィルタリングを行うフィルタリング部と
前記フィルタリング部によってフィルタリングされた情報を、出力情報として出力する出力部と
を備えることを特徴とする人工知能管理システム。
続きを表示(約 2,000 文字)
【請求項2】
前記入力取得部は、前記ユーザーの年齢に関する情報を前記入力情報の一部として取得し、
前記送出部は、前記ユーザー固有条件に年齢情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記フィルタリング部は、前記年齢情報を参照してフィルタリングを実行する
ことを特徴とする請求項1に記載の人工知能管理システム。
【請求項3】
現在位置に関する情報を取得する位置情報取得部をさらに備え、
前記入力取得部は、前記位置情報取得部が取得した現在位置情報を前記入力情報の一部として取得し、
前記送出部は、前記ユーザー固有条件に前記現在位置情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記出力部は、前記出力情報に、前記現在位置情報を含めて出力する
ことを特徴とする請求項1に記載の人工知能管理システム。
【請求項4】
自然言語処理を用いて、ユーザーと対話が可能な人工知能を管理する方法であって、
前記ユーザーに関する情報をユーザー情報として記憶部が記憶するとともに、前記ユーザーが入力した情報を入力情報として入力取得部が取得する入力取得ステップと、
前記ユーザー情報から抽出されたユーザー固有条件を、前記入力情報にコンテキスト情報として付加して、入力情報とともに前記人工知能に送出部が送出する送出ステップと、
前記人工知能からの返答を返答情報として返答受信部が受信する返答受信ステップと、
前記返答情報に含まれるキーワードに基づいて、前記フィルタリング部がフィルタリングを行うとともに、前記フィルタリング部によってフィルタリングされた情報を、出力情報として出力部が出力する出力ステップと
を含むことを特徴とする人工知能管理方法。
【請求項5】
前記入力取得ステップにおいて前記入力取得部は、前記ユーザーの年齢に関する情報を前記入力情報の一部として取得し、
前記送出ステップにおいて前記送出部は、前記ユーザー固有条件に年齢情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記出力ステップにおいて前記フィルタリング部は、前記年齢情報を参照してフィルタリングを実行する
ことを特徴とする請求項4に記載の人工知能管理方法。
【請求項6】
位置情報取得部が、現在位置に関する情報を取得する位置情報取得ステップをさらに含み、
前記入力取得ステップにおいて前記入力取得部は、前記位置情報取得部が取得した現在位置情報を前記入力情報の一部として取得し、
前記送出ステップにおいて前記送出部は、前記ユーザー固有条件に前記現在位置情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記出力ステップにおいて前記出力部は、前記出力情報に、前記現在位置情報を含めて出力する
ことを特徴とする請求項4に記載の人工知能管理方法。
【請求項7】
自然言語処理を用いて、ユーザーと対話が可能な人工知能を管理するプログラムであって、情報処理端末装置を、
前記ユーザーに関する情報をユーザー情報として記憶する記憶部と、
前記ユーザーが入力した情報を入力情報として取得する入力取得部と、
前記ユーザー情報から抽出されたユーザー固有条件を、前記入力情報にコンテキスト情報として付加して、入力情報とともに前記人工知能に送出する送出部と、
前記人工知能からの返答を返答情報として受信する返答受信部と、
前記返答情報に含まれるキーワードに基づいて、フィルタリングを行うフィルタリング部と
前記フィルタリング部によってフィルタリングされた情報を、出力情報として出力する出力部
として機能させることを特徴とする人工知能管理プログラム。
【請求項8】
前記入力取得部は、前記ユーザーの年齢に関する情報を前記入力情報の一部として取得し、
前記送出部は、前記ユーザー固有条件に年齢情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記フィルタリング部は、前記年齢情報を参照してフィルタリングを実行する
ことを特徴とする請求項7に記載の人工知能管理プログラム。
【請求項9】
前記プログラムは、前記情報処理端末装置を、
現在位置に関する情報を取得する位置情報取得部としてさらに機能させ、
前記入力取得部は、前記位置情報取得部が取得した現在位置情報を前記入力情報の一部として取得し、
前記送出部は、前記ユーザー固有条件に前記現在位置情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記出力部は、前記出力情報に、前記現在位置情報を含めて出力する
ことを特徴とする請求項7に記載の人工知能管理プログラム。
発明の詳細な説明
【技術分野】
【0001】
本発明は、言語モデルや会話型AI(Artificial Intelligence)のような、自然言語処理(NLP)技術などを利用した機械学習機能により、対話型のコミュニケーションが可能な人工知能を管理するシステム、方法及びプログラムに関する。
続きを表示(約 2,400 文字)
【背景技術】
【0002】
近年、人工知能(AI)技術の進歩がめざましく、その1つの態様として、人間のように会話を行うことができる会話型AI(Conversational AI)がある。これは、自然言語処理(NLP)と呼ばれるAIの一分野を活用してチャットボットや仮想アシスタントというように、人間の言葉を理解してそれに応答する能力を利用した技術であり、カスタマーサポート、製品の推薦、情報の提供、予約システムなど、さまざまなサービスで応用されつつある。例えば、特許文献1に開示されているような、自然言語の会話に基づいて生成した参照文章を用いて機械読解(MRC:Machine Reading Comprehension)モデルを訓練することで、さまざまな質問に対応できるシステムも提案されている。
【0003】
この特許文献1に開示された対話管理システムでは、このシステムは、ユーザーと対話を行うクライアント端末と、対話管理装置が通信ネットワークを介して接続されて構成されており、質問に対する正しい回答を示す回答ラベル及び参照文章を用いて、質問に対して適切な回答を生成するように訓練する。このような対話管理システムでは、対話型AIの分野において、より精度の高い対話管理と質問応答能力を実現することができる。
【先行技術文献】
【特許文献】
【0004】
特開2023-176054号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、上述した特許文献1に開示された対話管理装置では、年齢制限に配慮した仕組みを備えていないため、AIとの対話の中で、子どもや未成年者が、成人向けの言葉遣いや内容に触れる可能性があり、心理的な影響を受けるリスクや、安全性の面からも保護が不十分である。さらに、年齢制限を考慮しないシステム設計は、法規制との整合性にも問題があり、多くの国においては、子どもや未成年者向けのコンテンツに関して厳しい法規制が存在するため、これらの基準に違反する可能性がある。
【0006】
また、対話型AIサービスにおいてユーザーが位置する場所(国や地域)を考慮しないときには、文化的、言語的、法的、地理的、宗教的及び教育的な問題が生じ得る。例えば、異なる国や地域には固有の文化があることから、地域間で宗教的信条や価値観が相違する。特に、一部の宗教や信条には特定の禁忌や教義があり、各国の法律や規制には宗教的、教育的な側面も含まれ、地理的な特性や現地の事情、各国や地域に特有の表現やニュアンスなどを理解していないと、宗教や教育に関する誤った情報を提供したり、誤解を生じる可能性がある。
【0007】
そこで、本発明は、上記のような問題を解決するものであり、ユーザー固有の趣味・嗜好を反映させ、そのユーザーが興味を持っている話題に特化した形で、国や地域の文化、言語、法律、地理、宗教、教育の各側面を理解し、これらに適応する多様性と柔軟性をAIに持たせるとともに、ユーザーの年齢を考慮して、ユーザーがAIを通じて不適切な言葉遣いやコンテンツに接触するリスクを軽減し、法規制との整合性を確保できる人工知能管理システム、管理方法及び管理プログラムを提供することを目的とする。
【課題を解決するための手段】
【0008】
上記課題を解決するために、本発明の人工知能管理システムは、
自然言語処理を用いて、ユーザーと対話が可能な人工知能を管理するシステムであって、
前記ユーザーに関する情報をユーザー情報として記憶する記憶部と、
前記ユーザーが入力した情報を入力情報として取得する入力取得部と、
前記ユーザー情報から抽出されたユーザー固有条件を、前記入力情報にコンテキスト情報として付加して、入力情報とともに前記人工知能に送出する送出部と、
前記人工知能からの返答を返答情報として受信する返答受信部と、
前記返答情報に含まれるキーワードに基づいて、フィルタリングを行うフィルタリング部と
前記フィルタリング部によってフィルタリングされた情報を、出力情報として出力する出力部と
を備えることを特徴とする。
【0009】
また、本発明は、自然言語処理を用いて、ユーザーと対話が可能な人工知能を管理する方法であって、
前記ユーザーに関する情報をユーザー情報として記憶部が記憶するとともに、前記ユーザーが入力した情報を入力情報として入力取得部が取得する入力取得ステップと、
前記ユーザー情報から抽出されたユーザー固有条件を、前記入力情報にコンテキスト情報として付加して、入力情報とともに前記人工知能に送出部が送出する送出ステップと、
前記人工知能からの返答を返答情報として返答受信部が受信する返答受信ステップと、
前記返答情報に含まれるキーワードに基づいて、前記フィルタリング部がフィルタリングを行うとともに、前記フィルタリング部によってフィルタリングされた情報を、出力情報として出力部が出力する出力ステップと
を含むことを特徴とする人工知能管理方法。
【0010】
上記発明において前記入力取得部は、前記ユーザーの年齢に関する情報を前記入力情報の一部として取得し、
前記送出部は、前記ユーザー固有条件に年齢情報を含めて、前記入力情報とともに前記人工知能に送出し、
前記フィルタリング部は、前記年齢情報を参照してフィルタリングを実行する
ことが好ましい。
(【0011】以降は省略されています)
この特許をJ-PlatPatで参照する
関連特許
個人
裁判のAI化
18日前
個人
情報処理システム
25日前
個人
検査システム
27日前
個人
記入設定プラグイン
1か月前
個人
介護情報提供システム
4日前
個人
設計支援システム
10日前
個人
設計支援システム
10日前
キヤノン電子株式会社
携帯装置
26日前
個人
不動産売買システム
1か月前
株式会社サタケ
籾摺・調製設備
26日前
株式会社カクシン
支援装置
13日前
個人
備蓄品の管理方法
25日前
個人
ジェスチャーパッドのガイド部材
3日前
サクサ株式会社
中継装置
今日
キヤノン株式会社
情報処理装置
26日前
キヤノン株式会社
情報処理装置
26日前
サクサ株式会社
中継装置
26日前
株式会社BONNOU
管理装置
1か月前
東洋電装株式会社
操作装置
26日前
株式会社寺岡精工
システム
3日前
東洋電装株式会社
操作装置
26日前
アスエネ株式会社
排水量管理方法
26日前
ホシデン株式会社
タッチ入力装置
1か月前
キヤノン電子株式会社
名刺管理システム
27日前
株式会社ワコム
電子消去具
1か月前
株式会社東芝
電子機器
1か月前
個人
パターン抽出方法及び通信多重化方法
1か月前
日本電気株式会社
システム及び方法
12日前
株式会社アザース
企業連携システム
4日前
株式会社ライト
情報処理装置
1か月前
株式会社JVCケンウッド
管理装置
27日前
個人
会話評価装置
10日前
株式会社リ・パワー
電力入札システム
今日
株式会社CBE-A
情報処理システム
1か月前
大王製紙株式会社
RFIDタグ
1か月前
住友重機械工業株式会社
力覚伝達装置
1か月前
続きを見る
他の特許を見る