特許ウォッチ

公開番号2025027597
公報種別公開特許公報(A)
公開日2025-02-28
出願番号2023132484
出願日2023-08-16
発明の名称情報処理装置、情報処理方法、及び情報処理プログラム
出願人デジタルアーツ株式会社
代理人
主分類G06F 21/55 20130101AFI20250220BHJP(計算;計数)
要約【課題】生成AIにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムを提供する。
【解決手段】情報処理装置10は、ユーザ端末による外部アクセスを制御する情報処理装置であって、ユーザ端末のユーザによる生成AIサーバに対する入力について、当該生成AIサーバからの回答を受け付けるアクセス制御部11と、生成AIサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部13と、所定のデータが不適切なときに、当該データに対するアクセスを不可となるように回答を編集して、ユーザ端末に送信する回答編集部14と、を備える。
【選択図】図1

特許請求の範囲【請求項１】
ユーザ端末による外部アクセスを制御する情報処理装置であって、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるアクセス制御部と、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部と、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する回答編集部と、
を備えることを特徴とする情報処理装置。
続きを表示（約 580 文字）【請求項２】
前記回答編集部は、前記所定のデータが不適切なときに、アクセスが不可となる理由を前記回答内に記載する、
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
ユーザ端末による外部アクセスを制御する情報処理方法であって、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるステップと、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定するステップと、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信するステップと、
を含むことを特徴とする情報処理方法。
【請求項４】
コンピュータを、
ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付ける機能、
前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する機能、
前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する機能、
として機能させることを特徴とする情報処理プログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明の実施形態は、情報処理装置、情報処理方法、及び情報処理プログラムに関する。
続きを表示（約 1,300 文字）【背景技術】
【０００２】
近年、ＡＩ（人口知能）が様々な分野で活用されており、特に生成ＡＩと呼ばれるコンテンツを生成できるＡＩの利用が急速に広まっている。生成ＡＩには、大量の自然言語やプログラム言語を学習した大規模な学習モデルを用いてユーザの指示に応じ文章の生成や文章の要約等を高い精度で行うことができるものがある。生成ＡＩを利用することで、ユーザがインターネット上の情報を検索する場合に、必要な情報を的確に取得することができる。
【０００３】
従来では、生成ＡＩによりサイバー攻撃のシナリオを生成して、当該シナリオに応じたセキュリティリスクを評価するシステムが開示されている。
【先行技術文献】
【特許文献】
【０００４】
特開２０１９－２１９８９８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
生成ＡＩを活用することにより生活や業務の利便性は高まるものの、生成ＡＩの学習モデルが誤った情報に基づいて学習した場合や悪意の第三者により生成ＡＩが偽装された場合等、ユーザが受け付けた回答の中にマルウエアをダウンロードさせるようなＵＲＬやデータが含まれている場合であってもユーザが気づくことは極めて困難である。
【０００６】
本発明はこのような事情を考慮してなされたもので、生成ＡＩにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
本発明の実施形態に係る情報処理装置は、ユーザ端末による外部アクセスを制御する情報処理装置であって、ユーザ端末のユーザによる生成ＡＩサーバに対する入力について、当該生成ＡＩサーバからの回答を受け付けるアクセス制御部と、前記生成ＡＩサーバの回答について、所定のデータを含む場合に、当該データが適切か否かを判定する回答分析部と、前記所定のデータが不適切なときに、当該データに対するアクセスを不可となるように前記回答を編集して、前記ユーザ端末に送信する回答編集部と、を備えることを特徴とする。
【発明の効果】
【０００８】
本発明の実施形態により、生成ＡＩにより返された回答内のデータが適切か否かを即時に判定することができる情報処理装置、情報処理方法、及び情報処理プログラムが提供される。
【図面の簡単な説明】
【０００９】
本実施形態に係る情報処理装置の構成の一例を示す構成図。
本実施形態に係る情報処理装置における生成ＡＩの回答内のデータを判定する方法を示す説明図。
本実施形態に係る情報処理方法の一例を示すフローチャート。
【発明を実施するための形態】
【００１０】
以下、本発明の実施形態を添付図面に基づいて説明する。
図１は、本実施形態に係る情報処理装置１０の構成の一例を示す図である。
（【００１１】以降は省略されています）

関連特許