特許ウォッチ

公開番号2025051580
公報種別公開特許公報(A)
公開日2025-04-04
出願番号2024050962
出願日2024-03-27
発明の名称システム
出願人ソフトバンクグループ株式会社
代理人弁理士法人太陽国際特許事務所
主分類H04L 67/02 20220101AFI20250327BHJP(電気通信技術)
要約【課題】子どもがアクセスするウェブサイトのコンテンツを受け取り、その内容が子どもに対して不適切な言い回しや画像であるかを判断し、不適切な言い回しや画像を、子どもに伝えられる言い回しや画像に差し替えるシステムを提供する
【解決手段】データ処理装置12及びスマートデバイス14を備えているデータ処理システムにおいて、データ処理装置12の特定処理部290による特定処理は、子どもがアクセスするウェブサイトのコンテンツを受け取る手段として、ブラウザのプラグインを用いる。プラグインは、ウェブサイトのコンテンツをリアルタイムで受け取り、その内容をAIに送信し、AIは、受け取ったコンテンツが子どもに対して不適切な言い回しや画像であるかを判断し、不適切な言葉を子どもが理解できる適切な言葉に、かつ、不適切な画像を子どもが見ても問題ない画像に差し替える。
【選択図】図2
特許請求の範囲【請求項１】
ユーザがアクセスする情報通信ネットワーク上のコンテンツをリアルタイムで受け取る手段と、
受け取ったコンテンツを情報処理システムに送信する手段と、
送信されたコンテンツが特定のユーザグループに対して不適切な表現や視覚情報であるかを分析し判断する情報処理システムと、
不適切と判断された表現や視覚情報を特定のユーザグループにとって適切な表現や視覚情報に自動的に変換する手段と、を含むシステム。
続きを表示（約 1,100 文字）【請求項２】
前記ユーザに対してウェブページを出力する手段を更に含み、
前記コンテンツは、ウェブページのコンテンツであり、
前記特定のユーザグループは子どもであり、
前記情報処理システム及び前記変換する手段は、生成AIモデルを用いて、コンテンツに含まれるテキスト及び画像の各々に対して、前記子どもに対して不適切な内容であるか否かを判断し、不適切な内容であると判断された前記テキスト及び前記画像を、前記子どもにとって適切なテキスト及び画像に変換し、
前記出力する手段は、変換後のテキスト及び画像を含むウェブページをユーザに対して出力する請求項１記載のシステム。
【請求項３】
前記情報処理システム及び前記変換する手段は、子どもが理解しやすい内容に変換することを指示するプロンプト文に基づいて、不適切な内容であると判断された前記テキスト及び前記画像を、前記子どもが理解しやすいテキスト及び画像に変換する請求項２記載のシステム。
【請求項４】
前記出力する手段は、変換前のテキスト及び画像を、変換後のテキスト及び画像に差し替えたウェブページをユーザに対して出力する請求項２記載のシステム。
【請求項５】
前記ユーザに対して動画を出力する手段を更に含み、
前記コンテンツは、動画配信サービスにより配信される動画であり、
前記特定のユーザグループは子どもであり、
前記情報処理システム及び前記変換する手段は、生成AIモデルを用いて、前記動画に挿入される広告の各々に対して、前記子どもに対して不適切な内容であるか否かを判断し、不適切な内容であると判断された前記広告を、風景画像に変換し、
前記出力する手段は、不適切な内容であると判断された前記広告を、風景画像に変換した動画をユーザに対して出力する請求項１記載のシステム。
【請求項６】
感情エンジンを用いて、前記ユーザの感情状態を推測する手段を更に含み、
前記変換する手段は、生成AIモデルを用いて、不適切と判断された表現や視覚情報を、特定のユーザグループにとって適切であって、かつ、前記ユーザの感情状態に応じて選択される、表現や視覚情報に変換する請求項１記載のシステム。
【請求項７】
前記ユーザに対してコンテンツを出力する手段と、
感情エンジンを用いて、前記ユーザの感情状態を推測する手段とを更に含み、
前記出力する手段は、
変換後の表現や視覚情報を含むコンテンツのうち、前記ユーザの感情状態に応じて選択さされるコンテンツを優先して前記ユーザに対して出力する請求項１記載のシステム。

発明の詳細な説明【技術分野】
【０００１】
本開示の技術は、システムに関する。
続きを表示（約 2,300 文字）【背景技術】
【０００２】
特許文献１には、少なくとも一つのプロセッサにより遂行される、ペルソナチャットボット制御方法であって、ユーザ発話を受信するステップと、前記ユーザ発話を、チャットボットのキャラクターに関する説明と関連した指示文を含むプロンプトに追加するステップと前記プロンプトをエンコードするステップと、前記エンコードしたプロンプトを言語モデルに入力して、前記ユーザ発話に応答するチャットボット発話を生成するステップ、を含む、方法が開示されている。
【先行技術文献】
【特許文献】
【０００３】
特開２０２２－１８０２８２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
子どもがインターネットを利用する際、不適切な情報と接触する可能性がある。特に、ウェブサイトのコンテンツはテキストや画像など多岐にわたり、これらをリアルタイムで監視し、子どもに対して不適切な言い回しや画像を適切なものに差し替えることは困難である。
【課題を解決するための手段】
【０００５】
本発明は、子どもがアクセスするウェブサイトのコンテンツを受け取り、その内容が子どもに対して不適切な言い回しや画像であるかを判断するＡＩを用いる。不適切な言い回しや画像は、子どもに伝えられる言い回しや画像に差し替えられる。このＡＩはブラウザのプラグインとして実装され、テキストだけでなく画像に対しても不適切な内容を判断し、差し替えることが可能である。
【図面の簡単な説明】
【０００６】
第１実施形態に係るデータ処理システムの構成の一例を示す概念図である。
第１実施形態に係るデータ処理装置及びスマートデバイスの要部機能の一例を示す概念図である。
第２実施形態に係るデータ処理システムの構成の一例を示す概念図である。
第２実施形態に係るデータ処理装置及びスマート眼鏡の要部機能の一例を示す概念図である。
第３実施形態に係るデータ処理システムの構成の一例を示す概念図である。
第３実施形態に係るデータ処理装置及びヘッドセット型端末の要部機能の一例を示す概念図である。
第４実施形態に係るデータ処理システムの構成の一例を示す概念図である。
第４実施形態に係るデータ処理装置及びロボットの要部機能の一例を示す概念図である。
複数の感情がマッピングされる感情マップを示す。
複数の感情がマッピングされる感情マップを示す。
形態例１の実施例１におけるデータ処理システムの処理の流れを示すシーケンス図である。
形態例１の応用例１におけるデータ処理システムの処理の流れを示すシーケンス図である。
形態例２の実施例２におけるデータ処理システムの処理の流れを示すシーケンス図である。
形態例２の応用例２におけるデータ処理システムの処理の流れを示すシーケンス図である。
形態例３の実施例３におけるデータ処理システムの処理の流れを示すシーケンス図である。
形態例３の応用例３におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例１の実施例１におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例１の応用例１におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例２の実施例２におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例２の応用例２におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例３の実施例３におけるデータ処理システムの処理の流れを示すシーケンス図である。
感情エンジンを組み合わせた場合の形態例３の応用例３におけるデータ処理システムの処理の流れを示すシーケンス図である。
【発明を実施するための形態】
【０００７】
以下、添付図面に従って本開示の技術に係るシステムの実施形態の一例について説明する。
【０００８】
先ず、以下の説明で使用される文言について説明する。
【０００９】
以下の実施形態において、符号付きのプロセッサ（以下、単に「プロセッサ」と称する）は、１つの演算装置であってもよいし、複数の演算装置の組み合わせであってもよい。また、プロセッサは、１種類の演算装置であってもよいし、複数種類の演算装置の組み合わせであってもよい。演算装置の一例としては、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）、ＧＰＧＰＵ（General-Purpose computing on Graphics Processing Units）、ＡＰＵ（Accelerated Processing Unit）、又はＴＰＵ（Tensor Processing Unit）等が挙げられる。
【００１０】
以下の実施形態において、符号付きのＲＡＭ（Random Access Memory）は、一時的に情報が格納されるメモリであり、プロセッサによってワークメモリとして用いられる。
（【００１１】以降は省略されています）

関連特許