特許ウォッチ

公開番号2024105206
公報種別公開特許公報(A)
公開日2024-08-06
出願番号2024008293
出願日2024-01-23
発明の名称倫理学に基づくマルチモーダルユーザ投稿監視
出願人富士通株式会社
代理人個人,個人
主分類G06F 16/906 20190101AFI20240730BHJP(計算;計数)
要約【課題】倫理学に基づくマルチモーダルユーザ投稿監視を提供する。
【解決手段】一実施形態では、ユーザ投稿のセット及び関連するメタデータが受信される。パラメータ化されたロジスティック関数がメタデータに適合される。対応するメタデータに関連する各ユーザ投稿は、適合されたパラメータ化されたロジスティック関数に基づいて分類される。クラスタリングされたユーザ投稿のセットに基づいて、各ユーザ投稿に関連する事前カテゴリが決定される。各ユーザ投稿に関連するマルチモーダル特徴のセットが決定される。更に、マルチモーダル特徴のセットに基づいて、各ユーザ投稿の特徴尤度が決定される。各ポストに関連する最終カテゴリが、事前カテゴリと特徴尤度に基づいて決定される。各ユーザ投稿に関連する最終カテゴリに基づいて、投稿分類情報がレンダリングされる。ユーザ投稿のセットは、各ユーザ投稿の最終カテゴリに基づいてフィルタリングされる。
【選択図】図1
特許請求の範囲【請求項１】
プロセッサによって実行される方法であって、
ユーザ投稿のセットを受信し、前記受信されたユーザ投稿のセットに関連するメタデータを受信するステップと、
前記受信されたユーザ投稿のセットに関連する前記メタデータにパラメータ化されたロジスティック関数を適合させるステップと、
前記適合されたパラメータ化されたロジスティック関数に基づいて、対応するメタデータに関連する前記受信されたユーザ投稿のセットの各々をクラスタリングするステップと、
前記クラスタリングされたユーザ投稿のセットに基づいて、前記受信されたユーザ投稿のセットの各々に関連する事前カテゴリを決定するステップと、
前記受信されたユーザ投稿のセットの各々に関連するマルチモーダル特徴のセットを決定するステップと、
前記決定されたマルチモーダル特徴のセットに基づいて、前記受信されたユーザ投稿のセットの各々について特徴尤度を決定するステップと、
前記決定された事前カテゴリ及び前記決定された特徴尤度に基づいて、前記受信されたユーザ投稿のセットの各々に関連する最終カテゴリを決定するステップと、
前記受信されたユーザ投稿のセットの各々に関連する前記決定された最終カテゴリに基づいて投稿分類情報をレンダリングするステップと、
を含み、前記受信されたユーザ投稿のセットは、前記決定された最終カテゴリに基づいてフィルタリングされる、方法。
続きを表示（約 1,600 文字）【請求項２】
前記受信されたユーザ投稿のセットは、ユーザに関連するソーシャルメディア投稿、ニュースコンテンツ、又はトピックに関するユーザコメント、のうちの少なくとも１つに対応する、請求項１記載の方法。
【請求項３】
前記受信されたユーザ投稿のセットに関連する前記メタデータは、前記受信されたユーザ投稿のセットのうちのユーザ投稿について別のユーザから受信した「いいね」、前記ユーザ投稿について別のユーザから受信したユーザ反応、別のユーザによる前記ユーザ投稿の共有、又は別のユーザによる前記ユーザ投稿のブロードキャスト、のうちの少なくとも１つに対応する、請求項１記載の方法。
【請求項４】
前記パラメータ化されたロジスティック関数に関連するパラメータのセットは、
前記受信されたユーザ投稿のセットのうちのユーザ投稿の初期の「いいね」又は共有が所定の数に達するまで増加しなければならない回数を示す第１パラメータ、
前記パラメータ化されたロジスティック関数の出力の動作に対応する第２パラメータ、又は、
前記所定の数に対応し、前記ユーザ投稿の「いいね」又は共有の数の増加に関連する制限値を示す第３パラメータ、
の少なくとも１つに対応する、請求項１記載の方法。
【請求項５】
前記パラメータのセットは、遺伝学に基づく統計モデルに対応する、請求項４記載の方法。
【請求項６】
前記クラスタリングは、前記パラメータ化されたロジスティック関数に適合した前記受信したユーザ投稿のセットのうちの各ユーザ投稿に対するk-平均クラスタリング技術の適用に基づく、請求項１記載の方法。
【請求項７】
前記受信したユーザ投稿のセットのうちのユーザ投稿に関連する前記事前カテゴリの決定は、前記ユーザ投稿のベクトル表現と対応するクラスタ重心との間の正規化距離に基づく、請求項１記載の方法。
【請求項８】
前記決定されたマルチモーダル特徴のセットが、
前記受信したユーザ投稿のセットのうちのユーザ投稿のテキストコンテンツの単語頻度値、
前記ユーザ投稿の前記テキストコンテンツの逆文書頻度値、
前記テキストコンテンツの辞書に基づく特徴、
前記テキストコンテンツに関連するスラー又は冒涜語のセット、
前記テキストコンテンツに関連する品詞（POS）バイグラムのセット、
前記テキストコンテンツに関連するトピック固有ユニグラム又はバイグラムのセット、
前記テキストコンテンツに対するトランスフォーマーモデルの適用に関連する特徴のセット、
前記ユーザ投稿に関連する画像特徴のセット、
前記ユーザ投稿に関連する画像の画像勾配のヒストグラムに対応する特徴のセット、
前記ユーザ投稿に関連するオーディオ特徴のセット、又は、
前記ユーザ投稿に関連するビデオの画像フレーム特徴及び対応するオーディオフレーム特徴のセット、
のうちの少なくとも１つに対応する、請求項１に記載の方法。
【請求項９】
前記受信したユーザ投稿のセットのうちの各ユーザ投稿に対する前記特徴尤度の決定は、前記ユーザ投稿のベクトル表現と、前記決定したマルチモーダル特徴からの特徴に関連する対応するカテゴリとの間の正規化された距離に基づく、請求項１に記載の方法。
【請求項１０】
前記決定された事前カテゴリ及び前記決定された特徴尤度に基づいて、前記受信されたユーザ投稿のセットに関連付けられたカテゴリのセットのうちのカテゴリに対応するユーザ投稿の事後確率を決定するステップを更に含み、
前記事後確率の決定は、前記最終カテゴリに対応する、請求項１に記載の方法。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本開示で議論される実施形態は、倫理学に基づくマルチモーダルユーザ投稿監視に関連する。
続きを表示（約 2,400 文字）【背景技術】
【０００２】
インターネット及びワールドワイドウェブの分野における進歩は、多数のユーザからのオンライン投稿をホストすることができる様々なソーシャルメディアプラットフォームの開発をもたらした。通常、ソーシャルメディアプラットフォームは、オンライン投稿のコンテンツを規制するためにコンテンツモデレーション（投稿監視、content moderation）を実行することを要求されることがある。例えば、オンライン投稿のモデレーションは、人種、年齢、性別などの要因に基づく特定のコミュニティに対する差別を回避するために要求されることがある。更に、噂又は誤報の拡散を回避するために、オンライン投稿に関連する真正性及び正確性を確保するためにモデレーションが要求されることがある。ソーシャルメディアプラットフォームは、ユーザグループの形成を可能にすることがあるため、ソーシャルメディアプラットフォームは、特定のソーシャルメディアプラットフォーム上で社会的に有害なイデオロギーの増加を回避するために、そのようなグループ内で流通する可能性のあるコンテンツを規制することも要求されることがある。しかし、ソーシャルメディアプラットフォーム上のコンテンツのモデレーションは、オンライン投稿の文化的に敏感な性質、人間のコミュニケーションの様々なニュアンス、オンライン投稿の情報の文脈的性質、動的に変化するコンテンツなどの様々な理由により、容易ではないタスクである可能性がある。
【０００３】
人工知能（Artificial Intelligence （AI））／機械学習（Machine Learning （ML））技術の出現により、コンテンツモデレーションタスクに関連する幾つかの課題が解決できる。例えば、大量のリアルタイムコンテンツを分析し、自動コンテンツモデレーションを実行するために、様々なAI／ML技術を使用できる。しかし、コンテンツモデレーションのためのAI／MLモデルの使用は、公共と私的コミュニケーションの間の境界を曖昧にし、それによってプライバシーの懸念を引き起こす可能性がある。更に、ユーザ間のコミュニケーションの内容／文脈の分析に基づいて、ターゲティング広告のような商業的優先事項が、本人の同意なしに知らないユーザに提供される可能性がある。更に、AI／ML技術が適切に設計及びトレーニングされない場合、コンテンツに関連する既存の社会的バイアスが増加する可能性がある。例えば、AI／MLモデルは、社会から疎外されたコミュニティと比較して、社会のある部分に有利な統計的に不均衡なデータセットに基づいてトレーニングされる可能性がある。このようなAI／MLモデルがコンテンツモデレーションに使用される場合、AI／MLモデルは、疎外されたコミュニティに対してバイアスされる可能性がある結果を生成する可能性がある。
【０００４】
本開示で請求される主題は、任意の欠点を解決する又は上述のような環境でのみ動作する実施形態に限定されない。むしろ、この背景技術は、本開示に記載の幾つかの実施形態が実施され得る一例である技術領域を説明するためにのみ提供される。
【発明の概要】
【０００５】
実施形態の態様によれば、方法は、動作セットを含んでよく、前記動作セットは、ユーザ投稿のセットを受信し、前記受信したユーザ投稿のセットに関連するメタデータを受信するステップを含んでよい。前記動作セットは、前記受信したユーザ投稿のセットに関連するメタデータに、パラメータ化されたロジスティック関数を適合させるステップを更に含むことができる。前記動作セットは、前記適合されたパラメータ化されたロジスティック関数に基づいて、対応するメタデータに関連する前記受信したユーザ投稿のセットのうちの各々をクラスタリングするステップを更に含むことができる。前記動作セットは、前記クラスタリングされたユーザ投稿のセットに基づいて、前記受信したユーザ投稿のセットのうちの各々に関連する事前カテゴリを決定するステップを更に含むことができる。前記動作セットは、前記受信したユーザ投稿のセットのうちの各々に関連するマルチモーダル特徴のセットを決定するステップを更に含むことができる。前記動作セットは、決定されたマルチモーダル特徴のセットに基づいて、受信したユーザ投稿のセットのうちの各々について特徴尤度を決定するステップを更に含むことができる。前記動作セットは、前記決定された事前カテゴリ及び前記決定された特徴尤度に基づいて、前記受信したユーザ投稿のセットのうちの各々に関連する最終カテゴリを決定するステップを更に含むことができる。前記動作セットは、前記受信したユーザ投稿のセットのうちの各々に関連する前記決定された最終カテゴリに基づいて、投稿分類情報をレンダリングするステップを更に含むことができる。前記受信したユーザ投稿のセットは、前記決定された最終カテゴリに基づいてフィルタリングすることができる。
【０００６】
実施形態の目的及び利点は、請求項において特に指摘される要素、特徴、及び組み合わせにより少なくとも実現され達成される。
【０００７】
前述の一般的説明及び以下の詳細な説明は両方とも例として与えられ、説明のためであり、請求される本発明の限定ではない。
【図面の簡単な説明】
【０００８】
例示的な実施形態は、以下の添付の図面の使用を通じて更なる特殊性及び詳細事項により記載され説明される。
【０００９】
倫理に基づくマルチモーダルユーザ投稿監視に関連する例示的な環境を表す図である。
【００１０】
倫理に基づくマルチモーダルユーザ投稿監視のための例示的な電子装置を示す図である。
（【００１１】以降は省略されています）

関連特許