特許ウォッチ

公開番号2024077638
公報種別公開特許公報(A)
公開日2024-06-10
出願番号2022188818
出願日2022-11-28
発明の名称情報処理装置、情報処理システム、プログラムおよび情報処理方法
出願人大学共同利用機関法人情報・システム研究機構
代理人弁理士法人山王内外特許事務所
主分類G06F 21/30 20130101AFI20240531BHJP(計算;計数)
要約【課題】メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供するための情報処理装置、情報処理システム、プログラムおよび情報処理方法を得る。
【解決手段】情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するメディア情報取得部と、メディア情報がAIにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、メディア情報を出力する出力部と、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを、外部端末に送信するトークン送信部と、を備える。
【選択図】図1
特許請求の範囲【請求項１】
外部端末から稿要求を受信し、前記投稿要求により指定されたメディア情報を取得するメディア情報取得部と、
前記メディア情報がＡＩにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、前記メディア情報を出力する出力部と、
前記推論装置により生成された前記メディア情報についての前記真贋判定の成果物を前記外部端末が取得するための真贋判定トークンを、前記外部端末に送信するトークン送信部と、を備える
ことを特徴とする情報処理装置。
続きを表示（約 1,800 文字）【請求項２】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
前記外部端末に前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記メディア情報取得部は、ＨＴＴＰに従って記述された前記投稿要求を受信し、
前記成果物取得部は、ＨＴＴＰに従って記述された前記成果物要求を受信する
ことを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記成果物取得部は、前記真贋判定の成果物として、前記真贋判定の結果を数値または文字で示す真贋判定値を取得する
ことを特徴とする請求項２に記載の情報処理装置。
【請求項５】
前記真贋判定値は、前記メディア情報が動画像の場合、ＡＩにより生成されたフレームのフレーム番号、ＡＩにより生成された動画像部分を示す経過時間、真贋判定の結果を数値で示す動画像真贋判定スコア、前記動画像真贋判定スコアに基づいて真贋を分けるための閾値、１フレーム内におけるＡＩにより生成された画像部分を示す座標、二値的に示された動画像全体としての真贋判定結果、または、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記動画像真贋判定スコアのうちの、少なくとも１つであり、
前記メディア情報が静止画像の場合、真贋判定の結果を数値で示した静止画像真贋判定スコア、前記静止画像真贋判定スコアに基づいて真贋を分けるための閾値、前記静止画像内におけるＡＩにより生成された画像部分を示す座標、二値的に示された静止画像全体としての真贋判定結果、真贋判定の対象が複数の場合の各対象を示すインデックスと当該インデックスごとの前記静止画像真贋判定スコアのうちの、少なくとも１つであり、
前記メディア情報が音声の場合、真贋判定の結果を数値で示す音声真贋判定スコア、前記音声真贋判定スコアに基づいて真贋を分けるための閾値、ＡＩにより生成された音声の周波数領域、または、ＡＩにより生成された音声の時間領域のうちの、少なくとも１つであり、
前記メディア情報が文章の場合、真贋判定の結果を数値で示す文章真贋判定スコア、前記文章真贋判定スコアに基づいて真贋を分けるための閾値、または、文章中のＡＩにより生成された位置のうちの、少なくとも１つである、
ことを特徴とする請求項４記載の情報処理装置。
【請求項６】
前記成果物取得部は、前記真贋判定の成果物として、前記メディア情報に真贋判定の結果を示す情報が付加された加工済メディア情報を取得する
ことを特徴とする請求項２に記載の情報処理装置。
【請求項７】
前記出力部は、前記加工済メディア情報の生成を要求する生成要求情報が前記投稿要求に記述されている場合、前記メディア情報に加えて、前記生成要求情報を前記記憶装置に出力し、
前記成果物取得部は、前記外部端末から、前記真贋判定トークンおよび加工済メディア情報の送信要求が記述された成果物要求を受信すると、前記真贋判定の成果物として、前記加工済メディア情報を取得する
ことを特徴とする請求項６に記載の情報処理装置。
【請求項８】
前記外部端末から、前記真贋判定トークンが記述された成果物要求を受信し、前記真贋判定トークンにより特定される前記真贋判定の成果物を前記記憶装置から取得する成果物取得部と、
当該真贋判定の成果物に応じた情報を前記外部端末に送信する補助情報処理装置に、前記真贋判定の成果物を送信する成果物送信部と、を備えた
ことを特徴とする請求項１に記載の情報処理装置。
【請求項９】
請求項１から請求項７のいずれか１項に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、を備えた
ことを特徴とする情報処理システム。
【請求項１０】
請求項８に記載の情報処理装置と、
前記推論装置と、
前記記憶装置と、
前記外部端末と、
前記補助情報処理装置と、を備えた
ことを特徴とする情報処理システム。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置、情報処理システム、プログラムおよび情報処理方法に関する。
続きを表示（約 3,000 文字）【背景技術】
【０００２】
近年、ＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）を利用することにより、実物が撮影されたものであるかのような静止画像または動画像（以下、「静止画像」および「動画像」を総称して単に「画像」ともいう。）、実際に人物が発した音声が録音されたものであるかのような音声、または、人間により記述されたものであるかのような自然言語で表現された文章が、生成されるようになってきている。
ところで、特許文献１には、いわゆるディープフェイクのおそれがある画像への対応として、Ｗｅｂ上での公開のために画像データがウェブサーバにアップロードされる際に、機械学習により作成したモデルを用いて偽装判定して、偽装の疑いがある画像のウェブサーバへのアップロードを遮断する技術が記載されている。
【先行技術文献】
【特許文献】
【０００３】
特開２０２１－１６２９６５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
メディア情報を取扱う団体または個人にとって、ある画像、音声、または、文章（以下「画像」、「音声」および「文章」を総称して「メディア情報」ともいう。）が、実物を撮影した画像、実際の人物の音声の録音、または、人間が記述した文章等（以下「真情報」という。）であるか、それとも、ＡＩにより生成されたメディア情報（以下「贋情報」という。）であるかを、自動的に見分ける機能（以下「真贋判定機能」という。）を、利便性の高い手法で利用できれば有用である。なぜならば、精度の高い真贋判定機能を実現する装置等を団体または個人が自ら開発することも考えられるが、そのためには、高度な技術、知識または設備が必要であり、それらの技術等を有しない団体または個人にとって、真贋判定機能を実現する技術を導入することは、困難だからである。
しかしながら、従来、このような団体または個人（以下「ユーザ」という。）に対し、真贋判定機能を、利便性の高い手法で提供できていないという課題があった。
特許文献１に記載の技術は、画像のウェブサーバへのアップロードの際に、偽装の疑いがある画像のアップロードを遮断する機能を提供するに止まり、例えば、その使用場面が限定されていること等から、その利便性は低く、上記課題を解決するものではない。
【０００５】
本発明は、上記課題を解決するものであり、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供するための情報処理装置、情報処理システム、プログラムおよび情報処理方法を得ることを目的とする。
【課題を解決するための手段】
【０００６】
本発明に係る情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得するメディア情報取得部と、メディア情報がＡＩにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置に、メディア情報を出力する出力部と、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを、外部端末に送信するトークン送信部と、を備える。
【発明の効果】
【０００７】
本発明に係る情報処理装置は、外部端末から投稿要求を受信し、投稿要求により指定されたメディア情報を取得し、メディア情報がＡＩにより生成されたものであるか否かを示す真贋判定を行う推論装置からアクセス可能な記憶装置にメディア情報を出力し、推論装置により生成されたメディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを外部端末に送信する。
これにより、あるメディア情報の真贋判定を行いたいユーザは、外部端末を利用して当該メディア情報を情報処理装置に取得させることで、当該メディア情報についての真贋判定の成果物を外部端末が取得するための真贋判定トークンを得ることができる。したがって、本発明に係る情報処理装置は、メディア情報の真贋判定機能を、利便性の高い手法でユーザに提供することができる。
【図面の簡単な説明】
【０００８】
実施の形態１に係る情報処理システムの構成を示すブロック図である。
実施の形態１に係る情報処理装置の機能を実現するハードウェア構成を示すブロック図である。
加工済メディア情報が画像である場合の、実際の人物が撮影された画像およびＡＩにより生成された画像の例を示す図である。
実施の形態１に係る情報処理方法を示すフローチャートである。
実施の形態１に係る情報処理システムのメディア情報投稿時の処理を示すシーケンス図である。
実施の形態１に係る情報処理システムの真贋判定時の処理を示すシーケンス図である。
実施の形態１に係る情報処理システムの真贋判定の成果物の送受信時の処理を示すシーケンス図である。
【発明を実施するための形態】
【０００９】
実施の形態１．
（情報処理システムの全体構成）
図１は、実施の形態１に係る情報処理システム１の構成を示すブロック図である。図１において、情報処理システム１は、情報処理装置２、外部端末５および補助情報処理装置６が、互いにネットワーク７を介して接続され、情報処理装置２、推論装置３および記憶装置４が、互いにアクセス可能に接続されたシステムである。ネットワーク７は、例えば、インターネットを含む電気通信回線である。なお、各構成間の通信は、ＴＬＳ（ＴｒａｎｓｐｏｒＬａｙｅｒＳｅｃｕｒｉｔｙ）等の暗号化通信プロトコルを利用して行われることが望ましい。
情報処理装置２と、推論装置３および記憶装置４とは、互いにインターネット等の電気通信回線で接続されていてもよいし、いずれか２つ以上の装置が１つの装置により構成されていてもよい。また、情報処理装置２、推論装置３および記憶装置４は、それぞれの機能が実現される限り、それぞれが単一の装置でなく、複数の装置から構成されていてもよい。情報処理装置２、推論装置３、記憶装置４、外部端末５および補助情報処理装置６は、それぞれが１台または複数台存在していてもよい。図１には、それぞれが１台ずつ存在する場合を示している。
また、情報処理システム１は、メディア情報の種類（静止画像、動画像、音声または文章）のうち、いずれか１種類のみに対応するものであっても、複数種類に対応するものであってもよい。情報処理システム１が複数種類のメディア情報に対応する場合、情報処理システム１は、例えば、複数種類のそれぞれに応じた複数の推論装置３を備え、投稿されたメディア情報に応じた推論装置３が真贋判定に利用される。
【００１０】
情報処理システム１は、少なくとも、情報処理装置２、推論装置３、記憶装置４、および、外部端末５を備えていればよい。この場合の情報処理システム１は、外部端末５から取得されたメディア情報について、そのメディア情報がＡＩにより生成されたものであるか否かを示す真贋判定を行い、真贋判定の成果物を外部端末５に送信する。
（【００１１】以降は省略されています）

関連特許