特許ウォッチ

公開番号2025112898
公報種別公開特許公報(A)
公開日2025-08-01
出願番号2024007426
出願日2024-01-22
発明の名称情報処理装置、情報処理装置の制御方法およびプログラム
出願人キヤノン株式会社
代理人個人
主分類G06N 3/0475 20230101AFI20250725BHJP(計算;計数)
要約【課題】情報に対して、当該情報が学習モデルに基づいて生成された旨の情報の付与を要する場合には、その付与を行うことができる仕組みを提供することを目的とする。
【解決手段】情報処理装置で構成されたAI画像生成サーバ101は、学習モデルに基づいて情報を生成する生成手段(生成部210)と、生成手段で生成された情報に、情報が学習モデルに基づいて生成された情報である旨を示す識別情報を付与する情報付与手段(AI識別情報付与部208)を備える。
【選択図】図4
特許請求の範囲【請求項１】
学習モデルに基づいて情報を生成する生成手段と、
前記生成手段で生成された前記情報に、該情報が前記学習モデルに基づいて生成された情報である旨を示す識別情報を付与する情報付与手段を備えることを特徴とする情報処理装置。
続きを表示（約 1,300 文字）【請求項２】
情報を取得する取得手段と、
前記取得手段で取得された前記情報が学習モデルに基づいて生成された情報であるか否かを判断する判断手段と、
前記判断手段での判断の結果、前記取得手段で取得された前記情報が前記学習モデルに基づいて生成された情報であると判断された場合には、前記取得手段で取得された前記情報に、該情報が前記学習モデルに基づいて生成された情報である旨を示す識別情報を付与する情報付与手段を備えることを特徴とする情報処理装置。
【請求項３】
前記情報処理装置は、前記情報を前記学習モデルに基づいて生成する生成手段を備える外部装置と通信可能に接続される装置であり、
前記取得手段は、前記情報を前記外部装置から取得可能であることを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記情報が前記学習モデルに基づいて生成された情報である可能性の確度を数値化する数値化手段を備え、
前記判断手段は、前記数値化手段で数値化された数値が閾値以上の場合には、前記情報が前記学習モデルに基づいて生成された情報であると判断し、前記数値が閾値未満の場合には、前記情報が前記学習モデルに基づいて生成された情報ではないと判断することを特徴とする請求項２に記載の情報処理装置。
【請求項５】
前記閾値を記憶する記憶手段と、
前記閾値を変更する操作を行う操作手段と、を備えることを特徴とする請求項４に記載の情報処理装置。
【請求項６】
前記情報には、画像で可視化される主情報と、該主情報に関する付帯情報としてのメタデータとが含まれており、
前記情報付与手段は、前記識別情報を前記主情報に付与することを特徴とする請求項１または２に記載の情報処理装置。
【請求項７】
前記情報には、画像で可視化される主情報と、該主情報に関する付帯情報としてのメタデータとが含まれており、
前記情報付与手段は、前記識別情報を前記メタデータに付与することを特徴とする請求項１または２に記載の情報処理装置。
【請求項８】
前記情報付与手段は、前記識別情報として、前記情報が前記学習モデルから出力された出力データである旨、前記出力データが出力される際の前記学習モデルに入力される入力データ、前記学習モデル、該学習モデルを用いるプログラム、前記情報が前記学習モデルに基づいて生成された情報である可能性の確度のうちの少なくとも１つを付与することを特徴とする請求項１または２に記載の情報処理装置。
【請求項９】
前記情報付与手段で前記識別情報が付与された場合に、前記情報が前記学習モデルに基づいて生成された情報である旨を報知する報知手段を備えることを特徴とする請求項１または２に記載の情報処理装置。
【請求項１０】
前記情報は、静止画または動画の画像データ、音声データ、文字データのうちの少なくとも１つを含むことを特徴とする請求項１または２に記載の情報処理装置。
（【請求項１１】以降は省略されています）
発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置、情報処理装置の制御方法およびプログラムに関する。
続きを表示（約 2,200 文字）【背景技術】
【０００２】
近年では、ＡＩを用いた画像生成技術が普及している。これにより、個人でも容易に、現実感がある画像を生成できるようになった。その一方で、ＡＩによる画像生成技術が、悪意を持って利用される場合も生じてきており、問題になっている。例えば、実在の人物や施設等に関する架空の事件や事故の写真等が捏造されている。このようなＡＩによる画像生成技術の悪用を防ぐために、様々な国でＡＩ生成コンテンツに関する法律や開発指針等の整備が急がれている。この法律としては、ＡＩ生成コンテンツについては、ＡＩによって生成されたことを明示することを制定した法律等が検討されている。また、今後は、ＡＩ生成コンテンツと、それ以外のコンテンツとが明確に区別されていることが求められる可能性も高い。特許文献１には、一般的に複製が禁止される紙幣や有価証券等の画像データについて、コピーライトマークやロゴ等の著作権に関わる読取禁止情報を検出し、その検出情報を、複製を禁止する旨の情報として画像データに付与する画像形成装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
特開２００６－２１１４７７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１に記載の画像形成装置では、ＡＩを用いて生成された画像か否かに関する情報の付与を要する場合でも、その付与が行われない。
【０００５】
本発明は、上記の課題に鑑みてなされたものである。本発明は、情報に対して、当該情報が学習モデルに基づいて生成された旨の情報の付与を要する場合には、その付与を行うことができる仕組みを提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するために、本発明の情報処理装置は、学習モデルに基づいて情報を生成する生成手段と、前記生成手段で生成された前記情報に、該情報が前記学習モデルに基づいて生成された情報である旨を示す識別情報を付与する情報付与手段を備えることを特徴とする。
【発明の効果】
【０００７】
本発明によれば、情報に対して、当該情報が学習モデルに基づいて生成された旨の情報の付与を要する場合には、その付与を行うことができる。
【図面の簡単な説明】
【０００８】
第１実施形態に係る画像処理システムのハードウェア構成を示すブロック図である。
ＡＩ画像生成サーバのハードウェア構成を示すブロック図である。
汎用端末のハードウェア構成を示すブロック図である。
汎用端末およびＡＩ画像生成サーバで実行される処理を示すフローチャートである。
第２実施形態に係るＡＩ画像生成サーバで実行される処理を示すフローチャートである。
画像データの画像の一例を示す図である。
画像データの画像の変形例を示す図である。
第３実施形態に係る汎用端末のハードウェア構成を示すブロック図である。
汎用端末で実行される処理（ＡＩ画像識別処理）を示すフローチャートである。
汎用端末で実行される処理（ＡＩ画像報知処理）を示すフローチャートである。
【発明を実施するための形態】
【０００９】
以下、本発明の各実施形態について図面を参照しながら詳細に説明する。しかしながら、以下の各実施形態に記載されている構成はあくまで例示に過ぎず、本発明の範囲は各実施形態に記載されている構成によって限定されることはない。例えば、本発明を構成する各部は、同様の機能を発揮し得る任意の構成のものと置換することができる。また、任意の構成物が付与されていてもよい。また、各実施形態のうちの、任意の２以上の構成（特徴）を組み合わせることもできる。
【００１０】
＜第１実施形態＞
以下、図１～図４を参照して、第１実施形態について説明する。図１は、第１実施形態に係る画像処理システムのハードウェア構成を示すブロック図である。図１に示すように、画像処理システム１０は、ＡＩ画像生成サーバ１０１と、汎用端末１０２とを有し、これらがネットワーク１００を介して互いに通信可能に接続されている。ＡＩ画像生成サーバ１０１は、情報処理装置で構成される。このＡＩ画像生成サーバ１０１は、学習モデルに基づいて情報を生成することができる（生成工程）。情報としては、本実施形態では静止画または動画の画像データとするが、これに限定されず、例えば、音声データ、文字データ等であってもよいし、また、これらのデータのうちの少なくとも１つを含むデータであってもよい。以下では、学習モデル（学習済モデル含む）に基づいて画像データを生成することを「ＡＩ画像生成」と言うことがある。この画像データは、汎用端末１０２に送信される。汎用端末１０２は、ＡＩ画像生成サーバ１０１から送信された画像データに対して、各種の処理を実行可能な装置である。汎用端末１０２としては、特に限定されず、例えば、デスクトップ型やノート型のパーソナルコンピュータ、タブレット端末、スマートフォン等を用いることができる。
（【００１１】以降は省略されています）

関連特許