特許ウォッチ

公開番号2025064453
公報種別公開特許公報(A)
公開日2025-04-17
出願番号2023174233
出願日2023-10-06
発明の名称情報処理システム
出願人トヨタ自動車株式会社
代理人個人,個人,個人
主分類G06F 21/62 20130101AFI20250410BHJP(計算;計数)
要約【課題】消去の権利に係る規定の遵守と、AIの振る舞いの検証との両立を図る。
【解決手段】情報処理システムは、個人を特定可能な情報を含むユーザデータを用いて学習された生成AIによって、生成AIとは異なる演算モデルの学習に用いられ、且つ、個人を特定可能な情報を含まない複数の人工データを生成する生成手段を備える。
【選択図】図1
特許請求の範囲【請求項１】
個人を特定可能な情報を含むユーザデータを用いて学習された生成ＡＩによって、前記生成ＡＩとは異なる演算モデルの学習に用いられ、且つ、個人を特定可能な情報を含まない複数の人工データを生成する生成手段を備える
ことを特徴とする情報処理システム。
続きを表示（約 700 文字）【請求項２】
前記複数の人工データのうち一の人工データと前記ユーザデータとの類似の程度を示す類似度を算出する算出手段と、
前記類似度が所定値以上であるか否かを判定する判定手段と、
前記類似度が前記所定値以上であると判定された場合に、前記一の人工データを削除する削除手段と、
を備えることを特徴とする請求項１に記載の情報処理システム。
【請求項３】
前記ユーザデータ及び前記複数の人工データ各々は、顔を含む画像データであり、
前記ユーザデータ及び前記複数の人工データ各々は、顔に係る一以上の特徴点の座標を示す座標情報を含み、
前記算出手段は、前記ユーザデータに含まれる前記座標情報と、前記一の人工データに含まれる前記座標情報とに基づいて、前記類似度を算出する
ことを特徴とする請求項２に記載の情報処理システム。
【請求項４】
前記複数の人工データのうち、前記ユーザデータとの類似の程度を示す類似度が前記所定値未満である人工データを含むデータベースと、
前記データベースに含まれる人工データを用いて前記演算モデルの学習を行う学習手段と、
を備えることを特徴とする請求項２に記載の情報処理システム。
【請求項５】
前記ユーザデータから、前記ユーザデータの特徴量を抽出する抽出手段と、
前記特徴量を記憶する記憶手段と、
を備え、
前記算出手段は、前記特徴量と前記一の人工データとを用いて前記類似度を算出する
ことを特徴とする請求項２に記載の情報処理システム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理システムの技術分野に関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
この種のシステムとして、例えば、個人情報を隠蔽する場合に、個人情報が付加された画像データを複製し、個人情報を隠蔽して架空被験者として画像データを格納するシステムが提案されている（特許文献１）。
【先行技術文献】
【特許文献】
【０００３】
特開２００９－１１８８８９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
消去の権利（いわゆる、忘れられる権利）に係る規定により、個人から個人データの削除要求があった場合、該個人データを削除しなければならない。ところで、ＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）に係る演算モデルの学習データとして個人データが用いられることがある。学習データは、例えば、ＡＩの振る舞いの検証にも用いられる。個人データの削除要求に起因して、学習データとして個人データが削除されてしまうと、ＡＩの振る舞いの検証が困難になるという技術的問題点がある。
【０００５】
本発明は、上記問題点に鑑みてなされたものであり、消去の権利に係る規定の遵守と、ＡＩの振る舞いの検証との両立を図ることができる情報処理システムを提供することを課題とする。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る情報処理システムは、個人を特定可能な情報を含むユーザデータを用いて学習された生成ＡＩによって、前記生成ＡＩとは異なる演算モデルの学習に用いられ、且つ、個人を特定可能な情報を含まない複数の人工データを生成する生成手段を備えるというものである。
【図面の簡単な説明】
【０００７】
実施形態に係る情報処理システムの一例の概念を示す概念図である。
実施形態に係る判定装置の動作を示すフローチャートである。
実施形態に係る情報処理システムの他の例の概念を示す概念図である。
【発明を実施するための形態】
【０００８】
情報処理システムに係る実施形態について図１を参照して説明する。図１において、情報処理システム１は、生成装置１０、判定装置２０及び学習装置３０を備える。情報処理システム１は、ユーザデータを含むデータベースＤＢ１と、人工データを含むデータベースＤＢ２とを備える。
【０００９】
生成装置１０、判定装置２０、学習装置３０及び抽出装置４０各々は、ハードウェアとして、例えば、演算処理部、記憶部及び通信部を備えていてよい。演算処理部は、例えば、ＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）及びＧＰＵ（ＧｒａｐｈｉｃｓＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）の少なくとも一方を含んでいてよい。記憶部は、例えば、ＲＡＭ（ＲａｎｄｏｍＡｃｃｅｓｓＭｅｍｏｒｙ）、ＲＯＭ（ＲｅａｄＯｎｌｙＭｅｍｏｒｙ）、ハードディスク装置、光磁気ディスク装置、ＳＳＤ（ＳｏｌｉｄＳｔａｔｅＤｒｉｖｅ）、及び、光ディスクアレイのうち少なくとも一つを含んでよい。
【００１０】
生成装置１０は、生成ＡＩ１１を有する。生成ＡＩ１１は、データベースＤＢ１に含まれるユーザデータ（典型的には、複数のユーザデータ）を用いた学習が行われることによって構築された生成ＡＩである。尚、生成ＡＩ１１の構築方法には、既存の各種態様を適用可能である。このため、生成ＡＩ１１の構築方法の詳細についての説明は省略する。
（【００１１】以降は省略されています）

関連特許