特許ウォッチ

公開番号2025129587
公報種別公開特許公報(A)
公開日2025-09-05
出願番号2024026315
出願日2024-02-26
発明の名称情報処理装置
出願人トヨタ自動車株式会社
代理人個人,個人,個人
主分類G06F 21/64 20130101AFI20250829BHJP(計算;計数)
要約【課題】AIモデルの変化を検知する。
【解決手段】情報処理装置は、AIモデルに係るハッシュ値を算出する算出手段と、AIモデルに関するモデル情報を含むトランザクションデータから、モデル情報の少なくとも一部としての、AIモデルに係るハッシュ値を取得する取得手段と、算出されたハッシュ値と、取得されたハッシュ値とが同一であるか否かを判定する判定手段と、を備える。
【選択図】図2
特許請求の範囲【請求項１】
ＡＩモデルに係るハッシュ値を算出する算出手段と、
分散型台帳に登録された、前記ＡＩモデルに関するモデル情報から、前記ＡＩモデルに係るハッシュ値を取得する取得手段と、
前記算出されたハッシュ値と、前記取得されたハッシュ値とが同一であるか否かを判定する判定手段と、
を備えることを特徴とする情報処理装置。
続きを表示（約 240 文字）【請求項２】
前記算出されたハッシュ値と、前記取得されたハッシュ値とが同一ではないと判定された場合に、警告を発する警告手段を備える
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記算出されたハッシュ値と、前記取得されたハッシュ値とが同一ではないと判定された場合に、前記ＡＩモデルを、前記ＡＩモデルのバックアップとしてのバックアップモデルに置き換える復元手段を備える
ことを特徴とする請求項１又は２に記載の情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置の技術分野に関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
この種の装置で利用されるＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）モデルとして、例えば、日本語で記載された文章が適切に英訳処理されるように、日本語で記載された文章を書き換えるＡＩモデルが提案されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
特開２０１７－１２９９９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ＡＩモデルがサイバー攻撃を受ける可能性がある。サイバー攻撃の一例として、マルウェアによって、ＡＩモデルが書き換えられること、及び／又は、学習データセットが汚染されること（この結果、ＡＩモデルが意図しない挙動を行う可能性がある）、が挙げられる。他方で、ＡＩモデルがサイバー攻撃を受けたか否かを判定することは困難であるという技術的問題点がある。
【０００５】
本発明は、例えば上記問題点に鑑みてなされたものであり、ＡＩモデルの変化を検知することができる情報処理装置を提供することを課題とする。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る情報処理装置は、ＡＩモデルに係るハッシュ値を算出する算出手段と、分散型台帳に登録された、前記ＡＩモデルに関するモデル情報から、前記ＡＩモデルに係るハッシュ値を取得する取得手段と、前記算出されたハッシュ値と、前記取得されたハッシュ値とが同一であるか否かを判定する判定手段と、を備えるというものである。
【図面の簡単な説明】
【０００７】
実施形態に係る情報処理装置の構成の一例を示すブロック図である。
実施形態に係る演算装置の構成の一例を示すブロック図である。
実施形態に係る情報処理装置の動作を示すフローチャートである。
実施形態に係る演算装置の構成の他の例を示すブロック図である。
実施形態に係る情報処理装置の動作の他の例を示すフローチャートである。
【発明を実施するための形態】
【０００８】
＜第１実施形態＞
情報処理装置の第１実施形態について図１乃至図３を参照して説明する。図１において、情報処理装置１００は、演算装置１１０、記憶装置１２０、通信装置１３０、入力装置１４０及び出力装置１５０を備える。演算装置１１０、記憶装置１２０、通信装置１３０、入力装置１４０及び出力装置１５０は、データバス１６０を介して接続されている。尚、情報処理装置１００は、入力装置１４０及び出力装置１５０の少なくとも一方を備えていなくてもよい。
【０００９】
演算装置１１０は、プロセッサ１１０１を有していてよい。尚、演算装置１１０は、プロセッサ１１０１に加えて、他のプロセッサを有していてよい。つまり、演算装置１１０は、一以上のプロセッサを有してよい。尚、プロセッサ１１０１は、マルチコアプロセッサであってよい。演算装置１１０が、マルチコアプロセッサである単一のプロセッサ１１０１を有する場合、演算装置１１０は、論理的には、複数のプロセッサを有していると言える。
【００１０】
プロセッサ１１０１は、例えば、ＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、ＧＰＵ（ＧｒａｐｈｉｃｓＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、ＦＰＧＡ（ＦｉｅｌｄＰｒｏｇｒａｍｍａｂｌｅＧａｔｅＡｒｒａｙ）、及び、ＴＰＵ（ＴｅｎｓｏｒＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）の少なくとも一つであってよい。
（【００１１】以降は省略されています）

関連特許