特許ウォッチ

公開番号2025140511
公報種別公開特許公報(A)
公開日2025-09-29
出願番号2024039953
出願日2024-03-14
発明の名称情報処理装置
出願人トヨタ自動車株式会社
代理人個人,個人,個人
主分類G05B 23/02 20060101AFI20250919BHJP(制御;調整)
要約【課題】AIモデルの変化を検知する。
【解決手段】情報処理装置は、AIモデルに関する動作を監視する監視手段と、AIモデルに関する動作の監視結果に基づいて、AIモデルに関する動作に、所定の動作から外れた動作が含まれるか否かを判定する判定手段と、を備える。
【選択図】図2
特許請求の範囲【請求項１】
ＡＩモデルに関する動作を監視する監視手段と、
前記ＡＩモデルに関する動作の監視結果に基づいて、前記ＡＩモデルに関する動作に、所定の動作から外れた動作が含まれるか否かを判定する判定手段と、
を備えることを特徴とする情報処理装置。

発明の詳細な説明【技術分野】
【０００１】
本発明は、情報処理装置の技術分野に関する。
続きを表示（約 1,500 文字）【背景技術】
【０００２】
この種の装置で利用されるＡＩ（ＡｒｔｉｆｉｃｉａｌＩｎｔｅｌｌｉｇｅｎｃｅ）モデルとして、例えば、日本語で記載された文章が適切に英訳処理されるように、日本語で記載された文章を書き換えるＡＩモデルが提案されている（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
特開２０１７－１２９９９５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ＡＩモデルがサイバー攻撃を受ける可能性がある。サイバー攻撃の一例として、マルウェアによって、ＡＩモデルが書き換えられること、及び／又は、学習データセットが汚染されること（この結果、ＡＩモデルが意図しない挙動を行う可能性がある）、が挙げられる。他方で、ＡＩモデルがサイバー攻撃を受けたか否かを判定することは困難であるという技術的問題点がある。
【０００５】
本発明は、例えば上記問題点に鑑みてなされたものであり、ＡＩモデルの変化を検知することができる情報処理装置を提供することを課題とする。
【課題を解決するための手段】
【０００６】
本発明の一態様に係る情報処理装置は、ＡＩモデルに関する動作を監視する監視手段と、前記ＡＩモデルに関する動作の監視結果に基づいて、前記ＡＩモデルに関する動作に、所定の動作から外れた動作が含まれるか否かを判定する判定手段と、を備えるというものである。
【図面の簡単な説明】
【０００７】
実施形態に係る情報処理装置の構成の一例を示すブロック図である。
実施形態に係る演算装置の構成の一例を示すブロック図である。
実施形態に係る情報処理装置の動作の一例を示すフローチャートである。
【発明を実施するための形態】
【０００８】
情報処理装置の実施形態について図１乃至図３を参照して説明する。図１において、情報処理装置１００は、演算装置１１０、記憶装置１２０、通信装置１３０、入力装置１４０及び出力装置１５０を備える。演算装置１１０、記憶装置１２０、通信装置１３０、入力装置１４０及び出力装置１５０は、データバス１６０を介して接続されている。尚、情報処理装置１００は、入力装置１４０及び出力装置１５０の少なくとも一方を備えていなくてもよい。
【０００９】
演算装置１１０は、プロセッサ１１０１を有していてよい。尚、演算装置１１０は、プロセッサ１１０１に加えて、他のプロセッサを有していてよい。つまり、演算装置１１０は、一以上のプロセッサを有してよい。プロセッサ１１０１は、例えば、ＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、ＧＰＵ（ＧｒａｐｈｉｃｓＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）、ＦＰＧＡ（ＦｉｅｌｄＰｒｏｇｒａｍｍａｂｌｅＧａｔｅＡｒｒａｙ）、及び、ＴＰＵ（ＴｅｎｓｏｒＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）の少なくとも一つであってよい。
【００１０】
記憶装置１２０は、メモリ１２０１を有していてよい。尚、記憶装置１２０は、メモリ１２０１に加えて、他のメモリを有していてよい。つまり、記憶装置１２０は、１以上のメモリを有していてよい。メモリ１２０１は、例えば、ＲＡＭ（ＲａｎｄｏｍＡｃｃｅｓｓＭｅｍｏｒｙ）、ＲＯＭ（ＲｅａｄＯｎｌｙＭｅｍｏｒｙ）、ハードディスク装置、光磁気ディスク装置、ＳＳＤ（ＳｏｌｉｄＳｔａｔｅＤｒｉｖｅ）、及び、光ディスクアレイのうち少なくとも一つであってよい。
（【００１１】以降は省略されています）

関連特許