特許ウォッチ

公開番号2025133855
公報種別公開特許公報(A)
公開日2025-09-11
出願番号2025112707,2023565786
出願日2025-07-03,2021-12-08
発明の名称サーバ内データ転送装置、サーバ内データ転送方法およびプログラム
出願人NTT株式会社
代理人弁理士法人磯野国際特許商標事務所
主分類G06F 13/10 20060101AFI20250904BHJP(計算;計数)
要約【課題】物理サーバに搭載されたアクセラレータリソースを複数のアプリケーションで使用する際、アクセラレータからアプリケーションへのデータ転送遅延を抑えつつ、データのポーリングに用いるCPUの消費電力を削減する。
【解決手段】アクセラレータを含むデバイスをアプリケーションで使用する際、デバイスからアプリケーションへのデータ転送を行うサーバ内データ転送装置100であって、デバイスの物理キューの代わりとなる仮想キューを用いて、デバイスと、アプリケーションに対応するスレッドとの間の結合を分離し、デバイスに代わって、スレッドからのデータ要求に対応するデータを応答するデバイス擬似部130と、仮想キューと物理キューの間を動的に接続変更するプロキシ部140と、を備える。
【選択図】図1
特許請求の範囲【請求項１】
アクセラレータを含むデバイスをアプリケーションで使用する際、前記デバイスから前記アプリケーションへのデータ転送を行うサーバ内データ転送装置であって、
前記デバイスの物理キューの代わりとなる仮想キューを用いて、前記デバイスと、前記アプリケーションに対応するスレッドとの間の結合を分離し、前記デバイスに代わって、スレッドからのデータ要求に対応するデータを応答するデバイス擬似部と、
前記仮想キューと前記物理キューの間を動的に接続変更するプロキシ部と、を備える
ことを特徴とするサーバ内データ転送装置。
続きを表示（約 830 文字）【請求項２】
前記プロキシ部は、前記デバイスの物理キューの代わりとなる１またはＭ個の仮想キューと、前記デバイスの１またはＮ個の物理キューとの間をＭ：Ｎ（ＮおよびＭは、任意の自然数）の多対多接続する
ことを特徴とする請求項１記載のサーバ内データ転送装置。
【請求項３】
前記プロキシ部は、前記デバイスの物理キューの代わりとなる１または複数個の仮想キューと、前記デバイスの１または複数個の物理キューとの間の接続先を動的に接続変更する
ことを特徴とする請求項１記載のサーバ内データ転送装置。
【請求項４】
アクセラレータを含むデバイスをアプリケーションで使用する際、前記デバイスから前記アプリケーションへのデータ転送を行うサーバ内データ転送装置のサーバ内データ転送方法であって、
前記サーバ内データ転送装置は、
前記デバイスの物理キューの代わりとなる仮想キューを用いて、前記デバイスと、前記アプリケーションに対応するスレッドとの間の結合を分離し、前記デバイスに代わって、スレッドからのデータ要求に対応するデータを応答するステップと、
前記仮想キューと前記物理キューの間を動的に接続変更するステップと、を実行する
ことを特徴とするサーバ内データ転送方法。
【請求項５】
アクセラレータを含むデバイスをアプリケーションで使用する際、前記デバイスから前記アプリケーションへのデータ転送を行うサーバ内データ転送装置としてのコンピュータに、
前記デバイスの物理キューの代わりとなる仮想キューを用いて、前記デバイスと、前記アプリケーションに対応するスレッドとの間の結合を分離し、前記デバイスに代わって、スレッドからのデータ要求に対応するデータを応答する手順、
前記仮想キューと前記物理キューの間を動的に接続変更する手順、
を実行させるためのプログラム。

発明の詳細な説明【技術分野】
【０００１】
本発明は、サーバ内データ転送装置、サーバ内データ転送方法およびプログラムに関する。
続きを表示（約 2,100 文字）【背景技術】
【０００２】
ＮＦＶ（Network Functions Virtualization：ネットワーク機能仮想化）による仮想化技術の進展などを背景に、サービス毎にシステムを構築して運用することが行われている。また、上記サービス毎にシステムを構築する形態から、サービス機能を再利用可能なモジュール単位に分割し、独立した仮想マシン（ＶＭ：Virtual Machineやコンテナなど）環境の上で動作させる。
【０００３】
仮想マシンを構成する技術としてLinux（登録商標）とＫＶＭ（kernel-based virtual machine）で構成されたハイパーバイザー環境が知られている。この環境では、ＫＶＭモジュールが組み込まれたHost OS（物理サーバ上にインストールされたＯＳをHost OSと呼ぶ）がハイパーバイザーとしてカーネル空間と呼ばれるユーザ空間とは異なるメモリ領域で動作する。この環境においてユーザ空間にて仮想マシンが動作し、その仮想マシン内にGuest OS（仮想マシン上にインストールされたＯＳをGuest OSと呼ぶ）が動作する。
【０００４】
Guest OSが動作する仮想マシンは、Host OSが動作する物理サーバとは異なり、（イーサネット（登録商標）カードデバイスなどに代表される）ネットワークデバイスを含むすべてのＨＷ（hardware）が、ＨＷからGuest OSへの割込処理やGuest OSからハードウェアへの書き込みに必要なレジスタ制御となる。このようなレジスタ制御では、本来物理ハードウェアが実行すべき通知や処理がソフトウェアで擬似的に模倣されるため、性能がHost OS環境に比べ、低いことが一般的である。
【０００５】
この性能劣化において、特にGuest OSから自仮想マシン外に存在するHost OSや外部プロセスに対して、ＨＷの模倣を削減し、高速かつ統一的なインターフェイスにより通信の性能と汎用性を向上させる技術がある。この技術として、virtioというデバイスの抽象化技術、つまり準仮想化技術が開発されており、すでにLinux（登録商標）を始め、FreeBSD（登録商標）など多くの汎用ＯＳに組み込まれ、現在利用されている（特許文献１参照）。
【０００６】
virtioでは、コンソール、ファイル入出力、ネットワーク通信といったデータ入出力に関して、転送データの単一方向の転送用トランスポートとして、リングバッファで設計されたキューによるデータ交換をキューのオペレーションにより定義している。そして、virtioのキューの仕様を利用して、それぞれのデバイスに適したキューの個数と大きさをGuest OS起動時に用意することにより、Guest OSと自仮想マシン外部との通信を、ハードウェアエミュレーションを実行せずにキューによるオペレーションだけで実現することができる。
【０００７】
サーバ内のデータ転送技術としてNew API(NAPI)、ＤＰＤＫ（Data Plane Development Kit）、ＫＢＰ（Kernel Busy Poll）がある。
【０００８】
New API(NAPI)は、パケットが到着するとハードウェア割込要求の後、ソフトウェア割込要求によりパケット処理を行う。
【０００９】
ＤＰＤＫは、アプリケーションが動作するユーザスペースでパケット処理機能を実現し、ユーザスペースからpollingモデルでパケット到着時に即時刈取りを行う（非特許文献１参照）。詳細には、ＤＰＤＫは、従来Linux kernel（登録商標）が行っていたＮＩＣ（Network Interface Card）の制御をユーザ空間で行うためのフレームワークである。Linux kernelにおける処理との最大の違いは、ＰＭＤ（Pull Mode Driver）と呼ばれるポーリングベースの受信機構を持つことである。通常、Linux kernelでは、ＮＩＣへのデータの到達を受けて、割込が発生し、それを契機に受信処理が実行される。一方、ＰＭＤは、データ到達の確認や受信処理を専用のスレッドが継続的に行う。コンテキストスイッチや割込などのオーバーヘッドを排除することで高速なパケット処理を行うことができる。ＤＰＤＫは、パケット処理のパフォーマンスとスループットを大幅に高めて、データプレーン・アプリケーション処理に多くの時間を確保することを可能にする。ただし、ＤＰＤＫは、ＣＰＵ（Central Processing Unit）やＮＩＣなどのコンピュータ資源を占有的に使用する。
【００１０】
非特許文献２には、サーバ内ネットワーク遅延制御装置（ＫＢＰ：Kernel Busy Poll）が記載されている。ＫＢＰは、kernel内でpollingモデルによりパケット到着を常時監視する。これにより、softIRQを抑止し、低遅延なパケット処理を実現する。
（【００１１】以降は省略されています）

関連特許