RDMA over APNを用もちいて、100km離はなれた郊外こうがい型がたデータセンターに低てい遅延ちえん／高こう効率こうりつなデータ転送てんそうを実現じつげん

NTT、IOWN APNを活用かつようした高こう効率こうりつな映像えいぞうデータのAI分析ぶんせきを実証じっしょう

2024年ねん02月がつ20日はつか 15時じ00分ふん更新こうしん

文ぶん● 大河原おおかわら克行かつゆき　編集へんしゅう● 大塚おおつか／TECH.ASCII.jp

ツイートする
一覧いちらん

　NTTは2024年ねん2月がつ20日はつか、次世代じせだい通信つうしん基盤きばん技術ぎじゅつの「IOWN（アイオン）」を活用かつようして大だい規模きぼセンサーデータ（映像えいぞうデータ）を郊外こうがい型がたデータセンターでリアルタイムにAI分析ぶんせきする技術ぎじゅつを開発かいはつし、その実証じっしょう実験じっけんの結果けっかを発表はっぴょうした。2026年ねんの商用しょうよう化かを目指めざす。

　同どう技術ぎじゅつは、映像えいぞうのようなリアルタイムデータの分析ぶんせき処理しょりに対たいして、IOWNの「オールフォトニクスネットワーク（APN）」と「IOWNデータセントリック基盤きばん（DCI）」のデータ処理しょり高速こうそく化か手法しゅほうを適用てきようし、大だい規模きぼなGPUリソースを集約しゅうやくした郊外こうがい型がたデータセンターに低ていレイテンシでAI分析ぶんせき処理しょりをオフロードするというもの。

　実証じっしょう実験じっけんでは、センサーデータ（カメラ映像えいぞう）をおよそ100km離はなれたデータセンターにAPN越ごしのRDMA（RDMA over APN）で転送てんそうし、AIによる分析ぶんせき処理しょりを行おこなった。その結果けっか、RDMA over APNを使つかわない従来じゅうらいの手法しゅほうと比くらべて、カメラ映像えいぞうの受信じゅしんからデータセンターでのデータ分析ぶんせき完了かんりょうまでの時間じかんを最大さいだい60％削減さくげん、カメラ1台だいあたりのAI分析ぶんせきに必要ひつような消費しょうひ電力でんりょくを最大さいだい40％削減さくげん、1000台だいのカメラを収容しゅうようする場合ばあいの消費しょうひ電力でんりょくを最大さいだい60％削減さくげんできたとしている。

実証じっしょう実験じっけんの概要がいよう。Red Hat、NVIDIA、富士通ふじつうの協力きょうりょくを受うけて実施じっし

NTTソフトウェアイノベーションセンタシステムソフトウェアプロジェクトグループリーダの榑林（くればやし）亮介りょうすけ氏し

レイテンシや通信つうしんオーバーヘッドを削減さくげんする技術ぎじゅつを適用てきよう

　記者きしゃ説明せつめい会かいでは、NTTソフトウェアイノベーションセンタシステムソフトウェアプロジェクトグループリーダの榑林亮介りょうすけ氏しが、同どう技術ぎじゅつや実証じっしょう実験じっけんの結果けっかについて説明せつめいした。

　センサーから取得しゅとくしたデータのAI分析ぶんせきについては、ワークロードをどこにデプロイ（配置はいち）して動うごかすかという「場所ばしょ」の課題かだいがあると、榑林氏しは説明せつめいする。データの発生はっせい源げん（センサー）に近ちかい場所ばしょならばネットワークのレイテンシは低減ていげんできるが、大だい規模きぼなAI処理しょりを行おこなうインフラの配置はいちは困難こんなんだ。一方いっぽうで、郊外こうがい型がたデータセンターには大だい規模きぼなAI処理しょりインフラが設置せっちできるが、レイテンシが大おおきくなってしまう。こうしたトレードオフの関係かんけいがあった。

　今回こんかいの技術ぎじゅつでは、このネットワークにAPNを採用さいようしてネットワークのレイテンシを抑制よくせいし、さらにRDMAの適用てきようでオーバーヘッドも削減さくげんすることで、従来じゅうらいの課題かだいを解消かいしょうする。

　「郊外こうがい型がたデータセンターには、土地とちの確保かくほや電力でんりょく需給じゅきゅうの観点かんてんでメリットがあり、再生さいせい可能かのうエネルギーも最大限さいだいげん活用かつようできるメリットがある。APNを用もちいることで、AI分析ぶんせきのワークロードを郊外こうがい型がたデータセンターにシフト／集約しゅうやくすることができ、AIモデルの迅速じんそくな更新こうしんやハードウェア拡張かくちょうといった要望ようぼうにも柔軟じゅうなんに対応たいおうできる環境かんきょうが整ととのう。さらにセンサー設置せっち拠点きょてんで取得しゅとくした映像えいぞうデータをデータセンターにあるアクセラレータのメモリ上じょうに、直接ちょくせつ転送てんそうすることで、従来じゅうらいのオーバーヘッドを削減さくげんして、レイテンシの短縮たんしゅくや省しょう電力でんりょく化かを実現じつげんする」（榑林氏し）

郊外こうがい型がたデータセンターはAI分析ぶんせきに適てきしたインフラを構築こうちくしやすい一方いっぽうで、通信つうしんのレイテンシ（遅延ちえん）の課題かだいがあった。APNやRDMAの適用てきようによりその課題かだいを解消かいしょうする

　実証じっしょう実験じっけんでは、NTT横須賀よこすか研究けんきゅう開発かいはつセンタ（神奈川かながわ県けん横須賀よこすか市し）をセンサー設置せっち拠点きょてんに、NTT武蔵野むさしの研究けんきゅう開発かいはつセンタ（東京とうきょう都と武蔵野むさしの市し）を大だい規模きぼGPUリソースを持もつ郊外こうがい型がたデータセンターに見立みたてて、およそ100km離はなれた2つの研究けんきゅう開発かいはつセンタ間あいだをAPNで結むすび、カメラから取得しゅとくした映像えいぞうデータをRDMA over APNを用もちいて転送てんそうした。

　ここでは、IOWN DCIによるデータ処理しょり手法しゅほうも活用かつようして、高速こうそくかつ高こう効率こうりつな映像えいぞう解析かいせきを行おこなっている。従来じゅうらい手法しゅほうでは、CPU（OSカーネル）がTCP/IPなどの通信つうしんプロトコル処理しょりを行おこなったり、CPUとGPUの間あいだでデータ転送てんそうを行おこなったりする段階だんかいで処理しょりのオーバーヘッドが大おおきくなり、これが大だい規模きぼデータの収集しゅうしゅうや分析ぶんせきでは遅延ちえんとボトルネックの要因よういんになっていた。さらに、データの復号ふくごうや推論すいろん前まえ／後ごの処理しょりもCPUで行おこなうケースが多おおく、これを電力でんりょく効率こうりつの高たかいGPUなどのアクセラレータに置おき換かえる仕組しくみにも注目ちゅうもくが集あつまっている。

　今回こんかいの実証じっしょう実験じっけんではSmart NICを活用かつようして、まずセンサー設置せっち拠点きょてんでカメラ映像えいぞうデータを直接ちょくせつメインメモリに展開てんかい。必要ひつような処理しょりを行おこなったうえで、CPUの通信つうしん処理しょりを介かいさずにRDMA over APNでデータセンターにある分析ぶんせきノードにデータを転送てんそうする仕組しくみを実現じつげん。さらに分析ぶんせきノード側がわでは、復号ふくごう／前ぜん処理しょり／推論すいろん／後処理あとしょりをGPUにオフロードして、高こう効率こうりつなAI分析ぶんせきを可能かのうにしている。

　「RDMAを広域こういきネットワークで利用りようすると、ネットワークの遅延ちえんやパケットロスの影響えいきょうを受うけて性能せいのうが出でないという課題かだいがあった。このネットワークにAPNを適用てきようすることで、こうした性能せいのう低下ていかをなくし、高こう効率こうりつのデータ転送てんそうを実現じつげんした」（榑林氏し）

従来じゅうらい技術ぎじゅつによる処理しょりのオーバーヘッドの概要がいよう

今回こんかい実証じっしょうした技術ぎじゅつ。RDMA over APNで映像えいぞうデータをGPUメモリに直接ちょくせつ転送てんそうし、復号ふくごう／前ぜん処理しょり／推論すいろん／後処理あとしょりもCPUからオフロードして、オーバーヘッドの少すくない高こう効率こうりつな処理しょりを実現じつげんした

実証じっしょう実験じっけんの結果けっか（RDMA over APNを使つかわない手法しゅほうとの性能せいのう比較ひかく）

IOWN Global ForumのユースケースPoCとして実施じっし

　今回こんかいの実証じっしょう実験じっけんは、IOWN Global ForumのPoCリファレンスのひとつ「CPSエリアマネジメントユースケースPoC」として取とり組くまれたものだ。

　IOWN Global Forumは、2020年ねん1月がつに、NTT、インテル、ソニーが設立せつりつした非ひ営利えいり団体だんたいで、新規しんき技術ぎじゅつやフレームワーク、技術ぎじゅつ仕様しよう、リファレンスアーキテクチャの開発かいはつを通つうじて、IOWNによる新あらたなコミュニケシーョン基盤きばんの実現じつげんを目指めざしており、現在げんざい、アジア、欧米おうべいなどから138の組織そしき、団体だんたいが参加さんかしている。

　「IOWN Global Forumが発行はっこうしたユースケースや技術ぎじゅつ文書ぶんしょをもとに、メンバー企業きぎょうが協力きょうりょくしてPoCを推進すいしんしており、議論ぎろんしている技術ぎじゅつが、具体ぐたい的てきなシステムとして、商用しょうよう化かに向むけて進展しんてんしていることが示しめされている。技術ぎじゅつの実施じっし可能かのう性せい、有効ゆうこう性せいを実証じっしょうすることで、産業さんぎょう界かいへのアピールや、ビジネス機会きかいの創出そうしゅつ、デファクト化かへの足あしがかりにしていくほか、さらなる技術ぎじゅつ課題かだいの発見はっけんと議論ぎろんを通つうじた技術ぎじゅつの改善かいぜんを図はかっていく」（榑林氏し）

IOWN Global Forumではメンバー企業きぎょうによるPoCを推進すいしんしている。これまで10のPoCリファレンスが発行はっこうされており、今回こんかいの実証じっしょう実験じっけんはその1つ

　CPSエリアマネジメントユースケースPoCは、スマートシティのユースケースを題材だいざいとしたものであり、大だい規模きぼ映像えいぞう推論すいろんとデータ共有きょうゆうにおけるIOWN技術ぎじゅつの適用てきようが対象たいしょうとなっている。今回こんかいの実証じっしょう実験じっけんには、Red HatやNVIDIA、富士通ふじつうが協力きょうりょくした。とくにRed Hatでは、「Red Hat OpenShift」により、アクセラレータの活用かつように必要ひつような環境かんきょう設定せっていを自動じどう化かし、複雑ふくざつ性せいの排除はいじょやワークロードの柔軟じゅうなんな配備はいびを実現じつげんしたという。

　榑林氏しは今後こんごの方針ほうしんとして、NTTの光ひかり電でん融合ゆうごう技術ぎじゅつを組くみ合あわせ、さらなる電力でんりょく効率こうりつの向上こうじょうを図はかり、カーボンニュートラルの実現じつげんに向むけた貢献こうけんをしていくと述のべた。さらに、RDMAを用もちいた高こう効率こうりつデータ転送てんそう距離きょりの長延ちょうえん化かにも取とり組くむという。

　NTTでは、2006年ねんに同どう技術ぎじゅつを商用しょうよう化かすることを目指めざしており、AWSをはじめとする大だい規模きぼデータセンターでの活用かつようや、NTTグループのデータセンター、新あらたな郊外こうがい型がたデータセンターへの適用てきようなどを図はかっていく。

　なお、今回こんかいの実証じっしょうの成果せいかは、スペイン・バルセロナで開催かいさいされる「MWC Barcelona」のIOWN Global Forumセッションで発表はっぴょうされるほか、IOWN Global Forumの参加さんか企業きぎょうを対象たいしょうにPoCレポートとして公開こうかいする。また、2025年ねんに開催かいさいされる大阪おおさか・関西かんさい万博ばんぱくのNTTパビリオンにおけるIOWNコンピューティングの一部いちぶとして適用てきようする予定よていも明あきらかにした。