近年、AIやセンサー技術、ネットワークアーキテクチャの進展が続いており、いずれはAI分析によるネットワークエッジでの判断／トリアージが不可欠になりそうだ。大規模なAI分析だと、時間や費用のかかる複雑なものになることがある。AI分析をエッジに近いところで実行すれば、使用できる帯域が増え、待ち時間が短くなり、イノベーションの可能性も広げることができる。

NTTは こうした機能の提供を目指し、レッドハット、NVIDIA、富士通の協力のもと、IOWN（Innovative Optical and Wireless Network）構想の一環として、エッジでのリアルタイムなAIデータ分析の可能性を高める技術を開発した。本AI分析基盤の実証実験を行い、消費電力を大幅に削減しながら低遅延でエッジAI分析を処理できることを確認したという。

本AI分析基盤は「IOWN Global Forum」（IOWN GF）が開発した各種の技術を活用し、Red Hat OpenShift上に構築したもので、本実証実験は、IOWN GFから実用性が認められたPoCに認定されている。

具体的には、IOWNオールフォトニクス・ネットワーク（APN）およびIOWNデータセントリック基盤（DCI）のデータ処理高速化手法を活用している。AI向けに高速化したNTTのデータパイプラインにRDMA over APNを適用、センサーデータの収集とエッジ環境での処理を行った。

また、レッドハットのコンテナオーケストレーション基盤を使用。データ処理高速化が適用されたワークロードを、郊外型データセンターをはじめとする複数サイトに、柔軟かつ容易に配備できるようにしている。「当社からはRed Hat OpenShiftを提供することで、NTTが目指しているリアルタイムかつ制約のない、大規模なAIデータ分析を支援します」とレッドハットのグローバルエンジニアリング担当SVPとIOWNの理事を兼務するChris Wright（クリス・ライト）氏が述べている。

また、本AI分析基盤は、将来的に企業の持続可能な成長に資すべきAI主導のツール、テクノロジーの土台となるものでもある。OWNの会長を務めるNTTの川添雄彦代表取締役副社長は「私たちはIOWN構想によって、ネットゼロの持続可能な未来の実現を目指しています」と述べている。

例えば、大規模な企業データの収集に伴うオーバーヘッドが抑えられ、収集したデータを大都市圏内と郊外型のデータセンター間で高速転送することが可能になり、郊外に供給される再生可能エネルギーを活用でき、エリアセキュリティを強化することが可能だ。

消費電力と待ち時間を低減

本実証実験では、NVIDIA A100 TensorコアGPUとNVIDIA ConnectX-6 NICを使用したAI推論を行った。横須賀市のセンサー設置拠点（カメラ、センサーを設置）と武蔵野市の郊外データセンターをAPNで接続、AI分析基盤を評価している。

APNで接続することで、多くのカメラ接続を模擬した状態でも、センサーデータの集約からAI分析が完了するまでの待ち時間を従来との比較で60％削減した。

「こうした結果は、世界中の企業が持続可能で革新的なAI対応ソリューションを構築できることを証明するものです」とレッドハットのWright氏が述べている。

また、エッジ（郊外型データセンター）でのAI分析に要するカメラ1台当たりの消費電力を、最大で40％削減した。さらに、GPUの数を増設することで、CPUボトルネックを生じさせることなく、多くのカメラを収容できるという。1,000台のカメラの収容を想定した見積りでは、最大60%の消費電力削減を見込めるとした。

同ソリューションでは富士通のCDI（Composable Disaggregated Infrastructure）基盤も利用し、パフォーマンスと効率を向上させている。「富士通は（CDIの）コンポーザビリティを提供し、パフォーマンスと電力効率を高めています。コンピューティングインフラ『IOWN』の実現を目指し、貢献を続けています」富士通でSVPを務める坂井賢一氏が述べている。「今回のPoCの結果、2026年の商用化に向けてIOWNの実現可能性が高まっていること、IOWNがAIの応用に向けた可能性を秘めていることが実証されました」と語った。
Red Hat, Nvidia, NTT, Fujitsu power AI analysis at the edge