AI is transforming industries, enterprises, and consumer experiences in new ways. Generative AI models are moving towards reasoning,
agentic AI
is enabling new outcome-oriented workflows and
physical AI
is enabling endpoints like cameras, robots, drones, and cars to make decisions and interact in real time.
The common glue between all these use cases is the need for pervasive, reliable, secure, and super-fast connectivity.
Telecommunication networks must prepare for this new kind of AI traffic, which can come directly through the fronthaul wireless access network or backhauled from the public or private cloud as a completely standalone AI inferencing traffic generated by enterprise applications.
Local wireless infrastructure offers an ideal place to process AI inferencing. This is where a new approach to telco networks, AI radio access network (
AI-RAN
), stands out.
Traditional CPU or ASIC-based RAN systems are designed only for RAN use and cannot process AI traffic today. AI-RAN enables a common GPU-based infrastructure that can run both wireless and AI workloads concurrently, turning networks from single-purpose to multi-purpose infrastructures and turning sites from cost-centers to revenue sources.
With a strategic investment in the right kind of technology, telcos can leap forward to become the AI grid that facilitates the creation, distribution, and consumption of AI across industries, consumers, and enterprises. This moment in time presents a massive opportunity for telcos to build a fabric for AI training (creation) and AI inferencing (distribution) by repurposing their central and distributed infrastructures.
SoftBank and NVIDIA fast-forward AI-RAN commercialization
SoftBank has turned the AI-RAN vision into reality, with its
successful outdoor field trial
in Fujisawa City, Kanagawa, Japan, where NVIDIA-accelerated hardware and
NVIDIA Aerial
software served as the technical foundation.
This achievement marks multiple steps forward for AI-RAN commercialization and provides real proof points addressing industry requirements on technology feasibility, performance, and monetization:
World’s first outdoor 5G AI-RAN field trial running on an NVIDIA-accelerated computing platform. This is an end-to-end solution based on a full-stack, virtual 5G RAN software integrated with 5G core.
Carrier-grade virtual RAN performance achieved.
AI and RAN multi-tenancy and orchestration achieved.
Energy efficiency and economic benefits validated compared to existing benchmarks.
A new solution to unlock AI marketplace integrated on an AI-RAN infrastructure.
Real-world AI applications showcased, running on an AI-RAN network.
Above all, SoftBank aims to commercially release their own AI-RAN product for worldwide deployment in 2026.
To help other mobile network operators get started on their AI-RAN journey now, SoftBank is also planning to offer a reference kit comprising the hardware and software elements required to trial AI-RAN in a fast and easy way.
End-to-end AI-RAN solution and field results
SoftBank developed their AI-RAN solution by integrating hardware and software components from NVIDIA and ecosystem partners and hardening them to meet carrier-grade requirements. Together, the solution enables a full 5G vRAN stack that is 100% software-defined, running on NVIDIA GH200 (CPU+GPU), NVIDIA Bluefield-3 (NIC/DPU), and Spectrum-X for fronthaul and backhaul networking. It integrates with 20 radio units and a 5G core network and connects 100 mobile UEs.
The core software stack includes the following components:
SoftBank-developed and optimized 5G RAN Layer 1 functions such as channel mapping, channel estimation, modulation, and forward-error-correction, using
NVIDIA Aerial CUDA-Accelerated-RAN
libraries
Fujitsu software for Layer 2 functions
Red Hat’s OpenShift Container Platform (OCP) as the container virtualization layer, enabling different types of applications to run on the same underlying GPU computing infrastructure
A SoftBank-developed E2E AI and RAN orchestrator, to enable seamless provisioning of RAN and AI workloads based on demand and available capacity
The underlying hardware is the
NVIDIA GH200 Grace Hopper Superchip
, which can be used in various configurations from distributed to centralized RAN scenarios. This implementation uses multiple GH200 servers in a single rack, serving AI and RAN workloads concurrently, for an aggregated-RAN scenario. This is comparable to deploying multiple traditional RAN base stations.
In this pilot, each GH200 server was able to process 20 5G cells using 100-MHz bandwidth, when used in RAN-only mode. For each cell, 1.3 Gbps of peak downlink performance was achieved in ideal conditions, and 816Mbps was demonstrated with carrier-grade availability in the outdoor deployment.
AI-RAN multi-tenancy achieved
One of the first principles of AI-RAN technology is to be able to run RAN and AI workloads concurrently and without compromising carrier-grade performance. This multi-tenancy can be either in time or space: dividing the resources based on time of day or based on percentage of compute. This also implies the need for an orchestrator that can provision, de-provision, or shift workloads seamlessly based on available capacity.
At the Fujisawa City trial, concurrent AI and RAN processing was successfully demonstrated over GH200 based on static allocation of resources between RAN and AI workloads (Figure 1).
Figure 1. AI and RAN concurrency and total GPU utilization
Each NVIDIA GH200 server constitutes multiple MIGs (Multi-Instance GPU), that enable a single GPU to be divided into multiple isolated GPU instances. Each instance has its own dedicated resources, such as memory, cache, and compute cores, and can operate independently.
The SoftBank orchestrator intelligently assigns whole GPUs or some MIGs within a GPU to run AI and some to run RAN workloads and switches them dynamically when needed. It is also possible to statically allocate a certain percentage of compute for RAN and AI, for example, 60% for RAN and 40% for AI instead of demand-based allocation.
The goal is to maximize capacity utilization. With AI-RAN, telcos can achieve almost 100% utilization compared to 33% capacity utilization for typical RAN-only networks. This is an increase of up to 3x while still catering to peak RAN loads, thanks to dynamic orchestration and prioritization policies.
Enabling an AI-RAN marketplace
With a new capacity for AI computing now available on distributed AI-RAN infrastructure, the question arises of how to bring AI demand to this AI computing supply.
To solve this, SoftBank used a serverless API powered by NVIDIA AI Enterprise to deploy and manage AI workloads on AI-RAN, with security, scale, and reliability. The NVIDIA AI Enterprise serverless API is hosted on the AI-RAN infrastructure and integrated with the SoftBank E2E AI-RAN orchestrator. It connects to any public or private cloud running the same API, to dispatch external AI inferencing jobs to the AI-RAN server when compute is available (Figure 2).
Figure 2. AI marketplace solution integrated with SoftBank AI-RAN
This solution enables an AI marketplace, helping SoftBank deliver localized, low-latency, secured inferencing services. It also demonstrated the importance of AI-RAN in helping telcos become the AI distribution grid, particularly for external AI inferencing jobs, and opened a new revenue opportunity.
AI-RAN applications showcased
In this outdoor trial, new edge AI applications developed by SoftBank were demonstrated over the live AI-RAN network:
Remote support of autonomous vehicles over 5G
Factory multi-modal AI applications
Robotics applications
Remote support of autonomous vehicles over 5G
The key requirements of the social implementation of autonomous driving are vehicle safety and reducing operational costs.
At the Fujisawa City trial, SoftBank demonstrated an autonomous vehicle, relaying its front camera video using 5G to an AI-based remote support service hosted on the AI-RAN server. Multi-modal AI models analyzed the video stream, did risk assessment, and sent recommended actions to autonomous vehicles using text over 5G.
This is an example of explainable AI as well, as all the actions of the autonomous vehicle could be monitored and explained through summarized text and logging for remote support.
Factory multi-modal AI applications
In this use case, multi-modal inputs including video, audio, and sensor data, are streamed using 5G into the AI-RAN server. Multiple LLMs, VLMs, retrieval-augmented generation (RAG) pipelines, and NVIDIA NIM microservices hosted on the AI-RAN server are used to coalesce these inputs and make the knowledge accessible through a chat interface to users using 5G.
This fits well for factory monitoring, construction site inspections, and similar complex indoor and outdoor environments. The use case demonstrates how edge AI-RAN enables local data sovereignty by keeping data access and analysis local, secure, and private, which is a mandatory requirement of most enterprises.
Robotics applications
SoftBank demonstrated the benefit of edge AI inferencing for a robot connected over 5G. A robodog was trained to follow a human based on voice and motion.
The demo compared the response time of the robot when the AI inferencing was hosted on the local AI-RAN server to when it was hosted on the central cloud. The difference was apparent and obvious. The edge-based inference robodog followed the human’s movements instantly, while the cloud-based inference robot struggled to keep up.
Accelerating the AI-RAN business case with the Aerial RAN Computer-1
While the AI-RAN vision has been embraced by the industry, the energy efficiency and economics of GPU-enabled infrastructure remain key requirements, particularly how they compare to traditional CPU– and ASIC-based RAN systems.
With this live field trial of AI-RAN, SoftBank and NVIDIA have not only proven that GPU-enabled RAN systems are feasible and high-performant, but they are also significantly better in energy efficiency and economic profitability.
NVIDIA recently announced the
Aerial RAN Computer-1
based on the next-generation NVIDIA Grace Blackwell superchips as the recommended AI-RAN deployment platform. The goal is to migrate SoftBank 5G vRAN software from NVIDIA GH200 to NVIDIA Aerial RAN Computer-1 based on GB200-NVL2, which is an easier shift given the code is already CUDA-ready.
With
GB200-NVL2
, the available compute for AI-RAN will increase by a factor of 2x. The AI processing capabilities will improve by 5x for Llama-3 inferencing, 18x for data processing, and 9x for vector database search compared to prior H100 GPU systems.
For this evaluation, we compared the target deployment platform, Aerial RAN Computer-1 based on GB200 NVL2, with the latest generation of x86 and the best-in-class custom RAN product benchmarks and validated the following findings:
Accelerated AI-RAN offers best-in-class AI performance
Accelerated AI-RAN is sustainable RAN
Accelerated AI-RAN is highly profitable
Accelerated AI-RAN offers best-in-class AI performance
In 100% AI-only mode, each GB200-NVL2 server generates 25000 tokens/second, which translates to $20/hr of available monetizable compute per server, or $15K/month per server.
Keeping in mind that the average revenue per user (ARPU) of wireless services today ranges between $5–50/month depending on the country, AI-RAN opens a new multi-billion-dollar AI revenue opportunity that is orders of magnitude higher than revenues from RAN-only systems.
The token AI workload used is Llama-3-70B FP4, showcasing that AI-RAN is already capable of running the world’s most advanced LLM models.
Accelerated AI-RAN is sustainable RAN
In 100% RAN-only mode, GB200-NVL2 server power performance in Watt/Gbps shows the following benefits:
40% less power consumption than the best-in-class custom RAN-only systems today
60% less power consumption than x86-based vRAN
For an even comparison, this assumes the same number of 100-MHz 4T4R cells and 100% RAN-only workload across all platforms.
Figure 3. RAN power consumption and performance (watt/Gbps)
Accelerated AI-RAN is highly profitable
For this evaluation, we used the scenario of covering one district in Tokyo with 600 cells as the common baseline for RAN deployment for each of the three platforms being compared. We then looked at multiple scenarios for AI and RAN workload distribution, ranging from RAN-only to RAN-heavy or AI-heavy.
In the AI-heavy scenario (Figure 4), we used a one-third RAN and two-third AI workload distribution:
For every dollar of CapEx investment in accelerated AI-RAN infrastructure based on NVIDIA GB200 NVL2, telcos can generate 5x the revenue over 5 years.
From an ROI perspective, the overall investment delivers a 219% return, considering all CapEx and OpEx costs.This is of course specific to SoftBank, as it uses local country costs assumptions.
Figure 4. AI-RAN economics for covering one Tokyo district with 600 cells
33% AI and 67% RAN
67% AI and 33% RAN
$ of revenue per $ of CapEx
2x
5x
ROI %
33%
219%
Table 1. AI-heavy scenario compared to RAN-heavy results
In the RAN-heavy scenario, we used two-thirds RAN and one-third AI workload distribution and found that revenue divided by CapEx for NVIDIA-accelerated AI-RAN is 2x, with a 33% ROI over 5 years, using SoftBank local cost assumptions.
In the RAN-only scenario, NVIDIA Aerial RAN Computer-1 is more cost-efficient than custom RAN-only solutions, which underscores the benefits of using accelerated computing for radio signal processing.
From these scenarios, it is evident that AI-RAN is highly profitable as compared to RAN-only solutions, in both AI-heavy and RAN-heavy modes. In essence, AI-RAN transforms traditional RAN from a cost center to a profit center.
The profitability per server improves with higher AI use. Even in RAN-only, AI-RAN infrastructure is more cost-efficient than custom RAN-only options.
Key assumptions used for the revenue and TCO calculations include the following:
The respective number of platforms, servers, and racks for each platform are calculated using a common baseline of deploying 600 cells on the same frequency, 4T4R.
The total cost of ownership (TCO) is calculated over 5 years and includes the cost of hardware, software, and vRAN and AI operating costs.
For the new AI revenue calculation, we used $20/hr/server based on GB200 NVL2 AI performance benchmarks.
OpEx costs are based on local Japan power costs and aren’t extensible worldwide.
ROI % = (new AI revenues – TCO) / TCO
This validation of AI revenue upside, energy efficiency, and profitability of AI-RAN leaves no doubts about the feasibility, performance, and economic benefits of the technology.
Going forward, exponential gains with each generation of NVIDIA superchips, such as Vera Rubin, will multiply these benefits by orders of magnitude further, enabling the much-awaited business transformation of telco networks.
Looking ahead
SoftBank and NVIDIA are
continuing to collaborate
toward the commercialization of AI-RAN and bringing new applications to life. The next phase of the engagements will entail work on AI-for-RAN to improve spectral efficiency and on NVIDIA Aerial Omniverse digital twins to simulate accurate physical networks in the digital world for fine-tuning and testing.
NVIDIA AI Aerial lays the foundation for operators and ecosystem partners globally to use the power of accelerated computing and software-defined RAN + AI to transform 5G and 6G networks. You can now use NVIDIA Aerial RAN Computer-1 and AI Aerial software libraries to develop your own implementation of AI-RAN.
NVIDIA AI Enterprise is also helping create new AI applications for telcos, hostable on AI-RAN, as is evident from this trial where many NVIDIA software toolkits have been used. This includes NIM microservices for generative AI, RAG, VLMs, NVIDIA Isaac for robotics training, NVIDIA NeMo, RAPIDS, NVIDIA Triton for inferencing, and a serverless API for AI brokering.
The telecom industry is at the forefront of a massive opportunity to become an AI service provider. AI-RAN can kickstart this new renaissance for telcos worldwide, using accelerated computing as the new foundation for wireless networks.
This announcement marks a breakthrough moment for AI-RAN technology, proving its feasibility, carrier-grade performance, superior energy efficiency, and economic value. Every dollar of CapEx invested in NVIDIA-accelerated AI-RAN infrastructure generates 5x revenues, while being 6G-ready.
The journey to AI monetization can start now.
Reading Time:
4
minutes
AI は、業界、企業、消費者の体験を新しい方法で変革しています。 生成 AI モデルは推論に移行し、
エージェント型 AI
は新しい結果重視のワークフローを可能にし
フィジカル AI
により、カメラ、ロボット、ドローン、自動車などのエンドポイントがリアルタイムで意思決定を行い、対話できるようになります。
これらのユース ケースに共通するのは、普及し、信頼性が高く、安全で、超高速な接続が必要であることです。
通信ネットワークは、フロントホール無線アクセス ネットワークを介して直接送信されるか、エンタープライズ アプリケーションによって生成されるパブリック クラウドまたはプライベート クラウドからのバックホールからの完全にスタンドアロンの AI 推論トラフィックのような新しい種類の AI トラフィックに備える必要があります。
ローカル ワイヤレス インフラストラクチャは、AI 推論を処理するのに最適な場所を提供します。 これは、通信会社 ネットワークに対する新しいアプローチである AI 無線アクセス ネットワーク (
AI-RAN
) の特徴です。
従来の CPU または ASIC ベースの RAN システムは、RAN のみのために設計されており、現在では AI トラフィックを処理できません。 AI-RAN は、ワイヤレスと AI のワークロードを同時に実行できる共通の GPU ベースのインフラストラクチャを提供します。これにより、ネットワークを単一目的から多目的インフラストラクチャに変え、コスト センターからプロフィット センターに変えられます。
適切な種類のテクノロジに戦略的投資を行うことで、通信会社は業界、消費者、企業にわたって AI の作成、配信、使用を容易にする、 AI グリッドへと飛躍することができます。今が通信会社にとって、中央集中的で分散されたインフラストラクチャを再利用することで、AI トレーニング (作成) と AI 推論 (配信) のためのファブリックを構築する大きな機会となります。
SoftBank と NVIDIA が AI-RANの商用化を進める
SoftBank は、NVIDIA アクセラレーション ハードウェアと NVIDIA Aerial ソフトウェアを技術基盤として活用し、
神奈川県藤沢市で屋外
フィールド トライアルを成功させ、
AI-RAN ビジョンを
現実のものにしました。
この達成は、AI-RAN の商用化に向けた大きな前進であり、テクノロジの実現性、パフォーマンス、収益化に関する業界の要件に対応する実証ポイントを提供します。
NVIDIA のアクセラレーテッド コンピューティング プラットフォームで実行される世界初の屋外 5G AI-RAN フィールド トライアル。 これは、5G コアと統合されたフルスタックの仮想 5G RAN ソフトウェアに基づくエンドツーエンドのソリューションです。
キャリア グレードの仮想 RAN のパフォーマンスを実現。
AI と RAN のマルチテナントとオーケストレーションを実現。
エネルギー効率と経済的なメリットが、既存のベンチマークと比較して検証されました。
AI-RAN インフラストラクチャに統合された AI マーケットプレイスを提供する新しいソリューション。
AI-RAN ネットワークで実行される実際の AI アプリケーションが紹介されます。
何よりも、SoftBank は、世界中に展開するために、独自の AI-RAN 製品を商業的にリリースすることを目指しています。
他の通信事業者が今すぐ AI-RAN の導入を支援するために、SoftBank は、AI-RAN を試用するために必要なハードウェアとソフトウェアの要素で構成されたリファレンス キットを、簡単かつ迅速に提供する予定です。
エンドツーエンドの AI-RAN ソリューションとフィールド トライアルの結果
SoftBank は、NVIDIA とエコシステム パートナーのハードウェアとソフトウェア コンポーネントを統合し、キャリアグレードの要件を満たすように強化することで、AI-RAN ソリューションを開発しました。 このソリューションは、NVIDIA GH200 (CPU+GPU)、NVIDIA Bluefield-3 (NIC/DPU)、フロントホールおよびバックホール ネットワーキング用の Spectrum-X で実行される 100% ソフトウェア デファインドの完全な 5G vRAN スタックが実現します。 20 台の無線ユニットと 5G コア ネットワークを統合し、100 台のモバイル UE を接続します。
コア ソフトウェア スタックには、以下のコンポーネントが含まれています。
SoftBank が
NVIDIA Aerial CUDA-Accelerated-RAN
ライブラリを使用して、 5G RAN レイヤー 1 のチャネル マッピング、チャネル推定、変調、前方エラー訂正などの機能を開発し、最適化しました。
レイヤー 2 機能向け Fujitsu ソフトウェア
コンテナーの仮想化レイヤーとしての Red Hat の OpenShift Container Platform (OCP) により、同じ基盤となる GPU コンピューティング インフラストラクチャで異なるタイプのアプリケーションが実行されます
SoftBank が開発した E2E、AI と RAN オーケストレーター。需要と使用可能な容量に基づいて RAN と AI のワークロードのシームレスなプロビジョニングを可能にします。
基盤となるハードウェアは、
NVIDIA GH200 Grace Hopper Superchip
であり、分散型から集中型 RAN シナリオまで、さまざまな構成で使用できます。 この実装では、集約された RAN のシナリオのために、1 つのラックで複数の GH200 サーバーを使用し、AI と RAN のワークロードを同時に処理します。 これは、従来の RAN 基地局を複数展開するのに相当します。
このパイロットでは、RAN のみのモードで使用された場合、各 GH200 サーバーは、100 MHz 帯域幅で 20 個の 5G セルを処理することができました。 各セルでは、理想的な条件下で 1.3 Gbps のピーク ダウンリンク性能が達成され、屋外展開ではキャリアグレードの可用性で 816 Mbps が実証されました。
AI-RAN のマルチテナントを実現
AI-RAN テクノロジの第一の原則の 1 つは、キャリアグレードのパフォーマンスを損なうことなく、RAN と AI のワークロードを同時に実行できることです。 このマルチテナントは、時間または空間のいずれかで実行でき、時間帯またはコンピューティングの割合に基づいてリソースを分割します。 また、これは、使用可能な容量に基づいて、ワークロードをシームレスにプロビジョニング、プロビジョニングの解除、シフトできるオーケストレーターの必要性も意味します。
藤沢市の実証実験では、RAN と AI ワークロード間のリソースの静的割り当てに基づいて、GH200 上での AI と RAN の同時処理が実証されました。 (図 1)。
図 1. AI と RAN の同時処理と GPU の合計使用率
各 NVIDIA GH200 サーバーは、複数の MIG (マルチインスタンス GPU) で構成され、1 つの GPU を複数の独立した GPU インスタンスに分割できます。 各インスタンスには、メモリ、キャッシュ、コンピューティング コアなど、独自の専用リソースがあり、独立して動作できます。
SoftBank オーケストレーターは、AI を実行するために GPU 全体または GPU の一部をインテリジェントに割り当て、RAN のワークロードを実行し、必要に応じて動的に切り替えます。 需要に基づく割り当てではなく、RAN と AI に一定の割り当てを、RAN に 60% と AI に 40% のコンピューティングを静的に割り当てることもできます。
目標は、容量使用率を最大化することです。 AI-RAN を使用すると、通信会社は、通常の RAN のみのネットワークでの 33% の容量使用率と比較して、ほぼ 100% の使用率を実現できます。 これは、動的なオーケストレーションと優先順位付けポリシーのおかげで、ピークの RAN の負荷に対応しながら、最大 3 倍の増加です。
AI-RAN マーケットプレイスの実現
分散型 AI-RAN インフラストラクチャで AI コンピューティングの新しい機能が利用できるようになったため、この AI コンピューティングの供給に AI の需要をどのように取り込むかという疑問が生じます。
この問題を解決するために、SoftBank は、NVIDIA AI エンタープライズ を活用したサーバーレス API を使用して、セキュリティ、拡張性、信頼性を備えて AI-RAN で AI ワークロードを展開し、管理しました。 NVIDIA AI エンタープライズのサーバーレス API は、AI-RAN インフラストラクチャでホストされ、SoftBank E2E AI-RAN オーケストレーターと統合されています。 同じ API を実行するパブリック クラウドまたはプライベート クラウドに接続し、コンピューティングが利用可能になったときに、外部の AI 推論ジョブを AI-RAN サーバーに割り当てます (図 2)。
図 2. SoftBank AI-RAN と統合された AI マーケットプレイス ソリューション
このソリューションにより AI マーケットプレイスが実現し、ソフトバンクはローカライズされた低遅延の安全な推論サービスを提供できるようになります。  また、特に外部の AI 推論の仕事のために、通信会社が AI 配信グリッドになるのを支援する上で AI-RAN の重要性も実証し、新しい収益の機会を作ります。
AI-RAN アプリケーションが紹介
この屋外の試用では、SoftBank が開発した新しいエッジ AI アプリケーションがライブ AI-RAN ネットワークでデモンストレーションされました。
5G を介した自動運転車のリモート サポート
工場出荷時のマルチモーダル
ロボティクス アプリケーション
5G を介した自動運転車のリモート サポート
自動運転の社会的実装の重要な要件は、車の安全性と運用コストの削減です。
藤沢市の実証実験では、ソフトバンクが自動運転車を実演し、前方カメラの映像を 5G で AI-RAN サーバーにホストされた AI ベースの遠隔サポート サービスに中継した。 マルチモーダル AI モデルは、ビデオ ストリームを分析し、リスク評価を行い、5G を介したテキストを使用して自動運転車に推奨のアクションを送信しました。
これは、説明可能な AI の例でもあります。リモート サポートのための要約されたテキストとログを通じて、自動運転車のすべての動作を監視し、説明することができました。
工場出荷時のマルチモーダル
このユース ケースでは、ビデオ、オーディオ、センサー データを含むマルチモーダル入力が、5G を使用して AI-RAN サーバーにストリーミングされます。 AI-RAN サーバーでホストされる、複数の LLM、VLM、検索拡張生成 (RAG) パイプライン、NVIDIA NIM マイクロサービスは、これらの入力を統合し、5G を使用するユーザーがチャット インターフェイスを介して情報にアクセスできるようにするために使用されます。
これは、工場の監視、建設現場の検査、同様の複雑な屋内および屋外の環境に最適です。 このユース ケースでは、エッジ AI-RAN がデータ アクセスと分析をローカル、安全、プライベートに保つことで、ローカル データの主権を実現する方法を示しています。これは、ほとんどの企業にとって必須の要件です。
ロボティクス アプリケーション
SoftBank は、5G を介して接続されたロボットのエッジ AI 推論の利点を実証しました。 ロボドッグは、声と動きに基づいて人間を追うようにトレーニングされました。
このデモでは、AI 推論がローカル AI-RAN サーバーでホストされたときのロボットの応答時間と、セントラル クラウドでホストされたときの応答時間を比較しました。 その違いは明白でした。 エッジ ベースの推論 ロボドッグは、人間の動きを即座に追跡しましたが、クラウド ベースの推論ロボットは、追いつくのに苦労しました。
Aerial RAN Computer-1 で AI-RAN のビジネス ケースを高速化
AI-RAN ビジョンは業界で受け入れられていますが、GPU 対応インフラストラクチャのエネルギー効率と経済性、特に従来の CPU および ASIC ベースの RAN システムとの比較は依然として重要な要件です。
AI-RAN のこのライブ フィールド トライアルにより、SoftBank と NVIDIA は、GPU 対応の RAN システムが実現可能で、高性能であることを実証しただけでなく、エネルギー効率と経済的な収益性も大幅に向上していることを実証しました。
NVIDIA は最近、次世代 NVIDIA Grace Blackwell Superchip をベースにした
Aerial RAN Computer-1
を推奨 AI-RAN 展開プラットフォームとして発表しました。 目的は、GB200-NVL2 をベースとした SoftBank 5G vRAN ソフトウェアを NVIDIA GH200 から NVIDIA Aerial RAN Computer-1 に移行することです。これは、コードがすでに CUDA に対応しているため、移行が容易です。
また、
GB200-NVL2
を使用すると、AI-RAN で利用可能なコンピューティング能力が 2 倍になります。 AI 処理機能は、以前の H100 GPU システムと比較して、Llama-3 推論が 5 倍、データ処理が 18 倍、ベクトル データベース検索が 9 倍に改善されます。
この評価のために、ターゲットの展開 プラットフォーム、GB200 NVL2 をベースとする Aerial RAN Computer-1、最新世代の x86 とクラス最高のカスタム RAN 製品ベンチマークを比較し、以下の結果を検証しました。
高速化された AI-RAN は、クラス最高の AI パフォーマンスを提供します
高速化された AI-RAN は持続可能な RAN
高速化された AI-RAN は、非常に収益性が高い
高速化された AI-RAN は、クラス最高の AI パフォーマンスを提供します
100% AI のみのモードでは、各 GB200-NVL2 サーバーは、毎秒 25,000 トークンを生成します。これは、サーバー 1 台の収益化可能なコンピューティングの利用率が 20 ドル/時間、またはサーバーあたりの月15,000 ドルに換算します。
現在のワイヤレス サービスのユーザー 1 人の平均収益 (ARPU) は、国によっては月 5 ～ 50 ドルの範囲であることに留意して、AI-RAN は、RAN のみのシステムよりも数倍の高い、数十億ドル規模の AI 収益の機会を提供します。
使用されるトークン AI ワークロードは、Llama-3-70B FP4 であり、AI-RAN がすでに世界で最も高度な LLM モデルを実行できることを実証します。
高速化された AI-RAN は持続可能な RAN
100% RAN のみのモードでは、GB200-NVL2 サーバーの電力パフォーマンスは、ワット/Gbps で以下の利点があります。
今日、クラス最高のカスタム RAN のみのシステムと比較して、消費電力が 40% 削減
x86 ベースの vRAN と比較して、消費電力が 60% 削減
比較のために、これはすべてのプラットフォームで同じ数の 100 MHz 4T4R セルと、100% RAN のみのワークロードを想定しています。
図 3. RAN の消費電力とパフォーマンス (ワット/Gbps)
高速化された AI-RAN は、非常に収益性が高い
この評価のために、比較された 3 つのプラットフォームのそれぞれで RAN 展開の共通のベースラインとして、東京都の 1 地区を 600 セルでカバーするシナリオを使用しました。 次に、RAN のみから RAN を重くするまたは AI を重視するまで、AI と RAN のワークロード分布の複数のシナリオを調べました。
AI が多いシナリオ (図 4) では、RAN が 3 分の 1、AI ワークロードが 3 分の 2 を分散しました。
NVIDIA GB200 NVL2 をベースとする高速化された AI-RAN インフラストラクチャへの資本支出 (CapEx) 投資額の1ドルに対して、通信会社は 5 年間で 5 倍の収益を生み出すことができます。
ROI の観点から、資本支出と運用支出のすべてのコストを考慮して、投資全体は 219% のリターンを実現します。これは、現地のコスト想定を使用しているため、もちろん SoftBank 特有のものです。
図 4. 600 セルで 1 つの東京都地区をカバーする AI-RAN の経済性
33% AIと 67% RAN
67% AI と 33% RAN
CapEx 1 ドルあたりの収益 $
2x
5x
ROI %
33%
219%
表 1. AI を多用するシナリオと比較した結果
RAN を多用するシナリオでは、3 分の 2 を RAN、3 分の 1 を AI ワークロード分散に使用し、NVIDIA アクセラレーション AI-RAN の CapEx で割った収益は 2 倍になり、SoftBank のローカル コスト想定を使用して 5 年間で 33% の ROI が得られることがわかりました。
RAN のみのシナリオでは、NVIDIA Aerial RAN Computer-1 はカスタム RAN のみのソリューションよりもコスト効率が高く、無線信号処理にアクセラレーテッド コンピューティングを使用する大きな利点となります。
これらのシナリオから、AI を多用するモード RAN を多用するモードの両方で、RAN のみのソリューションと比較して、AI-RAN が高い収益性が明らかになります。 本質的に、AI-RAN は、従来の RAN をコスト センターから利益センターに変革します。
AI の使用量の増加により、サーバーあたりの収益性が向上します。 RAN のみの場合でも、AI-RAN インフラストラクチャは、カスタム RAN のみのオプションよりもコスト効率が高くなります。
収益と TCO の計算に使用された主な前提条件には、次のものが含まれます。
各プラットフォームのプラットフォーム、サーバー、ラックのそれぞれの数は、同じ周波数である 4T4R で 600 セルをデプロイする共通のベースラインを使用して計算されます。
総所有コスト (TCO) は、5 年以上で計算されており、ハードウェア、ソフトウェア、vRAN、AI の運用コストが含まれています。
新しい AI 収益の計算には、GB200 NVL2 AI パフォーマンス ベンチマークに基づいて、サーバーあたりの時間 20 ドルを使用しました。
運用支出コストは、日本の現地の電力コストに基づいており、世界的に拡張することはできません。
ROI % = (新しい AI 収益 – TCO) / TCO
AI の収益の向上、エネルギー効率、収益性、収益性のこの検証により、このテクノロジの実現性、パフォーマンス、経済的なメリットに疑いの余地はありません。
今後、Vera Rubin などの NVIDIAスーパーチップの各世代が指数関数的に増加することで、これらのメリットはさらに桁違いに増大し、待望の通信ネットワークのビジネス変革が可能になります。
将来を見据える
SoftBank と NVIDIA は、AI-RAN の商業化と新しいアプリケーションを生み出すために、
継続的に協力
しています。 この契約の次のフェーズでは、スペクトル効率を向上させる AI-for-RAN の取り組みと、ファインチューニングとテストのためにデジタル ネットワークをシミュレートする NVIDIA Aerial Omniverse デジタル ツインの取り組みが含まれます。
NVIDIA AI Aerial は、世界中の通信事業者とエコシステム パートナーが、アクセラレーテッド コンピューティングとソフトウェア デファインド RAN + AI のパワーを使用して、5G および 6G ネットワークを変革する基盤を築きます。 NVIDIA Aerial RAN Computer-1 と AI Aerial ソフトウェア ライブラリを使用して、独自の AI-RAN 実装を開発できるようになりました。
NVIDIA AI エンタープライズ は、多くの NVIDIA ソフトウェア ツールキットが使用されたこのトライアルからも明らかなように、AI-RAN でホスト可能な通信事業者向けの新しい AI アプリケーションの作成にも貢献しています。これには、生成 AI 向けの NIM マイクロサービス、RAG、VLM、ロボティクス トレーニング用の NVIDIA Isaac、NVIDIA NeMo、RAPIDS、推論用の NVIDIA Triton、AI ブローカー用サーバーレス API が含まれます。
通信業界は、AI サービス プロバイダーになる大きなチャンスの最前線に立っています。 AI-RAN は、ワイヤレス ネットワークの新しい基盤としてアクセラレーテッド コンピューティングを使用することで、世界中の通信会社にとってこの新しい変革を促進できます。
この発表は、AI-RAN テクノロジの画期的な瞬間であり、その実現性、キャリアグレードのパフォーマンス、優れたエネルギー効率、経済的な価値を証明しました。 NVIDIA の高速化された AI-RAN インフラストラクチャに投資された資本支出 1 ドルは、6G に対応しながら、5 倍の収益を生み出します。
AI 収益化への取り組みは、今すぐ始められます。
関連情報
GTC セッション:
通信会社が国家 AI インフラストラクチャとプラットフォームをどのように実現するか
GTC セッション:
現代の通信会社 Blueprint: AI を使用して変革と再発明
GTC セッション:
人工知能が通信を変革する 3 つの方法
SDK:
Aerial Omniverse デジタル ツイン
ウェビナー:
How Telcos Transform Customer Experiences with Conversational AI
ウェビナー:
多言語音声 AI カスタマイズされたエージェントアシストで通信会社 コンタクト センター エージェントの強化