SmartNICとは 通信の周りの仕事をサーバーから引き取る、BlueField-4は前世代のコア4倍
SmartNICは、ネットワークカードに計算の回路を積み、通信の周りの仕事をサーバーのCPUから引き取る部品です。エヌビディアのBlueField-4は64コアのGraceのCPUを積み、BlueField-3の16コアの4倍にしました。
- SmartNICは、通信の口に加えてCPUや専用の回路を積み、自分で処理ができるネットワークカードです。
- 仮想化、暗号、記憶装置とのやりとり、通信の監視などを、サーバーのCPUの代わりに受け持ちます。
- AWSは自社のNitroのカードで、仮想化などの仕事をサーバーの外に出し、計算の力のほぼすべてを利用者に回しています。
- BlueField-4は通信の速さが毎秒800ギガビット、メモリ128GBで、いずれもBlueField-3から大きく増えました。
ふつうのNICは、データを詰め替えて送り受けするだけの部品です。SmartNICは、そこにCPUや専用の回路を足し、届いたデータを自分で処理できるようにしたものです。エヌビディアは計算の力を大きくした品を「DPU(データ処理装置)」と呼んでおり、SmartNICの発展形と位置づけられます。
サーバーのCPUの「雑務」を引き取る
クラウドのサーバーでは、利用者の計算とは別に、たくさんの裏方の仕事があります。1台のサーバーを複数の利用者に分ける仮想化、通信の暗号化、不正な通信の遮断、離れた記憶装置とのデータのやりとりなどです。これらをサーバーのCPUでこなすと、利用者に貸せる計算の力が減ります。
SmartNICは、この裏方の仕事を引き取ります。通信がNICを通る時に、その場で暗号を解いたり、宛先ごとに振り分けたりします。サーバーのCPUは利用者の計算に専念できます。管理の仕組みを利用者のサーバーから切り離せるため、安全の面でも利点があります。
AWSのNitro
早くからこの考え方を取り入れたのがAWSです。同社のNitro Systemは、専用のカード群と軽い仮想化のソフトでできています。カードには、ネットワーク用、記憶装置(EBS)用、管理と安全のための部品があります。AWSによると、仮想化の仕事を専用のハードに移すことで、サーバーの計算の力とメモリのほぼすべてを利用者に回せます。アマゾンの社員を含め、管理者がサーバーの中に入れない設計だとも説明しています。
エヌビディアのBlueField
エヌビディアは2026年1月の技術解説で、次の世代のBlueField-4の中身を示しました。
| 項目 | BlueField-3 | BlueField-4 |
|---|---|---|
| CPU | Arm A78 16コア | Grace 64コア |
| 通信の速さ(毎秒) | 400ギガビット | 800ギガビット |
| メモリの容量 | 32GB | 128GB |
| メモリの帯域(毎秒) | 75GB | 250GB |
BlueField-4には、AI向けの新しい仕事も与えられました。言語モデルの途中の結果(KVキャッシュ)を、GPUのメモリの外の記憶装置に出し入れする「推論文脈メモリ記憶」の基盤で、データの出し入れを受け持ちます。エヌビディアは、従来の記憶装置の使い方に比べ、1秒あたりの生成量が最大5倍になるとしています。
AMDは2022年に米ペンサンドを買収し、その技術でDPUとNICを作っています。マーベル・テクノロジーにもSmartNIC向けの半導体があります。
関連する用語
- DPU:計算の力を大きくしたSmartNIC。エヌビディアやAMDが使う呼び名。
- NIC:サーバーをネットワークにつなぐ部品。
- 仮想化:1台のサーバーを複数の利用者に分けて貸す仕組み。
- KVキャッシュ:言語モデルが答えを作る途中の結果。
BlueField-4はRubinの基盤の6つの半導体の一つで、通信はPCIe Gen6でサーバーとつながります。
この記事は公開資料をもとに作成しています。売買をすすめるものではありません。誤りを見つけたら訂正します(編集方針)。
関連する記事
NIC(ネットワークカード)とは GPU1基に1枚が基本、次世代は1枚で毎秒1.6テラビット
NICは、サーバーとネットワークの間でデータを出し入れする部品です。エヌビディアの次の世代のConnectX-9は、Rubin GPU1基あたり毎秒1.6テラビットの通信を受け持ちます。
ストレージサーバーとは SSDやHDDを大量に積む記憶専用の機械、メタは7,500台で240PB
ストレージサーバーは、SSDやHDDを多数積み、ネットワーク越しにデータを読み書きさせる記憶専用のサーバーです。メタはLlama 3の学習に、SSDを積んだ7,500台のサーバーで240ペタバイトの記憶の基盤を用意しました。
スイッチASICとは データの行き先を振り分ける専用の半導体、3ナノの品は毎秒102.4テラビット
スイッチASICは、ネットワークのスイッチの中枢で、データの行き先を判断して送り出す専用の半導体です。ブロードコムの最新品Tomahawk 6は3ナノメートルの工程で作り、1個で毎秒102.4テラビットを処理します。
建設のリードタイムとは TSMC熊本は着工から開所まで約1年10か月、アリゾナは発表から量産まで約4年半
建設のリードタイムとは、工場やデータセンターの着工から稼働までにかかる時間です。TSMCの熊本の第1工場は2022年4月に着工し、2024年2月に開所式を開きました。