熱設計とは チップから部屋の外まで熱の通り道を決める作業、GB200 NVL72はラックごと液冷
熱設計は、チップの熱を許容温度の中で外へ運び出す道筋と能力を決める作業です。エヌビディアはGPU72基を1つのラックに収めるGB200 NVL72を、液体で冷やす前提で設計しています。
- 熱設計は、チップの内部の温度(接合部の温度)を上限より下に保つため、熱の通り道と冷やす能力を決める作業です。
- 上限はインテルのCore i9-14900Kで100度、ロームの電力用MOSFET RY7P250BMで175度です。
- エヌビディアのH100は、空冷のPCIe版が350〜400W、基板に載せるSXM版が最大700Wで、冷やし方に合わせて電力を変えています。
- GB200 NVL72は、GPU72基とCPU36基を液冷のラック1台にまとめた設計です。
熱設計は、チップが出す熱を、決められた温度の中で外へ逃がすための仕組みを決める作業です。チップが使う電力はほぼすべて熱になるため、使う電力が増えれば、逃がす能力も同じだけ増やさなければなりません。熱設計の出発点はメーカーが示す熱設計電力(TDP)で、インテルはTDPを、システムの設計者が冷却の方法を選ぶための目標値と説明しています。
熱は何段も渡って運ばれる
熱は、トランジスタのある部分から始まり、シリコンのチップ、パッケージのふた、熱を伝えるグリスや金属、ヒートシンクか冷却板、空気か液体、そして建物の外へと渡っていきます。段の境目ごとに温度の差が生まれます。熱の流れにくさ(熱抵抗)を段ごとに足し合わせ、電力をかけた値が、外の空気とチップの内部との温度差になります。
そのため、熱設計では2つの数字を見ます。1つはチップの内部の温度の上限、もう1つは周りの空気や冷却水の温度です。この差が小さいほど、熱抵抗を低く抑える必要があります。
| 製品 | 項目 | 数字 |
|---|---|---|
| インテル Core i9-14900K | 動作時の最高温度(接合部) | 100度 |
| ローム RY7P250BM | 接合部の温度の上限 | 175度 |
| エヌビディア H100 NVL | 空冷・2スロット幅のPCIeカード、最大のTDP | 350〜400W |
| エヌビディア H100 SXM | 最大のTDP | 700W |
| エヌビディア DGX B200 | 装置の最大の消費電力/動作時の室温 | 約14.3kW/10〜35度 |
空気から液体へ
同じH100でも、空冷のPCIeカードは350〜400W、サーバーの基板に直接載せるSXM版は最大700Wです。冷やせる量に合わせて、使える電力の上限を変えている形です。空気は熱を運ぶ力が小さく、狭い場所に多くの熱が集まると、風の量を増やしても追いつかなくなります。
エヌビディアのGB200 NVL72は、GPU72基とCPU36基をラック1台にまとめ、ラック全体を液体で冷やす設計です。会社は、液冷のラックがデータセンターの電力と水の使用を減らすと説明し、同じ電力で空冷のH100の設備に比べ25倍の性能が出るとしています。ラックの消費電力の数字は製品ページに載っていません。
チップの側の工夫
熱設計は冷却の装置だけの問題ではありません。チップの設計でも、熱を出す回路を散らして置く、温度を測るセンサーを内蔵して周波数を下げる、といった手を打ちます。インテルのCPUは、温度が上限に近づくか電力の上限に達すると、周波数を下げて発熱を抑えます。電力用のMOSFETでは、データシートの許容損失が、接合部の温度が上限を超えない範囲として示されます。
関連する用語
- TDP:熱設計の目安になる電力の値。
- 熱抵抗:熱の流れにくさ。1Wあたり何度上がるかで表します。
- 液冷:冷却板などを通した液体で熱を運ぶ冷やし方。
- 空冷:ヒートシンクと風で熱を運ぶ冷やし方。
この記事は公開資料をもとに作成しています。売買をすすめるものではありません。誤りを見つけたら訂正します(編集方針)。
関連する記事
TDP(熱設計電力)とは 冷却装置を選ぶための電力の目安、短時間なら超えることもある
TDPは、システムの設計者が冷却の能力を決めるための電力の目標値です。インテルはCore i9-14900Kの基本の電力を125W、最大のターボの電力を253Wとし、約2倍の差があります(計算)。
消費電力と発熱とは チップの電力はほとんどが熱に変わる、エヌビディアのH100は最大700W
チップが使う電力は、ほとんどが熱として出ていきます。エヌビディアのH100(SXM版)は1基で最大700W、GPU8基のDGX B200は装置1台で最大約14.3kWを使います。
液冷とは GPUの上に冷却板を当てる方式が主流、マイクロソフトはチップの中に水路
液冷は、チップの熱を液体で運び出す冷やし方です。マイクロソフトは、チップの裏に溝を彫って液体を流す方式が、冷却板より最大3倍よく熱を取り除いたと発表しました。
建設のリードタイムとは TSMC熊本は着工から開所まで約1年10か月、アリゾナは発表から量産まで約4年半
建設のリードタイムとは、工場やデータセンターの着工から稼働までにかかる時間です。TSMCの熊本の第1工場は2022年4月に着工し、2024年2月に開所式を開きました。