TOPS/Wとは　グーグルの端末用AIチップは1ワットで2兆回、パソコンのAI処理は40TOPS超に

TOPS/Wとは、Tera Operations Per Second per Watt の略で、AI向けの半導体が1ワットの電力あたり、1秒間に何兆回の演算ができるかを表す指標です。データセンターのGPUは浮動小数点の演算の速さ（FLOPS）で語られることが多く、端末の中のAI半導体は、整数の演算を含むTOPSで語られることが多くなります。

数字の作り方

TOPSは、AIの計算の中心である「掛けて足す」演算を何回できるかを数えたものです。会社によって、1回の掛け算と足し算を2回と数えるか、どのビット幅（8ビットの整数など）で数えるかが違います。

W（ワット）も、最大の電力か、普段の電力かで変わります。このため、異なる会社のTOPS/Wは、条件をそろえないと比べられません。ビット幅を半分にすると、同じ回路で演算の回数が増えて見えることもあります。

公表された数字

端末向けAI半導体の公表値

会社・製品	TOPS	電力	TOPS/W
グーグル Edge TPU	4	1TOPSあたり0.5W	2
ハイロ Hailo-8	26	普段2.5W	約10（計算）
クアルコム Snapdragon X シリーズのNPU	45	-	-

グーグルのEdge TPUは、画像の認識の小さなモデルMobileNet v2（224×224画素）を1回2.6ミリ秒で処理します。イスラエルのハイロはHailo-8の効率を公表していないため、表の値は26TOPSを2.5ワットで割った目安です（計算）。最大の性能と普段の電力を組み合わせた値なので、そのまま他社と比べることはできません。

パソコンへの広がり

マイクロソフトは2024年5月20日、AIの処理を端末の中でこなすパソコンの区分「Copilot+ PC」を発表しました。40TOPS超の処理ができる新しい半導体を積むと説明し、発表に合わせて、クアルコムのSnapdragon Xシリーズを積む機種を示しました。このNPUは45TOPSです。

端末で処理すれば、データセンターにデータを送らずに済み、通信の待ちもなくなります。その分、限られた電池と放熱の中で演算をこなす必要があり、TOPSの大きさと同時にTOPS/Wが問われます。

関連する用語

• NPU：AIの計算に特化した半導体の回路です。スマートフォンやパソコンの主な半導体の中に組み込まれます。
• ワット当たり性能：データセンターの半導体やスーパーコンピュータの効率を表す、より広い言い方です。
• 量子化：値を8ビットや4ビットに減らして計算することです。TOPSの数え方と関わります。