テストタイム計算とは DeepSeek-R1は考える文章を長くして数学試験の正答率を79.8%に
テストタイム計算は、AIが答える段階で多くの計算を使い、正答率を上げる方法です。DeepSeek-R1は、米国の数学の試験AIME 2024で1回目の正答率79.8%を出しました。
- テストタイム計算は、学習が終わったモデルを使う段階(推論)で、計算を多く使って答えの質を上げる考え方です。
- 考える過程の文章を長く書かせる方法と、答えの候補を複数作って選ぶ方法があります。
- 中国のDeepSeekは2025年1月、強化学習で考える文章を長くし、AIME 2024の正答率が15.6%から71.0%に上がったと報告しました。
- 考える文章は数百〜数千トークンになり、1つの質問に使うGPUの時間が増えます。
推論時の計算(テストタイム計算)とは、AIモデルが質問に答えるときに、すぐ答えず、多くの計算を使ってから答えを出す方法のことです。これまでAIの性能は、学習に使う計算とデータを増やして上げるのが中心でした。テストタイム計算は、使う段階の計算を増やす、もう1つの道です。
2つのやり方
1つ目は、考える過程を文章として書かせる方法です。モデルは答えの前に、途中の式や検討を内部で書き出します。間違いに気づけば、書きながら直します。書く文章が長いほど、計算も多くなります。
2つ目は、同じ質問に答えの候補を何本も作り、多数決や別の採点用のモデルで選ぶ方法です。候補の数を増やすほど、正しい答えが含まれる確率が上がります。
2024年8月に公開された論文は、質問の難しさに応じて計算の配り方を変えると、候補を一律にN本作る方法より4倍以上効率がよいと報告しました。計算量をそろえた比べ方では、14倍大きいモデルを上回る場面があったとしています。
DeepSeek-R1の数字
DeepSeekは2025年1月公開の論文で、強化学習だけで考える力を伸ばしたモデルR1-Zeroと、それを改良したR1を示しました。
| モデル・条件 | AIME 2024 | MATH-500 |
|---|---|---|
| R1-Zero 強化学習の前 | 15.6% | - |
| R1-Zero 強化学習の後 | 71.0% | - |
| R1-Zero 多数決 | 86.7% | - |
| R1 | 79.8% | 97.3% |
| OpenAI o1(2024年12月版) | 79.2% | 96.4% |
論文は、学習が進むにつれて、R1-Zeroが考える時間を自分で延ばしていったと書いています。考える文章は、数百から数千トークンに及ぶとしています。
半導体の需要との関係
考える文章も、答えと同じように1トークンずつGPUで生成します。質問1件あたりのトークンが数倍になれば、同じ利用者数でも推論に使うGPUの時間は数倍になります。業界の性能試験MLPerfは2025年、推論型のDeepSeek-R1を試験に加えました。対話向けの区分では、1トークンごとの間隔を15ミリ秒以内とする厳しい条件を置いています。
関連する用語
- 強化学習:答えの正しさに応じて報酬を与え、モデルを改良する学習の方法です。
- 推論のレイテンシ:考える文章が長いほど、答えが出るまでの時間も延びます。
- 長い文脈:考える文章もモデルが読む文脈に入るため、メモリを使います。
この記事は公開資料をもとに作成しています。売買をすすめるものではありません。誤りを見つけたら訂正します(編集方針)。
関連する記事
推論のレイテンシとは 業界の性能試験は最初の1語を0.45秒、次の語を40ミリ秒以内と定める
推論のレイテンシは、AIが答えを返すまでの待ち時間です。業界団体MLCommonsの性能試験は、対話向けのLlama 2 70Bで、最初の1語を450ミリ秒、以後1語ごとを40ミリ秒以内とする条件を置いています。
長い文脈とは グーグルとアンソロピックは100万トークンに 20万を超えると料金は2倍
長い文脈は、AIが一度に読み込める文章の量のことです。アンソロピックは2025年8月、Claude Sonnet 4を100万トークンに広げ、20万トークンを超える入力の料金を2倍にしました。
スループットとは GB300 NVL72はDeepSeek-R1でGPU1基あたり毎秒5842トークン
スループットは、1秒あたりに処理できるトークンなどの総量です。エヌビディアによると、GB300 NVL72はDeepSeek-R1でGPU1基あたり毎秒5842トークンを出しました。
建設のリードタイムとは TSMC熊本は着工から開所まで約1年10か月、アリゾナは発表から量産まで約4年半
建設のリードタイムとは、工場やデータセンターの着工から稼働までにかかる時間です。TSMCの熊本の第1工場は2022年4月に着工し、2024年2月に開所式を開きました。