推論モデルとは——答える前に「考える」AIと、その使いどころ
答える前に、内部で手順を組み立ててから回答するモデル。すぐ答えるモデルより時間はかかりますが、筋道を追う仕事で差が出ます。
モデルの一覧を見ると、同じ会社から複数の種類が出ています。速いもの、賢いもの、考えるもの。どれを使えばいいのか、という質問をよく受けます。
大きく分けると、すぐ答えるモデルと、考えてから答えるモデルの二つです。
答える前に、手順を組む
通常のLLMは、質問を受けると即座に文章を書き始めます。速い代わりに、途中で筋道が破綻しても、そのまま最後まで書き切ります。
推論モデルは、その手前にひと工程を挟みます。答えを書き始める前に、内部で手順を組み立てます。何を確かめるべきか、どの順で考えるか、途中で矛盾がないか。人が下書きのメモを取ってから清書するのに近い動きです。
この工程のぶん、返ってくるまでに時間がかかります。処理量も増えるため、トークンの消費も多くなります。
勉強を見る現場でいうと
数学の教員免許を取るとき、繰り返し言われたことがあります。答えが合っているかより、途中式を書かせろと。
見ていると、確かに二種類います。暗算で即答する子と、一度書き出してから答える子。簡単な計算なら前者が速い。ただ、条件が絡む文章題になると、途中式を書く子のほうが正解に届きます。書き出す過程で、自分の勘違いに気づくからです。
推論モデルがやっているのは、この途中式です。答えを出す前に、内部で一度組み立ててから返す。
ただ、全部の問題で途中式を書かせる必要はありません。九九まで書かせたら、宿題が終わりません。筋道が結果を左右する問題だけ、時間を使う。 モデルの使い分けも、この配分の話だと考えています。
差が出る仕事、出ない仕事
体感として、はっきり分かれます。
| 推論モデルが効く | 通常のモデルで足りる |
|---|---|
| 条件が絡み合う判断（複数の規程を突き合わせる） | 文章の要約・言い換え |
| 数字の整合を追う作業（計算の筋道が要る） | 定型文の作成 |
| 原因の切り分け（可能性を順に潰す） | 分類・振り分け |
| 手順の設計（何から着手すべきかの組み立て） | 誤字や表記ゆれの修正 |
右側の仕事に推論モデルを当てても、待ち時間が増えるだけで結果はほぼ変わりません。逆に、左側を通常のモデルで処理すると、もっともらしいけれど筋の通らない答えが返ってきます。
社内で使い分けを決めるときは、途中の筋道が結果を左右するかを基準にすると分かりやすくなります。
考えた中身は、そのまま見せないことが多い
推論モデルが内部で組み立てた手順は、要約された形でしか表示されないことがあります。サービスによって扱いが違い、詳しく見せるものも、隠すものもあります。
実務では、ここに期待しすぎないほうが安全です。表示された手順は、実際の処理を人向けに要約したものであって、監査の証跡としては扱えません。根拠が要る仕事では、どの資料を見たかを出力に含めさせるほうが確実です（ハルシネーション）。
待ち時間と処理量は、設計に効く
考える工程が挟まるぶん、返ってくるまでの時間が延びます。画面に向かって待つ場面では体感に響きますし、業務システムに組み込む場合は、後続の処理が待たされることになります。
内部で組み立てた手順も処理量として数えられるため、トークンの消費は増えます。件数の多い定型処理に当てると、待ち時間と処理量の両方が積み上がります。
現実的な置き方は、件数の多い工程は速いほうで流し、判断が集まる一工程だけ考えるほうへ回す形です。全部を賢いほうに寄せると、遅くて高い仕組みになります。
使い分けを決めておく
現場に選ばせると、迷いが生まれます。顧問先には、業務ごとに既定を決めてもらっています。
- 日々の下書き・要約・分類 → 速いモデル
- 見積の妥当性チェック、規程の突き合わせ、原因の切り分け → 推論モデル
- 迷ったら速いほうで試し、筋道が破綻していたら切り替える
この三行を貼っておくだけで、選択の時間が消えます。モデルの世代が変わっても、この区分自体は残ります。
顧問先によく聞かれること
- どちらのモデルを使うか、現場に選ばせてよいですか。
- 業務ごとに既定を決めておくほうが揃います。選択肢を渡すと、迷う時間が生まれ、結局いつも同じものが選ばれます。「この業務はこちら」を先に決めて、例外だけ相談してもらう形が回ります。
- 推論モデルなら間違えませんか。
- 間違いは減りますが、なくなりません。筋道が通っていることと、前提が正しいことは別だからです。前提として渡した資料が古ければ、丁寧に組み立てた誤りが返ってきます。確認の要る仕事という位置づけは変わりません。
出典（一次情報）
- Extended thinking（考えてから答える動作） Anthropic / Claude Docs
解釈を挟まない一次情報だけを挙げています。仕様・条件・制度は改定されるため、 判断に使う際は必ずリンク先の最新版をご確認ください。