temperatureとは——AIの答えを毎回揃えるか、幅を持たせるか
AIの出力にどれだけ幅を持たせるかの設定。低くすると答えが安定し、高くすると表現の幅が広がります。ゼロにしても完全には揃いません。
同じことを二度聞いたのに、違う答えが返ってきた。業務で使い始めると、これが気になり始めます。
この幅を決めているのが、temperature と呼ばれる設定です。
幅を持たせるか、絞るか
LLMは、次に来る言葉を選びながら文章を組み立てます。このとき、候補は一つではありません。もっともらしい候補が複数あって、その中から選んでいます。
temperature は、この選び方を決めます。
- 低く設定する——もっともらしさが最上位のものを選び続ける。答えが安定し、無難な表現に寄る
- 高く設定する——順位が下の候補も選ばれるようになる。表現の幅が広がり、思いがけない言い回しが出る
「創造性の設定」と説明されることがありますが、実態は選択の幅の話です。高くすれば良い文章になるわけではなく、外れも増えます。
部活の現場でいうと
同じ選手でも、練習と試合では求めるものが違います。
フォームを作る練習では、型から外れてほしくない。決めた形を、何本も同じように繰り返す。逆に、リレーの入りや駆け引きの場面では、決めた通りにしか動けない選手は勝てません。その場で振れる幅が要る。
temperature も同じつまみだと考えると、扱いが決まります。案出しには広げて、報告書の作成には絞る。
そして、絞っても毎回まったく同じにはなりません。水温も体調も違う。「一秒たりとも同じ」が要件なら、それは人に頼むことではなく、計測機に頼むことです。
業務でも同じで、毎回まったく同じ結果が要る仕事は、関数やRPAの領分になります。
業務では、低めが基本
社内業務でAIを使う場面のほとんどは、幅より安定を求めています。
| 仕事 | 向く設定 |
|---|---|
| 情報の抽出・分類・要約 | 低め。毎回同じ判断が返ってほしい |
| 定型文・報告書の下書き | 低め。形式が揺れると手直しが増える |
| 企画のアイデア出し | 高め。似た案ばかり出ても意味がない |
| キャッチコピーの案出し | 高め。幅がほしい |
下二つの場面では、幅があるほうが役に立ちます。ただ、社内業務で件数が多いのは上二つです。既定は低めにしておいて、案出しのときだけ変える、という置き方が扱いやすいところです。
設定だけでは揃わない
ここが実務での要点です。値を下げても、出力は完全には揃いません。
処理の仕組み上、わずかな揺れが残る。同じ入力でも、まったく同一の文字列が返る保証はありません。
モデルが更新されると、傾向が変わる。設定は同じでも、出てくるものが変わります。運用が始まってからも定期的に確かめる形にしておく必要があります（AIの精度検証）。
指示が曖昧なら、幅は残る。「丁寧にまとめて」と頼めば、丁寧さの解釈のぶんだけ揺れます。設定より、指示と例示のほうが効きます。
出力の形を揃えたいなら、値をいじる前に、望ましい形の見本を一つ渡すほうが速く効きます（プロンプトエンジニアリング）。決まった形で出し続けたいなら、その指示を毎回書くのではなくシステムプロンプトに置きます。
「毎回まったく同じ」が要件なら
出力が一字一句同じであることが要件になる仕事——契約書の条項生成、規定の様式への転記、計算結果——は、AIに任せる仕事ではありません。
決まった処理として組めば、確実に同じ結果が返ります。関数やRPAの領分です。全部をAIにする必要はない、というのはこういう場面のことです。
AIに向くのは、ばらつきのある入力を扱う仕事です。出力のばらつきを嫌うあまり、入力のばらつきまで無いことにしてしまうと、道具の選び方を間違えます。
顧問先によく聞かれること
- チャット画面には、この設定が見当たりません。
- 一般向けのチャット画面では、たいてい調整済みの値が固定されていて、使う側からは触れません。触れるのは、業務システムに組み込んだ場合や、開発者向けの画面を使う場合です。触れない環境で出力を揃えたいときは、指示と例示のほうで寄せることになります。
- 低く設定すれば、同じ質問に必ず同じ答えが返りますか。
- 近づきますが、完全には一致しません。処理の仕組み上わずかな揺れが残りますし、モデルが更新されれば傾向自体が変わります。「毎回まったく同じ」が要件になる仕事は、AIではなく決まった処理として組むほうが確実です。