ファインチューニングとは——モデルを作り変える前に確かめておくこと
既存のモデルに自社のデータで追加学習させ、特定の書式や文体に合わせて調整すること。事実を覚えさせる用途には向きません。
「うちのデータでAIを鍛えたい」。この言葉が出てきたとき、たいてい想像されているのがファインチューニングです。
ただ、実際に必要になる場面は、思われているより限られます。
追加で学ばせて、癖をつける
ファインチューニングは、すでに出来上がっているモデルに対して、追加の学習をさせる工程です。ゼロから作るのではなく、一般常識を持った状態から、特定の仕事に合わせて調整します。
中途採用者にたとえるなら、入社後の研修にあたります。基礎はできている人に、自社の書式や言い回しを繰り返し練習させ、身につけてもらう。
この比喩から、向き・不向きも見えてきます。研修で身につくのはやり方の癖であって、個々の事実ではありません。「当社の報告書はこの構成で書く」は身につきますが、「先週の在庫数」は身につきません。
部活の現場でいうと
フォームを作り変えるのと、その日の声かけで直すのは、別の作業です。
「もう少し肘を高く」と毎回言うのが、声かけ。何も言わなくても自然に肘が上がるようになるのが、作り変え。後者は時間がかかりますが、身につけば言わずに済みます。
ただ、大会前にフォームを作り変えるコーチはいません。 作り直している途中はいったん遅くなるし、身につく前に本番が来れば、両方が中途半端になる。作り変えるのは、次の大会まで期間があるときです。
ファインチューニングは、この作り変えにあたります。決まった様式で毎日大量に出す仕事なら、身につけさせる価値がある。
多くの会社の業務は、まだ声かけの段階です。指示の書き方と渡す情報を整えるだけで届くなら、そちらが速くて安い。順番を逆にすると、費用だけが先に出ます。
事実を覚えさせる用途には向かない
ここが、いちばん誤解されるところです。
社内文書を学習させれば内容を覚えてくれるだろう、と考えて検討が始まることが多いのですが、実際には次の状態になります。
- 社内文書に似た文体・構成の文章は書けるようになる
- 書いてある内容を、正確な事実として答えられるわけではない
- どの文書に書いてあったか、根拠を示せない
- 文書が更新されても反映されない(作り直しが要る)
内容を答えさせたいならRAG、書き方を揃えたいならファインチューニング。この線引きで、検討の入り口を間違えずに済みます。
向いている場面
では、どういうときに効くのか。実際に相談を受けて「これは向いている」と判断するのは、次のような場合です。
決まった形式で、大量に出す仕事。定型の報告書、規定の様式に沿った申請文、独特の記法がある技術文書。毎回プロンプトで形式を細かく指定するより、癖として持たせたほうが安定します。
業界特有の言い回しが強い分野。一般的な言葉遣いでは通じない専門領域で、既存モデルの出力に違和感が残るとき。
同じ判断を大量に繰り返す仕事。分類や振り分けのように、正解のついた事例が数多く用意できる仕事。
逆に、次の場合は先に別の手を考えます。用意できる事例が少ない、内容が頻繁に更新される、根拠を示す必要がある、まだ何を任せるか固まっていない。最後のものがいちばん多いところです。
検討する前に確かめておくこと
見積を取る前に、社内で答えを出しておくと判断が速くなります。
- プロンプトの工夫では届かないと確かめたか。指示の書き方と渡す情報を整えるだけで足りることは多く、こちらは即日で試せます
- 事例をどれだけ用意できるか。質の揃った事例が要ります。集める作業は自社側の負担になります
- 更新の頻度はどうか。内容が変わる領域なら、作り直しの費用が繰り返し発生します
- 効果をどう測るか。「なんとなく自然になった」では投資判断ができません。何をもって良くなったとするかを先に決めます
この四つに答えられる状態なら、検討する価値があります。答えられないなら、まだ手前の段階です。
段階を飛ばして重い工程から入ると、費用が先に出て効果が後から分からなくなります。渡す情報を整えるところから積み上げるほうが、結果として速く着きます。積み上げる順番についてはコンテキストエンジニアリングで扱っています。
顧問先によく聞かれること
- 「自社専用AIを作ります」という提案は、ファインチューニングのことですか。
- そう限りません。渡す情報を自社向けに整えただけでも「専用AI」と呼ばれることがあります。どちらなのかを聞いて、後者なら費用と期間の妥当性がずいぶん変わります。呼び方ではなく中身を確認してください。
- 社内文書を学習させれば、内容を覚えてくれますか。
- 書き方の癖は身につきますが、事実の記憶としては当てになりません。どの文書のどこに書いてあったかも示せなくなります。内容を答えさせたいならRAGのほうが向いています。