AIの学習と推論の違いとは?「覚えさせる」の中身を整理
学習はモデルを作る工程、推論は出来上がったモデルを使う工程。日々の利用はすべて推論側で、そこで渡した情報が自動でモデルに残るわけではありません。
「AIに社内のことを覚えさせたい」——導入相談でいちばんよく出てくる要望です。ただ、この「覚えさせる」がどちらの工程を指しているかで、費用も期間も、やることもまるで変わります。
ここを分けずに話が進むと、後から噛み合わなくなります。
作る工程と、使う工程
AIには、はっきり分かれた二つの工程があります。
学習(トレーニング) は、モデルそのものを作る工程です。大量の文章を読み込ませ、言葉のつながり方の傾向を身につけさせます。膨大な計算資源と時間がかかり、行うのは基本的にモデルを開発する側です。
推論(インファレンス) は、出来上がったモデルに質問して答えを受け取る工程です。私たちが日々やっているのは、すべてこちらです。
料理にたとえると、学習は料理人を育てる何年かで、推論は今日の注文に応えることです。今日どんな注文を受けても、料理人の腕そのものが変わるわけではありません。
部活の現場でいうと
昨日きれいに入ったフォームが、今日はもう崩れています。
コーチに直してもらった直後は、確かにできます。ところが翌日のプールでは元に戻っている。その日にできたことと、身についたことは別の工程です。身につくのは、何百本と反復して、間を置いて、また泳いだ後です。
AIとの違いは、ここに一つあります。人は、繰り返すうちに自分の中へ溜めていきます。AIは溜めません。 今日渡した情報は今日の返事のために使われて終わり。明日また同じ説明をする羽目になるのは、そのためです。
だから「AIに覚えさせる」と言うとき、多くの場合やるべきなのは学習のやり直しではありません。プールサイドに貼る、その日の狙いを書いた紙を作るほうです。記憶に頼るのをやめて、毎回目に入る場所に置く。同じ発想です。
「覚えさせる」の中身は三つに分かれる
社内のことを反映させる方法は、実際には三つあり、費用も効き方も違います。
| やり方 | 何をするか | 向くところ |
|---|---|---|
| 毎回渡す | 指示や資料と一緒に、必要な情報を渡す | まず試す段階。すぐ直せる |
| 探して渡す(RAG) | 質問のたびに社内文書から関連部分を検索して渡す | 文書が多く、内容が更新される |
| モデルを作り変える(ファインチューニング) | 学習の工程をやり直し、癖ごと変える | 独特の書式や文体を、大量に安定して出したい |
自社の業務にどの方式が合うかは、AIエージェント比較ハブで整理しています。
上ほど安く速く、下ほど重くなります。相談を受けたときにまず確認するのは、いちばん下から検討していないかという点です。「専用のAIを作らないと社内では使えない」と考えて止まっている会社は少なくありませんが、実務で必要になる場面はそう多くありません。
文書が更新される業務では、むしろ真ん中が向きます。モデルを作り変えると、内容が変わるたびに作り直しになるためです。
データの扱いを判断するときの分かれ目
この区別は、情報の取り扱いを判断するときにも効いてきます。
推論で渡した情報が、そのままモデルの中に取り込まれるわけではありません。渡した内容は、その回の回答を作るために使われて、処理としては終わります。
ただし、それとは別に「入力内容を今後の学習に使うかどうか」という契約上の取り決めがあります。個人向けのプランと法人向けのプランで扱いが違うことが多く、設定で変えられる場合もあります。ここは仕組みの話ではなく契約の話なので、各社の公式な条件を確認して判断します。詳しくは入力データはAIの学習に使われるのかにまとめました。
「AIに入れたら学習される」と一括りにして社内で禁止してしまうと、使ってよい範囲まで止まります。逆に区別せず何でも入れると、契約条件によっては困ります。分けて見るのが実務的です。
提案書を読むときに聞くこと
外部からAI活用の提案を受けたとき、この一点を確認すると中身が見えます。
「それは学習の話ですか、渡す情報の話ですか」
前者なら、作り直しの頻度と、元データをどれだけ用意する必要があるかを聞きます。後者なら、情報の置き場所と更新の担当を聞きます。どちらとも答えられない提案は、まだ設計が固まっていません。
提案の中身が学習の話か渡す情報の話か判断がつかないときは、無料AI診断で現状の業務に当てて整理できます。
社内文書を扱う仕組みについては、RAGで続けます。
顧問先によく聞かれること
- チャットで教えた内容は、次回も覚えていますか。
- サービスの記憶機能を使っている場合は残ることがありますが、それはモデルが変わったのではなく、次回の入力に自動で足される仕組みです。機能を切れば消えますし、別のアカウントには引き継がれません。会社の共有知識として残したいなら、記憶機能ではなく文書として置く形にします。
- 「自社専用AI」と言われたら、どちらの話ですか。
- 両方の可能性があるので、そこを聞き分けるのが提案を読むときの要点です。モデル自体を作り変えるのか、渡す情報を自社向けに整えるのか。後者のほうが安く、速く、直しやすいのが実際のところです。
出典(一次情報)
- 生成AIサービスの利用に関する注意喚起等について(令和5年6月2日) 個人情報保護委員会
解釈を挟まない一次情報だけを挙げています。仕様・条件・制度は改定されるため、 判断に使う際は必ずリンク先の最新版をご確認ください。