AI記事の検品を目視頼みからルール自動化へ——公開前の安全ゲートを自社運用した事例
使用した道具: AIエージェントルールベース検品スクリプト（関数）チャット通知
AIに文章を書かせること自体は、もう難しくありません。難しいのは「書かせた後」です。当社ではこのサイトのブログ記事をはじめ、自社のコンテンツをAIエージェントが日々生成していますが、生成したものをそのまま公開する運用はしていません。
公開の手前に「安全ゲート」を一枚挟んでいます。今回は、その自社運用の中身をご紹介します。
📘 どんな仕組みか
AIエージェントが書き上げた記事を、公開処理の直前に自動で検品する仕組みです。チェックするのは、禁止表現、誇張した言い回し、クライアントの守秘情報、裏取りのない数値といった「答えが一つに決まる」項目です。合格した記事だけが自動で公開に進み、不合格は公開されません。ルールでは白黒つけられない、判断が割れるものは人間に通知が飛び、公開は保留されます。
😣 何が課題だったか
毎日複数本を自動生成する体制になると、目視だけの検品は現実的に持ちません。丁寧に読める日もあれば、流し読みになる日もある。検品の質が日によってぶれるのです。
特に怖いのが守秘情報でした。複数社のAI顧問を務める立場として、クライアント名や金額がAIの生成文に紛れ込む可能性だけは、「気をつける」という注意力頼みの運用に任せられないと感じていました。
⚙️ どう実装したか
ポイントは、検品にAIを使わなかったことです。禁止語が含まれるか、社名や金額のパターンが出現するか、といった判定は答えが一つに決まる計算であり、出力が揺らぐAIは不向きです。ここは禁止語リストと正規表現による決定的ルール、つまり関数の領分です。
具体的には、公開パイプラインの途中に検品スクリプトを組み込み、不合格なら後段の公開処理そのものが走らない構造にしました。人の記憶や注意力に依存する箇所を、構造で塞ぐ。この道具の使い分けは、当社の進め方やAIエージェント構築代行 完全ガイドでお伝えしている考え方そのままです。
📈 何が変わったか
出典: 自社作成（自社運用の実運用に基づく）
検品は「目視のみ」から「ルール自動+目視」になりました。守秘情報の誤公開は、注意頼みから構造的にブロックされる状態に変わりました。ゲートで止まった記事は、修正してからでなければ世に出ない流れです。
人間の目は、ルールで判定できない部分——文脈やトーンの違和感——に集中できるようになりました。全文を疑いながら読む必要が減った分、公開可否の判断は速く、安定しています。効率化の終着点は意思決定のスピードと質だと考えていますが、検品はその縮図でした。
🚀 ここからの拡張
「生成→決定的ルールで検品→合格のみ通過→グレーは人間へ」という構造は、コンテンツに限りません。見積書や請求書の送付前チェック、社外メールへの守秘情報混入の防止、採用や広告文面の表現チェックなど、文章が外に出るあらゆる業務に同じ構造を移植できます。各論は商談でお話しします。自社のどこに当てはまるか知りたい方は、無料診断からどうぞ。