生成AIを業務の中心に据えると、次に必ず突き当たるのが「クレジット(利用枠)の消費管理」です。高性能モデルは強力ですが、その分クレジットの消費も大きく、すべての作業を最上位モデルで回していると、本当に性能が必要な重要作業の枠を、機械的な整理作業が食いつぶしてしまいます。本記事では、当社が自社実践として構築した「モデル利用最適化の計画→運用→改善サイクル」の設計内容を、そのまま真似できる粒度でご紹介します。
始まりは「昨日の利用のうち、どの処理が最上位モデルのクレジットを消費したのか」を調べようとしたことでした。結果は、正確には答えられない、でした。生成AIの多くはセッション側から実測のクレジット消費量を取得できず、利用記録を自分で残していなければ、後から振り返る材料がありません。当社も記録を取っておらず、定期実行タスクの実行履歴と生成ファイルのタイムスタンプから推定で再構成するのが精一杯でした。
そこで発想を変え、「後から調べる」のではなく「日々記録して毎朝レビューする」仕組みを作ることにしました。
最初に決めたのは、削減目標を置かないことです。クレジットの節約自体を目的にすると、本来高性能モデルを使うべき作業までモデルを下げてしまい、品質事故につながります。当社では次の3つを原則にしました。
次に、作業タイプと難易度からモデルを決める基準表を作り、常時適用の運用指示書に組み込みました。骨子は3階層です。
ポイントは、基準を「人が覚えるルール」ではなく「AIが毎セッション読み込む運用指示」として置くことです。依頼を受けたAI側が、着手時に「分類→選定→確認→記録」の4ステップを自動で踏む建て付けにしました。大きな作業では、ステップごとの推奨モデルを載せた作業分解表を提示させ、人が承認してから実行します。
モニタリングの要は利用ログです。凝った仕組みは続かないので、定期タスク・手動依頼を問わず「作業完了時に1処理1行を追記する」だけの月次Markdownファイルにしました。列は8つ。日時、処理名、種別(定期/手動)、使用モデル、難易度、推定負荷、主な生成物、備考です。
実測のクレジット値が取れない制約は、「推定負荷(高・中・低)」という相対評価で代替し、週に一度、アプリの使用状況画面の実測値と突き合わせて感覚を補正します。完璧な計測より、毎日続く記録を優先する設計です。
仕上げに、毎朝5時に動く定期タスク「モデル最適化デイリーレビュー」を登録しました。前日のログと実際の生成ファイルを照合し、次の3点を自動で出力します。
重要なのは、AIに基準を勝手に書き換えさせないことです。基準表の改訂はレビューからの「提案」までとし、人が承認したときだけ反映します。デイリーで気づき、ウィークリーで集約と実測突合、四半期でモデルラインナップ自体を再評価する、という三層のサイクルです。
仕組みを作る過程の現状分析だけでも、発見がありました。消費の上位は「顧客向け資料の作成・レビュー」と「大容量ファイルを読み込む無人の定期タスク」に二極化しており、前者は高性能モデルの正しい使い方そのもの、後者は前処理を軽量モデルに委譲できる筆頭候補でした。つまり、闇雲にモデルを下げるのではなく、無人処理の設計を見直すことが最も効くという見立てが、初日で得られたことになります。
生成AIのコスト最適化は、高度なツールがなくても「基準の文書化」「1行ログ」「毎朝の自動レビュー」の3点セットで始められます。品質を守る原則を先に固定し、記録と改善提案をAI自身に担わせるのがコツです。当社では本記事の仕組みをすべてAIとの対話だけで、半日かけずに構築しました。
Expand合同会社では、こうした生成AIの業務活用設計・運用定着のご支援を行っています。自社のAI活用を仕組みに落とし込みたい方は、お気軽にお問い合わせください。