埋め込みとベクトルストアの継続コスト
Updated September 1, 2026 · first published September 1, 2026
埋め込みコストはプロジェクト費目として承認されます — 数百万ドキュメント、一度きりの実行、生成コストと並べれば小さな数字。ところが止まりません。すでに支払った埋め込みを、3 つの別々の力がやり直させるからです。
3 つの更新要因
コンテンツの入れ替わり。最も正直で最も小さい要因です。事業規模に比例し、素直に予測できます。
チャンク分割・パイプラインの変更。これが厄介です。チャンクサイズ、オーバーラップ、メタデータ、前処理を少しでも変えると、ストア内の全ベクトルが無効になります。設定変更のように聞こえる検索品質の実験が、コーパス全体の再埋め込みです。好調な四半期にはこれを何度も回します。
モデルの変更。これが最大です。埋め込み空間はモデル間で互換性がないため、より良い／安いモデルへ移るには、検索できるようになる前に全件を埋め込み直す必要があります。段階的な経路も部分移行もありません — 2 つのストアを並走させるか、停止を受け入れるかです。
ストア自体も費目
ベクトルは保持にも費用がかかります。マネージドのベクトル DB はストレージとクエリ処理の双方に課金し、どちらも次元数に効きます。検索精度がわずかに良い高次元モデルは、ホスティング費用が恒久的に大きく高くなり得ます。この判断は通常、モデルを選んだ人が品質だけを見て、ホスティング請求を見ないまま行われます。
年金のように予算化する
コーパス全体の再埋め込みを年 1 回以上は見込み、例外ではなく定例として扱ってください。候補モデルの評価は、トークン単価ではなく再埋め込み費用 + 1 年分のストレージとクエリ処理で行います。元データを常に参照可能な形で保持しておけば、再埋め込みは再取り込みプロジェクトではなくバッチジョブになります — そしてそのジョブはバッチ API で流してください。全件再埋め込みは、自社で最もレイテンシに寛容なワークロードであり、バッチ料金が最も効く対象です。
Related
Want this applied to your own LLM spend? FinOps LLM runs a free audit of your AI costs and shows where the savings are. Book free audit →