本番稼働を続けるために必要なことを、すべて。
本番環境のAIは、公開して終わりのソフトウェアではありません。動き続ける状態を保つための運用の層が、このサービスです。
評価(eval)の継続実行
変更のたびに、回帰確認用の評価セットを実行します。気づかないうちに品質が下がることを防ぎます。
精度劣化と品質の監視
本番環境での精度、応答時間、コストを監視します。利用者が気づく前に、精度の劣化を検知します。
プロンプトとモデルの版管理
プロンプトとモデルの変更はすべて版管理し、テストを通します。いつでも元に戻せます。
ベンダー側の変更への対応
OpenAI、Anthropic、またはご利用中のプラットフォームが互換性のない変更を行った場合は、当社が対応します。
ガードレールとフォールバック
安全のための制約と、問題が起きたときに機能を段階的に絞る仕組みを備えます。想定外の入力が、誤った結果につながらないようにします。
四半期ごとの改善計画
現状を維持するだけではありません。貴社のKPIに照らして、システムを改善し続けます。
計測、運用、改善。
監視の仕組みを組み込む
貴社が重視する指標に合わせて、監視、評価(eval)、アラートを設定します。
安定稼働を保つ
監視、調整、版管理、障害対応を行います。実際の負荷がかかった状態でも、システムを安定して動かし続けます。
精度と対応範囲を引き上げる
四半期ごとに精度を高め、対応できる範囲を広げ、その結果を貴社のKPIに結びつけます。
料金は、運用するシステムの数で決まります。
どのプランでも、解決率、稼働率、精度といった貴社のKPIに沿って報告します。何に対して支払っているのかが分かります。
本番稼働中のエージェント1つの監視、保守、障害対応を行います。
ライトの内容に加えて、毎月の改善と改善計画の作成を行います。
運用全体を担うパートナーとして、四半期ごとの戦略の見直しまで行います。
構築費と並べて見る、運用の費用。
構築の予算だけを組み、運用の費用を見落とす。AI導入の計画で最も多い誤りです。
従業員140名の米国コンサルティング会社は、AIシステムの運用に月額$4,500を支払っています。
構築費は、3つのフェーズの合計で$156,000でした。運用費を含めた初年度の総額は$210,000で、これに対して年間$480,000相当の効果が出ています。この案件の運用費は個別の範囲に基づいて決めたもので、ライトとスタンダードの中間にあたります。導入事例を読む
当社は、納品して引き渡したあと、最初の不具合が起きたときには連絡がつかないようなベンダーではありません。公開後も責任を持ち続けます。本番環境では、信頼性そのものが製品だからです。チャットボットのお守りをするサービスでもありません。本番稼働中のAIが成果を出し続けるための、運用の層です。
AIの運用保守についてのご質問
AIエージェントの運用保守には、公開後いくらかかりますか?
Gigabitの場合、本番システム1つで月額$3,000、3つで月額$8,000、5つ以上または本番のエージェント基盤全体で月額$20,000です。監視、評価(eval)、精度劣化への対応、プロンプトとモデルの版管理、モデル提供元の変更への対応を含みます。ある米国のコンサルティング会社は、当社が6か月かけて構築したAIシステムの運用に、月額$4,500を支払っています。
構築したAIエージェントは、公開後に誰が運用するのですか?
公開の前に、担当を決めておく必要があります。貴社のチーム、構築したベンダー、運用を請け負うパートナーのいずれかです。Gigabitは月額契約でシステムを運用します。貴社のチームや他のベンダーが構築したシステムも対象で、引き継ぐ前にまず診断を行います。
Gigabitが構築していないAIシステムも運用してもらえますか?
はい。貴社のチームや他のベンダーが構築したAIシステムの運用も引き継ぎます。まず診断を行い、監視と評価(eval)の仕組みを組み込みます。そのうえで、以後の安定稼働に責任を持ちます。
「重要な指標に結びつける」とは、どういう意味ですか?
AIによって動かしたいKPIを貴社と合意し、その数値で報告するという意味です。解決率、問い合わせの削減率、精度、1件あたりのコストなどが該当します。稼働率のように見栄えがよいだけの数字で報告することはしません。
マネージドAIオペレーションの料金はどのように決まりますか?
月額$3,000〜$20,000です。ライト(月額$3,000、システム1つ)、スタンダード(月額$8,000、システム3つ)、ヘビー(月額$20,000、システム5つ以上またはエージェント基盤全体)の3プランがあります。料金は、運用の範囲と対象となるシステムの数で決まります。
AIモデルの提供元が互換性のない変更を行った場合は、どうなりますか?
当社が対応します。モデルの提供終了、APIの変更、挙動の変化は、当社が監視し対応する範囲に含まれます。貴社のチームが、予期しない変更への対応に追われることはありません。


