Gardez votre IA en production en bon état de marche.
Mettre un agent en production, c’est le début du travail, pas la fin. Nous assurons l’exploitation et la supervision de vos systèmes IA en production, nous les améliorons et nous répondons de leur bon fonctionnement. Évaluations (evals), dérive, gestion des versions, changements des fournisseurs : le tout rattaché aux indicateurs qui comptent pour vous.
Tout ce qu’il faut pour rester en production.
Une IA en production n’est pas un logiciel qu’on livre puis qu’on oublie. Voici la couche d’exploitation qui la maintient en état de marche.
Évaluations en continu
Le jeu d’évaluations et ses tests de régression tournent à chaque modification. La qualité ne se dégrade donc jamais sans que personne le voie.
Supervision de la dérive et de la qualité
Nous suivons la précision, la latence et les coûts en production, et nous repérons la dérive avant vos utilisateurs.
Gestion des versions des prompts et des modèles
Chaque modification d’un prompt ou d’un modèle est versionnée, testée et réversible.
Réponse aux changements des fournisseurs
Quand OpenAI, Anthropic ou votre plateforme publie un changement incompatible, nous le prenons en charge.
Garde-fous et solutions de repli
Des garde-fous et un fonctionnement dégradé maîtrisé, pour qu’une mauvaise entrée ne produise jamais un mauvais résultat.
Feuille de route trimestrielle
Nous ne nous contentons pas de maintenir le système en état de marche. Nous continuons à l’améliorer au regard de vos indicateurs clés (KPI).
Instrumenter, exploiter, améliorer.
Mettre en place l’observabilité
Nous installons la supervision, les évaluations et les alertes, réglées sur les indicateurs qui comptent pour vous.
Garder le système en bon état
Nous surveillons, ajustons, versionnons et intervenons en cas d’incident. Le système reste fiable sous une charge réelle.
Aller plus loin
Chaque trimestre, nous améliorons la précision, nous étendons la couverture et nous rattachons les résultats à vos KPI.
Un prix qui dépend des systèmes que vous exploitez.
Dans tous les niveaux, les rapports portent sur vos KPI : taux de résolution, disponibilité, précision. Vous voyez ainsi ce que vous payez.
Supervision, maintenance et traitement des incidents pour un seul agent en production.
Avec, en plus, des améliorations mensuelles et une feuille de route.
Partenariat d’exploitation complet, avec un travail stratégique chaque trimestre.
Le coût d’exploitation, à côté du coût de développement.
Prévoir le budget du développement et oublier le coût d’exploitation : c’est l’erreur la plus fréquente dans un projet IA.
Un cabinet de conseil américain de 140 personnes paie 4 500 $ par mois pour maintenir ses systèmes IA en service.
Le développement a coûté 156 000 $ sur trois phases. L’exploitation est comprise dans un total de 210 000 $ la première année, pour 480 000 $ de valeur récupérée par an. Cette mission a été chiffrée sur son propre périmètre, entre nos niveaux Light et Standard. Lire l’étude de cas
Nous ne sommes pas un prestataire qui vous remet les clés et disparaît le premier lundi où quelque chose tombe en panne. Nous restons responsables, car en production, la fiabilité est le produit. Il ne s’agit pas de surveiller un chatbot. C’est la couche d’exploitation qui permet à une IA en production de continuer à justifier ce qu’elle coûte.
Questions sur l’exploitation des systèmes IA
Combien coûte la maintenance d’un agent IA après sa mise en production ?
Chez Gigabit, 3 000 $ par mois pour un système en production, 8 000 $ pour trois et 20 000 $ pour cinq systèmes ou plus, ou pour une plateforme d’agents en production. Ce prix couvre la supervision, les évaluations, le suivi de la dérive, la gestion des versions des prompts et des modèles, et l’intervention quand un fournisseur de modèles change quelque chose. Un cabinet de conseil américain paie 4 500 $ par mois pour l’exploitation des systèmes IA que nous avons développés pour lui en six mois.
Qui exploite un agent IA une fois qu’il est développé ?
Il faut désigner quelqu’un avant la mise en production : votre propre équipe, le prestataire qui a développé le système ou un partenaire d’exploitation. Gigabit exploite des systèmes contre un forfait mensuel, y compris ceux que votre équipe ou un autre prestataire a développés, et commence par un audit avant de les reprendre.
Gigabit exploite-t-il seulement les systèmes IA qu’il a développés ?
Non. Nous pouvons reprendre l’exploitation de systèmes IA développés par votre équipe ou par un autre prestataire. Nous commençons par un audit, nous mettons en place l’observabilité et les évaluations, puis nous répondons du bon fonctionnement du système.
Que veut dire « rattaché aux indicateurs qui comptent » ?
Nous convenons avec vous des KPI que votre IA doit faire progresser : taux de résolution, déflexion (la part des demandes qui n’arrivent pas jusqu’à votre équipe), précision, coût par tâche. Nos rapports portent sur ces indicateurs, pas sur des chiffres de disponibilité flatteurs.
Comment est calculé le prix de Managed AI Operations ?
Managed AI Operations coûte de 3 000 à 20 000 $ par mois : Light (3 000 $, 1 système), Standard (8 000 $, 3 systèmes), Heavy (20 000 $, 5 systèmes ou plus, ou une plateforme d’agents). Le prix dépend du périmètre et du nombre de systèmes exploités.
Que se passe-t-il quand un fournisseur de modèles publie un changement incompatible ?
Nous le prenons en charge. Les modèles retirés, les changements d’API et les évolutions de comportement font partie de ce que nous surveillons et traitons. Votre équipe n’est jamais prise au dépourvu.
Déjà en production ? Faisons en sorte que cela dure.
Que le système ait été développé par nous ou par vous, nous l’instrumentons, nous l’exploitons et nous le rattachons à vos KPI.