Après une phase d’expérimentation intensive, les entreprises cherchent désormais à mieux maîtriser leurs usages de l’intelligence artificielle. La question n’est plus seulement de savoir combien de modèles ou de tokens elles utilisent, mais quelle valeur ces investissements produisent réellement. Pour Gabriel-James Safar, cofondateur et CEO de Tsuga, cette évolution marque le passage du “tokenmaxxing”, centré sur la consommation, au “valuemaxxing”, qui consiste à mettre en regard les dépenses engagées et les résultats obtenus.

Dans les premières phases de déploiement, les entreprises ont souvent privilégié les modèles les plus puissants pour un grand nombre de cas d’usage. Cette approche a facilité l’expérimentation, mais elle a également entraîné une hausse rapide des coûts. Face aux premières factures importantes, certaines organisations choisissent alors de limiter leurs usages ou de réduire les expérimentations. Une réaction compréhensible, mais qui peut conduire à abandonner des projets utiles, faute de pouvoir distinguer les usages réellement créateurs de valeur.

“L’enjeu n’est pas de consommer davantage ou de réduire systématiquement les usages. Il est de comprendre quelles dépenses contribuent réellement aux résultats de l’entreprise. Une approche plus mature consiste à réserver les modèles les plus avancés aux tâches complexes et à utiliser des modèles plus petits ou spécialisés lorsque cela suffit. Le choix du modèle doit dépendre du niveau de difficulté, du coût et de l’impact attendu.”, explique Gabriel-James Safar.

Le suivi du nombre de tokens consommés ou du coût d’un modèle ne suffit pas à évaluer la pertinence d’un usage. Les entreprises doivent pouvoir rapprocher les données techniques, financières et opérationnelles. Il s’agit notamment d’identifier quels modèles sont utilisés, par quelles équipes, pour quels coûts et avec quels effets concrets : gain de temps, automatisation d’une tâche, amélioration de la qualité de service, réduction des incidents ou hausse de la productivité. Cette capacité à relier l’usage de l’IA à des résultats mesurables devient essentielle pour arbitrer les investissements et guider les futurs déploiements.

L’observabilité est confrontée depuis plusieurs années au même défi. Après avoir cherché à collecter un maximum de logs, de métriques et de traces, les entreprises ont progressivement réduit les volumes conservés, raccourci les durées de rétention ou mis en place des mécanismes d’échantillonnage afin de contenir les coûts. Ces arbitrages peuvent toutefois entraîner une perte de contexte au moment d’analyser un incident ou le comportement d’un système d’IA.

“L’IA et l’observabilité sont confrontées à la même question : comment conserver une visibilité suffisante pour prendre de bonnes décisions, sans laisser les coûts augmenter de manière incontrôlée ? Le défi consiste à identifier les données réellement utiles, plutôt qu’à tout collecter ou, à l’inverse, à supprimer trop d’informations.”, souligne Gabriel-James Safar.

L’analyse des usages de l’IA implique souvent d’examiner des informations sensibles : prompts, réponses générées, code ou contexte de production. Leur traitement soulève donc des enjeux de sécurité, de confidentialité et de gouvernance. Les entreprises doivent savoir où ces données sont stockées, qui peut y accéder et dans quelles conditions elles sont analysées. Dans les environnements les plus sensibles, la capacité à conserver ces informations au sein de l’infrastructure de l’entreprise peut devenir un critère déterminant.

“La prochaine phase de l’adoption de l’IA reposera moins sur le volume de ressources consommées que sur la capacité à associer chaque dépense à un résultat, à choisir le bon modèle pour le bon usage et à maintenir une gouvernance rigoureuse des données”, conclut Gabriel-James Safar.