Un proverbe suédois affirme que « Celui qui achète ce dont il n’a pas besoin se vole lui-même. » Personne n’aime croire qu’il pourrait tomber dans ce piège — et pourtant, c’est exactement ce qui arrive à de nombreuses entreprises lorsqu’elles cherchent à faire passer leurs projets GenAI de la phase de PoC à un déploiement à l’échelle de l’entreprise. Cet article met en lumière six stratégies concrètes pour optimiser vos investissements dans l’IA générative.
L’un des principaux enseignements d’une étude récente menée par GlobalData pour le compte d’Orange Business est que les coûts cloud ont tendance à exploser à mesure que les PoC évoluent vers des services GenAI opérationnels. Une tendance facile à comprendre : la plupart des projets GenAI débutent sur des clouds publics, qui offrent puissance de calcul, scalabilité et accès immédiat à des modèles d’IA avancés. Mais plus le projet se déploie plus la puissance de traitement nécessaire augmente. Résultat : une hausse rapide et marquée des coûts.
Chez Orange Business, nous savons qu’il existe des leviers d’optimisation à chaque étape de votre parcours GenAI. Cela permet de maximiser la valeur pour les grandes entreprises tout en rendant l’IA générative plus accessible à un plus grand nombre d’acteurs.
1. Cibler les bons cas d’usage
Les GPU nécessaires aux modèles d’IA générative sont parmi les ressources les plus coûteuses et les énergivores de votre datacenter . Ils doivent donc être utilisés avec discernement. Tous les cas d’usage ne justifient pas un tel niveau de traitement ou ne produisent pas suffisamment de valeur suffisante pour être rentables. Des technologies plus classiques – IA traditionnelle ou outils de data visualisation – peuvent fournir des résultats similaires à bien moindre coût. D’où l’importance de partir du besoin métier.
Prenons un exemple concret : Orange Business a testé Microsoft Copilot à l’échelle de toute l’entreprise avant de conclure que la valeur générée ne justifiait pas un déploiement global. Nous avons donc choisi de le restreindre à deux cas : les métiers de création de contenus et les chefs de projet qui ont besoin d’automatiser et de coordonner les comptes-rendus de réunion. Dans ces deux cas, l’ impact était tangible et le retour sur investissement mesurable.
2. Sur site ou dans le cloud ?
En règle générale, un hébergement en périphérie est recommandé si le cas d’usage nécessite une connectivité en temps réel, ou si l’infrastructure de base est absente ou incapable de garantir un accès à très haut débit. Les besoins accrus en résilience ou en sécurité peuvent également justifier un déploiement en edge : cela garantit la disponibilité du service même en cas de perte de connectivité , et évite toute transmission de données sensibles vers l’extérieur.
À l’inverse, si vous déployez un assistant IA dans un environnement de bureau bien connecté et sans exigence de traitement instantané, une solution cloud est parfaitement adaptée. Les hyperscalers proposent des offres compétitives en matière de stockage et de puissance de calcul.
Si le cloud répond à vos besoins, il peut s’avérer plus économique que de gérer sa propre infrastructure.
3. Utiliser le modèle de langage adapté à votre usage
Certains grands modèles de langage (LLM) sont plus performants que d’autres. Orange Business a comparé deux générations d’un même modèle pour un cas d’usage donné : les résultats étaient similaires, mais la version précédente était 90 % moins coûteuse. Il n’existe toutefois pas de règle universelle : malgré sa sortie postérieure à ChatGPT-4, la version 4o-mini est moins chère que cette dernière — même constat pour DeepSeek.
Vous pouvez également vous interroger sur l’usage d’un petit modèle de langage (SLM). Certains ont été optimisés pour réduire leur impact, via un processus de distillation qui transfère les connaissances d’un modèle complexe vers un modèle plus simple, plus rapide, et plus économique. La question à se poser est donc : ai-je réellement besoin du LLM le plus avancé, ou un modèle plus léger peut-il répondre efficacement au même besoin — pour un coût bien inférieur ?
4. Gouvernance documentaire
La puissance de calcul nécessaire dépend directement du volume de données interrogées. Ce facteur est donc un levier de réduction des coûts important. Deux approches complémentaires peuvent être envisagées.
- Approche basée sur la technologie : le modèle GenAI peut constituer un sous-ensemble du corpus de données, en présélectionnant uniquement les documents les plus pertinents avant d’activer le LLM sur ce périmètre réduit.
- Approche basée sur la gouvernance : il est possible de limiter les documents pris en compte dans la recherche. Par exemple, si vous avez récemment modifié votre modèle de tarification, les contrats antérieurs ne doivent pas être intégrés aux prompts liés aux prix. Vous gagnez en pertinence — et réduisez les coûts.
5. Bibliothèques de prompts
Si un utilisateur doit formuler cinq ou six prompts avant d’obtenir la réponse souhaitée, les coûts peuvent rapidement grimper. Il est donc pertinent de construire une bibliothèque de prompts optimisés, permettant aux utilisateurs d’obtenir rapidement des résultats pertinents avec un minimum de tentatives.
6. Maîtriser les dépenses cloud avec le FinOps
Les coûts indirects de vos services GenAI — liés à l’infrastructure requise pour les faire fonctionner efficacement — sont souvent sous-estimés et bien supérieurs aux attentes. Une approche FinOps permet de mieux piloter ces dépenses, en favorisant transparence et collaboration entre les équipes IT, financières et les unités commerciales. Un exemple parlant : lorsque Orange Business a autorisé l’usage de ChatGPT en interne, l’outil a rencontré un tel succès qu’il a été nécessaire de plafonner les volumes d’usage afin de maîtriser les coûts.
Conclusion
Il n’existe pas de solution miracle pour contenir les dépenses liées à la GenAI. Mais une série de décisions ciblées peut avoir un impact significatif sur vos coûts — et, par effet miroir, sur la valeur créée par vos services. Pour en savoir plus sur les six leviers présentés ici — et découvrir des recommandations concrètes pour optimiser vos dépenses cloud — téléchargez notre livre blanc « Un appétit insatiable : Faire face à l’explosion des coûts des services IA ».
Frédéric Loras est Head of Sales Enablement chez Orange Business, où il dirige une équipe internationale chargée de définir des propositions de valeur pour les clients et de stimuler les ventes grâce à des stratégies basées sur la valeur. Avec plus de 12 ans d'expérience en management et une solide expertise en innovation et transformation, Frédéric a collaboré avec de grands clients industriels pour l’adoption de technologies de pointe comme la 5G. Il est passionné par l’implémentation de pratiques agiles au sein de son organisation et possède une expérience avérée en gestion de projets stratégiques.
En dehors du travail, Frédéric est un joueur de tennis passionné, appréciant particulièrement les matchs sur terre battue. Il est également fier d'avoir cofondé une startup spécialisée dans la gestion des actifs numériques personnels, illustrant ainsi son esprit entrepreneurial et son engagement envers l’innovation.