Les factures de l'IA laissent les dirigeants perplexes après le passage à une tarification basée sur la consommation,

Seuls 26 % des organisations parviennent à suivre leurs coûts en temps réel

Les dirigeants d'entreprise éprouvent des difficultés à anticiper et à maîtriser les coûts opérationnels de l'IA en raison du passage à la tarification basée sur l'usage. Selon KPMG, ce manque de visibilité financière pousse près de la moitié des organisations à revoir le calendrier de leurs déploiements technologiques. Parallèlement, des géants comme Amazon et Microsoft investissent dans l'ingénierie pour aider leurs clients à rentabiliser ces outils. Certaines organisations recherchent des modèles plus économiques. Enfin, le secteur reste confronté à des enjeux majeurs de gouvernance et de fiabilité des données produites par ces systèmes automatisés.

Les développeurs d'IA délaissent progressivement les abonnements à prix fixe au profit d'une tarification à l'usage, calquée sur la consommation réelle de tokens ou de prompts. Cette approche leur permet d'aligner les revenus sur les coûts d'infrastructure, souvent très élevés, tout en captant davantage de valeur auprès des utilisateurs les plus intensifs. Cependant, cette tarification a introduit des défis majeurs pour les utilisateurs et les entreprises.

Les études montrent que pour les clients, cette flexibilité apparente cache un piège : les coûts deviennent imprévisibles et peuvent grimper très vite dès que l'usage s'intensifie, notamment avec des agents d'IA autonomes ou des applications à fort volume. Cette imprévisibilité complique la budgétisation des entreprises et peut décourager l'adoption, surtout pour les PME qui n'ont pas la visibilité nécessaire pour anticiper leur facture mensuelle pour l'IA.

Les dirigeants d'entreprises se retrouvent déconcertés par les factures liées à l'IA. Une nouvelle étude menée par KPMG auprès de 2 145 hauts dirigeants à travers 20 pays révèle que près d'un tiers d'entre eux peinent à comprendre et à maîtriser les coûts opérationnels lors du déploiement de l'IA à grande échelle.

Le défi lié à la tarification à l'usage et l'explosion rapide des coûts

En avril, GitHub, propriété de Microsoft, a annoncé l'abandon de son modèle de facturation basé sur les prompts pour son assistant de codage Copilot au profit d'un système basé sur l'utilisation. Auparavant, les utilisateurs de Copilot disposaient d'un nombre défini de prompts, ce qui obligeait GitHub à absorber les coûts croissants d'inférence. Dans l'ancien système, une simple question coûtait le même prix qu'une longue session de codage autonome.


Avec l'entrée en vigueur de la nouvelle structure de tarification, de nombreux abonnés sont sous le choc et découvrent que leur usage habituel épuise extrêmement vite leur nouvelle allocation mensuelle. Ce changement a suscité des plaintes concernant la hausse des coûts et a mis en évidence une tendance générale vers une IA facturée à l'utilisation. Certains utilisateurs mécontents ont vu leur facture passer de 510 dollars à plus de 5 300 dollars.

• le déploiement d’agents d’IA coordonnés est en pleine expansion, une évolution qui pose de nouveaux défis en matière de visibilité des coûts pour les organisations, selon la dernière enquête trimestrielle « AI Quarterly Pulse Survey » de KPMG ;
• seuls 26 % des organisations disposent d’une visibilité en temps réel sur le coût d’exploitation de l’IA à grande échelle, tandis que 35 % des dirigeants indiquent que la gestion des coûts liés à l’IA et les connaissances économiques (notamment la compréhension des modèles de tarification basés sur l’utilisation, tels que les coûts liés aux tokens et aux inférences) restent des obstacles ;
• la part des entreprises orchestrant plusieurs agents d’IA au sein de leurs flux de travail a doublé, passant de 9 % lors de la précédente période d’enquête à 18 %. Les personnes interrogées ont indiqué utiliser ces agents pour harmoniser les objectifs communs et les indicateurs de performance entre les différents services (64 %), faciliter la prise de décision conjointe (49 %) et automatiser les flux de travail transversaux (48 %) ;

Outre GitHub, OpenAI, Anthropic et Google sont aussi passés à une facturation basée sur l'utilisation. Ce changement crée un manque de visibilité financière qui perturbe les clients. Le rapport de KPMG souligne ce qui suit : « alors que les modèles de tarification à l'usage deviennent plus courants, de nombreuses organisations sont encore en train de développer les capacités requises pour prévoir, surveiller et gérer efficacement les dépenses en IA ».

Face à l'augmentation des frais, les clients sont contraints de repenser leurs approches. Près de la moitié des organisations ont dû reporter ou réajuster leurs déploiements d'IA lorsque les coûts ont fini par dépasser le budget, entraînant une hausse rapide de l'intérêt pour des modèles moins coûteux, mais performants.

Réévaluation des stratégies et recherche d'alternatives abordables

Selon certaines plaintes, quelques heures d’utilisation suffisent désormais à épuiser une grande partie du plafond mensuel de tokens et certains l'auraient même épuisé en moins d’une journée. Les modèles à faible coût et haute fidélité constituent désormais le facteur qui influence le plus la stratégie en matière d’IA, avec une progression de 7 points de pourcentage par rapport au premier trimestre. Toutefois, l'enthousiasme pour la technologie reste intact.

À propos de ces initiatives, le dernier rapport de KPMG indique notamment : « ces mesures ne traduisent pas une perte de confiance dans l’IA. Elles témoignent au contraire d’une volonté croissante d’évaluer dans quels domaines l’IA apporte une valeur ajoutée significative et dans lesquels elle n’en apporte pas. Les entreprises semblent de plus en plus déterminées à concentrer leurs investissements là où les retours attendus sont les plus élevés ».

Pour répondre à ces défis et encourager l'adoption, les géants de la technologie investissent massivement. Amazon prévoit des dépenses d'investissement d'environ 200 milliards de dollars cette année, principalement destinées à renforcer les capacités d'IA dans ses centres de données, soit une hausse de 50 % par rapport à l'année précédente. Les dépenses d'investissement totales de Microsoft sont estimées à 190 milliards de dollars, en hausse de 61 %.

En outre, ces deux entreprises injectent des milliards de dollars dans des équipes d'ingénierie dédiées (notamment via des entités comme la Microsoft Frontier Company) pour aider leurs clients à développer des applications d'IA et à accélérer leur déploiement. Amazon a annoncé un investissement d'un milliard de dollars dans « AWS Forward Deployed Engineering », visant à aider les clients à adopter des agents IA et à réduire les délais de déploiement.

Microsoft alloue 2,5 milliards de dollars au programme Microsoft Frontier Company, afin de « permettre à ses clients d’améliorer leur QI grâce à l’IA tout en affinant leur valeur ajoutée sur les marchés où ils opèrent ». La firme de Redmond tente toujours de s'imposer dans la course à l'IA.

L'importance cruciale de la gouvernance face aux risques d'erreurs

Au-delà de la gestion des coûts, la question de la gouvernance de l'IA reste un défi majeur, particulièrement pour déterminer qui porte la responsabilité face aux erreurs ou aux « hallucinations » générées par ces modèles statistiques. Dans son nouveau rapport, KPMG a souligné que « la responsabilité des dirigeants est importante », mais que « le succès ou l’échec de la gouvernance dépend en fin de compte des pratiques opérationnelles quotidiennes ».


« Les organisations ont besoin de règles claires pour déterminer quand les employés peuvent intervenir, qui prend en charge les coûts liés à l’IA, comment les résultats de l’IA sont examinés et ce qui se passe en cas de défaillance des systèmes. Si la plupart des organisations déclarent disposer d’au moins quelques mécanismes de gouvernance, elles sont relativement peu nombreuses à décrire ces pratiques comme étant pleinement intégrées », selon KPMG.

De manière assez ironique, la firme de conseil KPMG a elle-même récemment fait les frais d'une mauvaise gouvernance interne liée à l'IA. Un rapport publié par l'entreprise a dû être retiré en toute hâte après qu'une analyse a révélé qu'il s'agissait d'une démonstration flagrante d'hallucinations de l'IA : sur 45 citations présentes dans leur document, seules cinq pointaient vers des sources exactes, le reste étant composé de détails inventés ou invérifiables.

« KPMG accorde une grande importance à l'exactitude et à l'intégrité des contenus qu'elle publie. Le rapport a été retiré et nous examinons actuellement les circonstances de sa publication. Nous attendons de l'ensemble de nos collaborateurs qu'ils respectent nos directives relatives à l'utilisation responsable de l'IA, notamment en matière de contrôle humain visant à valider les contenus et à vérifier les sources indépendantes », a déclaré un porte-parole.

Quand les machines coûtent beaucoup plus cher que les humains

L'ampleur des dépenses prend même les professionnels du secteur au dépourvu. Bryan Catanzaro, vice-président chargé de l'apprentissage profond appliqué chez Nvidia, a récemment fait remarquer que les coûts informatiques de son équipe dépassaient désormais largement les dépenses de personnel. Il s'agit là d'un renversement frappant de l'idée reçue selon laquelle l'automatisation permettrait de réduire les coûts d'exploitation.

Le problème réside dans les mécanismes de...