Motif graphique de pierre angulaire de l'IA et consultants travaillant sur une tablette

Un jeton d’intelligence artificielle (IA) est une petite unité de texte traitée par un modèle de base. À titre indicatif, 1 000 jetons traitent environ 750 mots. Les fournisseurs facturent généralement par tranche d’un million de jetons, en proposant des taux distincts pour les données d’entrée (données et contextes analysés par un modèle) et de sortie (contenu généré). Les données de sortie coûtent presque toujours plus cher, car la génération de nouveaux textes demande davantage de calculs que la lecture.

Cette distinction est plus importante qu’elle n’en a l’air. Dès les débuts de l’IA générative, une requête et une réponse ne coûtaient que quelques centaines de jetons, soit moins d’un cent. L’IA agentive se comporte davantage comme un compteur. Un agent part d’un objectif stratégique, recueille des données externes (jetons pour données d’entrée), analyse le problème et génère un plan selon un processus appelé « inférence », ce qui entraîne la facturation de jetons pour données de sortie. En cas d’impasse, il réévalue son approche et recommence. Le coût d’un seul jeton est minime. La nature cumulative et récursive de ce processus en boucle, elle, ne l’est pas, car il est possible d’utiliser des millions de jetons en quelques minutes, à l’insu de tous.

C’est ce mécanisme qui sous-tend l’économie de jetons d’IA et que nous traitons comme une capacité centrale de la gestion des coûts liés à l’IA agentive chez CGI. Dans cet article, nous examinons pourquoi l’IA n’est plus qu’une simple dépense informatique. Cette approche doit passer par un changement de modèle opérationnel en ce qui concerne l’architecture, les services financiers, l’approvisionnement, la gouvernance et la culture.  

Voici les enjeux de l’économie de jetons d’IA pour les leaders des fonctions de TI, des services financiers et de l’approvisionnement.

Qui est réellement à l’origine de l’utilisation?

L’utilisation de l’IA ne se limite plus aux équipes de TI ou d’ingénierie. Chaque fonction d’affaires peut désormais entreprendre des flux de travaux complexes d’IA, en ayant souvent peu de visibilité sur ce qui se passe en coulisses. À mesure que l’adoption de l’IA s’étend aux équipes des finances, des ressources humaines, des opérations et du service à la clientèle, ce phénomène entraîne ce que nous appelons la prolifération agentive. 

Concrètement, cette prolifération se manifeste de trois façons :

  1. Des agents fantômes développés et exploités sans être répertoriés dans un inventaire centralisé. 
  2. Des agents en doublon qui résolvent le même problème dans différents services. 
  3. Des agents qui s’engagent dans des boucles infinies, en réessayant, en révisant leur plan ou en utilisant des outils plus souvent que la tâche ne le justifie.

Certaines entreprises ont activement encouragé ce comportement. Des employés de Meta auraient créé un classement interne, appelé « Claudeonomics », afin d’identifier les utilisateurs ayant consommé le plus de jetons, alors qu’Amazon a ouvertement invité son personnel à maximiser l’utilisation de l’IA. Dans les deux entreprises, l’utilisation est devenue un motif de fierté avant d’être perçue comme une dépense.

Parallèlement, les dépenses liées à l’IA agentive se décentralisent comme jamais auparavant sous l’ancien modèle de licences. Le coût d’un employé pour l’entreprise était autrefois prévisible, limité par une licence de logiciel, peu importe la fréquence d’utilisation. Dans une économie de jetons, le coût d’un seul flux de travaux dépend de la complexité de celui-ci, du modèle choisi et du nombre d’étapes de raisonnement nécessaires. Les dépenses technologiques ne sont donc plus uniquement dictées par l’approvisionnement centralisé, mais aussi par des milliers de choix opérationnels chaque jour à l’échelle de l’entreprise.

Néanmoins, cela ne doit pas freiner l’adoption. C’est pourquoi les trois fonctions d’affaires suivantes doivent se pencher sur cet enjeu immédiatement, avant l’arrivée de la facture.

Motifs graphiques de pierre angulaire de l'IA

Finances – Approuver des prévisions qui sont impossibles d’établir avec certitude

Les chefs de la direction financière considèrent l’utilisation de jetons d’IA davantage comme un coût volatile de la chaîne d’approvisionnement que comme des frais fixes liés aux TI. Le problème immédiat est l’approbation d’analyses de rentabilité : comment un comité financier peut-il approuver un projet lorsque l’estimation des coûts sous-jacents repose nécessairement sur des niveaux de valeur plutôt que sur un nombre?

Avec le temps, les calculs compliquent le problème. Gartner anticipe une chute des coûts liés à l’exploitation d’un modèle d’IA de pointe de près de 90 % entre 2025 et 2030. Pourtant, l’organisation prévoit aussi une hausse des dépenses en IA par les entreprises, car les flux de travaux agentifs augmentent plus rapidement que les prix unitaires ne diminuent. Goldman Sachs estime également que l’utilisation des jetons augmentera de 24 fois d’ici 2030 en raison de l’adoption accrue des agents. Selon le paradoxe de Jevons, la chute des prix et la hausse des factures ne sont pas contradictoires.

En pratique, la définition d’une analyse de rentabilité « efficiente » doit changer. Un seul calcul invariable du rendement du capital investi ne sert à rien lorsque sa variable est l’utilisation. Les équipes des finances doivent travailler en amont avec des fourchettes d’estimation élargies et suivre en continu la valeur créée par rapport aux dépenses une fois le flux de travaux fonctionnel, plutôt que de se limiter à une estimation avant le lancement. Si un flux de travaux coûte 10 000 $ par jour en jetons, mais qu’il permet de réaliser des économies de 50 000 $ en frais généraux opérationnels, il s’agit d’une bonne affaire. Toutefois, l’équipe des finances doit bien voir ces deux indicateurs sur un tableau de bord.

Selon le magazine Fortune, Uber est un bon exemple de ce qui se produit lorsque cette corrélation fait défaut. L’entreprise aurait dépensé en quatre mois tout son budget de 2026 alloué aux outils de codage assistés par l’IA, après en avoir encouragé l’adoption grâce à un classement d’utilisation interne. Même après ces dépenses, le chef des opérations a fait remarquer que le lien entre la hausse des coûts liés aux jetons et les fonctionnalités réellement mises à la disposition des clients « n’est pas encore tout à fait établi ». Si une entreprise autant à l’avant garde en matière d’adoption de l’IA n’arrive toujours pas à établir de lien, il y a de fortes chances que la plupart des entreprises n’y arrivent pas non plus.

Motifs graphiques de pierre angulaire de l'IA

Approvisionnement et opérations –  Négocier des contrats avec une cible en mouvement

Les équipes d’approvisionnement sont habituées à négocier un nombre de licences fixe ou des réductions au volume. La tarification basée sur les jetons vient changer ce modèle. Les chefs des opérations et les chefs de la protection des données négocient désormais des contrats hybrides basés sur l’utilisation, où le modèle tarifaire lui-même peut changer en raison des réductions associées aux requêtes mises en cache, des limites des taux et de clauses de révision des prix absentes des contrats traditionnels pour les logiciels.

Il ne s’agit pas non plus d’un scénario hypothétique. Plusieurs grandes entreprises technologiques ont discuté publiquement des défis posés par la gestion d’une utilisation de l’IA en forte croissance, à mesure qu’elles accélèrent l’adoption l’IA. Cela témoigne d’un changement à plus grande échelle de la manière dont les organisations adaptent leurs pratiques d’approvisionnement, leurs modèles de tarification et leur gouvernance, à mesure que l’IA basée sur l’utilisation est adoptée par le grand public.

Motifs graphiques de pierre angulaire de l'IA

TI –  Gouverner l’IA

Les chefs de la direction informatique sont pris en étau entre une entreprise qui cherche à accélérer l’adoption de l’IA et un chef de la direction financière qui prône le contrôle des coûts. Il est irréaliste de penser que chaque développeur ou utilisateur de l’entreprise sait quel modèle offre le meilleur compromis entre coût et efficacité pour une tâche donnée. Sans repères clairs, les gens tendent à choisir par défaut le modèle le plus efficace et dispendieux mis à leur disposition.

Cela explique pourquoi la solution la plus durable n’est pas de former tout le personnel, mais plutôt d’établir une gouvernance. Les passerelles de routage sémantique qui s’interposent entre l’utilisateur et le modèle interceptent les requêtes, évaluent leur complexité et acheminent les tâches simples vers des modèles légers tout en réservant les modèles de pointe pour les raisonnements véritablement complexes. Elles deviennent des éléments aussi essentiels à la gouvernance de l’IA que les modèles eux-mêmes.

L’élément qui n’apparaît pas au tableau de bord : la culture

Rien de tout cela ne fonctionne sans un autre élément, souvent négligé par les entreprises : le savoir-faire ne se transmet pas de lui-même. Si une équipe des opérations découvre une structure de requête qui réduit l’utilisation de jetons de 40 % ou encore qu’un ingénieur conçoit un protocole de routage plus efficace, cette perspective n’est utile que si elle parvient au reste de l’organisation avant le prochain cycle budgétaire. Un atelier de formation ponctuel ne sert à rien si les modèles et les meilleures pratiques changent chaque mois. C’est en considérant l’efficacité des jetons comme une pratique commune en constante évolution, plutôt que comme une certification ponctuelle, que le cadre d’estimation, de gestion et de contrôle devient durable.

Nous avons nous-mêmes adopté cette approche.

Ce conseil ne s’applique pas qu’aux clients. Depuis l’adoption généralisée de l’IA chez CGI, nous utilisons davantage de jetons, à mesure que les assistants avancés de codage et les capacités agentives intègrent nos tâches courantes. Plutôt que de ralentir l’adoption, nous avons appliqué la même approche (inspirée de celle des opérations financières) que nous recommandons à nos clients : 

  • Optimiser l’accès aux capacités d’IA.
  • ntégrer les niveaux d’utilisation.
  • Encadrer les utilisateurs qui consomment beaucoup de jetons.
  • Superviser la création de valeur commerciale ainsi que les dépenses associées aux jetons.

Cela nous aide à développer notre approche en matière de gouvernance d’IA.

Nous collaborons avec de hauts dirigeants de différents secteurs d’activités afin de définir les méthodologies et les balises nécessaires pour bien gérer les coûts liés à l’IA.

Communiquez avec nous pour en savoir davantage

 

Sources : Cet article s'appuie sur le rapport et les articles suivants.