Gouvernance de l'IA dans le secteur des télécommunications : gérer les risques liés à l'IA agentique

Au cours des dernières années, la plupart des opérateurs de télécommunications nord-américains ont géré l’IA selon un modèle simple : vérification avant action. Les cas d’utilisation étaient répertoriés dans des inventaires statiques, et les équipes mettaient en place des comités d’approbation, documentaient les cas d’utilisation de l’IA et exigeaient une validation humaine avant que les résultats générés par l’IA ne parviennent aux clients ou aux systèmes opérationnels.

Cette stratégie reposait sur un postulat clair : un humain examinerait le résultat avant que toute action ne soit entreprise. Pour les applications d’IA supervisées, ces contrôles s’avéraient généralement efficaces.

L’IA agentique bouleverse ce modèle opérationnel.

Au lieu de générer des recommandations destinées à être examinées par un humain, les systèmes « agentiques » peuvent agir de manière autonome pour atteindre un objectif. Dans les environnements de télécommunications, cela peut signifier la mise en service d’un service, le déclenchement d’une réponse réseau, la mise à jour d’un dossier client ou la résolution d’un problème d’assistance sur plusieurs systèmes, sans attendre l’approbation humaine.

Bon nombre des environnements où ces agents font leur apparition, notamment les OSS (systèmes de support opérationnel) et les BSS (systèmes de support métier), sous-tendent les opérations réseau essentielles et les processus liés à l’expérience client. Cela crée un défi de gouvernance que les contrôles traditionnels basés sur la vérification n’ont pas été conçus pour relever, en particulier lorsque des systèmes autonomes exécutent des actions dans des environnements de production.

Pourquoi l'IA agentique met en évidence les lacunes de la gouvernance dans le secteur des télécommunications.

L'adoption de l'IA agentique progresse plus rapidement que ne le permettent de nombreux programmes de gouvernance. Alors que les opérateurs de télécommunications étendent l'IA aux opérations clients, à la fourniture de services et à la gestion des réseaux, le défi consiste à garantir que ces agents restent responsables dès lors qu'ils commencent à intervenir au sein des systèmes de production.

Selon une récente étude sectorielle, 74 % des entreprises prévoient de déployer l’IA agentique d’ici 2027, mais seules 21 % disposent de modèles de gouvernance aboutis pour les agents autonomes. Ces résultats mettent en évidence un écart significatif entre les projets d’adoption et la maturité de la gouvernance, soulevant des questions importantes sur la manière dont les systèmes autonomes seront gouvernés et déployés à grande échelle dans les environnements de production.¹

La différence entre la gouvernance de l’IA supervisée et celle de l’IA agentique réside dans la manière dont la responsabilité est établie.

IA supervisée :

Le système a-t-il produit le résultat attendu ?

IA agentique :

L’organisation est-elle en mesure d’expliquer et de contrôler les actions entreprises par le système ?

Lorsque les agents opèrent sur plusieurs systèmes — en échangeant des informations de manière séquentielle entre les plateformes de facturation, de service client et de réseau —, le traçage de la responsabilité nécessite une visibilité approfondie sur la propriété, les chemins décisionnels et la traçabilité des données. Sans traçabilité des interactions de bout en bout, une erreur peut se propager en cascade à travers les systèmes sans être détectée, ce qui oblige les équipes à constater qu’une défaillance en production s’est produite, sans toutefois pouvoir déterminer où la décision a été prise ni qui en est responsable.

Les prévisions du secteur indiquent que des agents IA dédiés à des tâches spécifiques pourraient être intégrés dans 40 % des applications logicielles d’entreprise d’ici fin 2026, contre moins de 5 % en 2025, ce qui augmentera le nombre de systèmes autonomes que les organisations devront surveiller et gouverner.²

Les enjeux de la gouvernance de l'IA aux États-Unis et au Canada.

Alors que les États-Unis et le Canada mettent en œuvre des voies réglementaires distinctes pour les systèmes autonomes, les opérateurs de télécommunications transfrontaliers doivent adapter leurs cadres de gouvernance afin de gérer simultanément deux environnements juridiques en constante évolution.

Pour les opérateurs de télécommunications transfrontaliers, les principes de gouvernance qui s'appliquent dans une juridiction peuvent ne pas répondre aux attentes dans une autre, ce qui engendre des risques opérationnels et de conformité qui pourraient être évités.

Les réformes canadiennes proposées en matière de protection de la vie privée et d’IA prévoient des sanctions pouvant atteindre 25 millions de dollars canadiens ou 5 % du chiffre d’affaires mondial, plaçant ainsi la gouvernance de l’IA au même rang que d’autres domaines de risque d’entreprise qui font déjà l’objet d’une attention particulière de la part des conseils d’administration.³

De nombreuses organisations utilisent le cadre de gestion des risques liés à l’IA du NIST,⁴ élaboré par l’Institut national américain des normes et des technologies (NIST), ainsi que la norme ISO/IEC 42001,⁵ la norme internationale relative aux systèmes de gestion de la gouvernance de l’IA, comme structures fondamentales. Bien qu’aucun de ces cadres n’ait été conçu spécifiquement pour l’IA agentique, ils offrent tous deux une approche commune pour la gestion des risques, la responsabilité et la surveillance dans différentes juridictions.

La loi du Colorado sur l’IA (Colorado AI Act) constitue l’un des exemples les plus évidents de mise en œuvre d’une réglementation de l’IA au niveau des États, tandis que les orientations de la Commission fédérale du commerce (FTC), principale autorité de régulation en matière de protection des consommateurs aux États-Unis, continuent de façonner les attentes en matière de transparence, de responsabilité et d’utilisation responsable des systèmes d’IA.

Mise en place d’un modèle de gouvernance prêt pour la production dédié à l’IA agentique.

Le défi ne réside pas dans l’absence de politiques de gouvernance, dont disposent déjà la plupart des opérateurs de télécommunications. Au contraire, l’IA agentique nécessite que la gouvernance fonctionne comme une infrastructure opérationnelle, intégrée directement dans les environnements de production plutôt que de se limiter à une documentation statique et à des processus de révision a posteriori.

Trois capacités constituent le fondement d’un modèle de gouvernance capable de fonctionner à l’échelle des télécommunications.

1. Inventaire des agents et liaison d’identité

Chaque agent déployé doit avoir un objectif défini, un périmètre d’accès, un responsable opérationnel et une identité système. Sans inventaire centralisé, les organisations ne peuvent pas établir de manière fiable les paramètres de gouvernance de base, notamment en ce qui concerne le lieu d’intervention des agents, les données auxquelles ils accèdent et la personne qui assume la responsabilité finale de leurs résultats.

2. Classification par niveau d’autonomie

Tous les agents ne doivent pas nécessairement fonctionner avec le même niveau d’autonomie. Un agent de support en contact avec la clientèle, un agent de facturation et un agent d’exploitation du réseau présentent des profils de risque très différents. La définition de niveaux d’autonomie clairs aide les organisations à déterminer dans quels cas une validation humaine est requise, dans quels cas des actions automatisées sont acceptables et dans quels cas des mesures de sécurité supplémentaires doivent s’appliquer.

3. Pistes d’audit intégrées au flux de travail

Si une organisation ne peut pas retracer les actions d’un agent, les informations sur lesquelles il s’est appuyé ou les systèmes en aval affectés, il devient difficile d’enquêter sur les incidents, de valider les décisions et de démontrer la conformité.

Dans la pratique, l’auditabilité et la traçabilité des données doivent être intégrées dès le départ dans l’architecture de déploiement, plutôt que d’être reconstituées après un incident. Ces capacités intégrées permettent aux organisations de suivre en continu les agents actifs, de vérifier les limites des autorisations et de cartographier les flux décisionnels à travers les systèmes de production. Dans les environnements de télécommunications, ces fonctionnalités assurent une supervision des flux de travail liés aux clients, à la facturation et au réseau, où les actions autonomes s’étendent sur plusieurs systèmes.

Pourquoi le secteur des télécommunications nécessite une approche différente en matière de gouvernance de l’IA.

La plupart des organisations qui déploient l’IA gèrent les risques liés aux processus métier. Les opérateurs de télécommunications gèrent quant à eux ces risques au sein de systèmes qui soutiennent des infrastructures de communication critiques.

Un agent mal géré dans un processus de service client peut nuire à l’expérience client, mais un agent mal géré dans la gestion du réseau comporte des enjeux bien plus importants. Lorsque des systèmes autonomes sont chargés de rediriger le trafic, de hiérarchiser les interventions de maintenance ou d’optimiser la consommation d’énergie sur une infrastructure en service, les défaillances entraînent des conséquences opérationnelles de grande ampleur.

Le secteur des télécommunications débat depuis des années des niveaux de maturité des réseaux autonomes, allant du niveau L0 (opérations entièrement manuelles) au niveau L5 (réseaux entièrement autonomes). La plupart des opérateurs se situent encore entre les niveaux L2 et L3, où l’IA facilite la prise de décision, mais où l’humain conserve l’autorité finale. À mesure que les opérateurs évoluent vers des niveaux plus élevés d’autonomie des réseaux, le défi de la gouvernance prend une dimension fondamentalement différente. L’objectif est de déterminer où la prise de décision autonome a sa place et où la supervision humaine est obligatoire, et non pas simplement d’approuver des cas d’utilisation de l’IA.

Lors du MWC 2026, l’un des événements les plus influents du secteur des télécommunications, de nombreux opérateurs ont décrit un schéma d’adoption similaire : déployer d’abord l’IA agentique dans des environnements dotés de boucles de rétroaction claires et à impact opérationnel limité, puis étendre son utilisation aux environnements OSS et BSS à mesure que les contrôles de gouvernance mûrissent et que la confiance s’accroît.

La gouvernance repose également sur une base de sécurité solide. Les agents opérant à la fois sur les réseaux et dans les systèmes d’entreprise nécessitent des contrôles d’identité rigoureux, une surveillance comportementale et une architecture « Zero Trust », dans laquelle l’accès est vérifié en continu plutôt que d’être automatiquement accordé en fonction de l’emplacement sur le réseau.

Comment la gouvernance de l'IA influence les décisions des entreprises.

Pour les opérateurs de télécommunications au service d'une clientèle d'entreprises, la gouvernance de l'IA s'impose de plus en plus dans les discussions relatives à l'évaluation et à l'acquisition des technologies. Les organisations qui investissent dans la 5G privée, l'automatisation industrielle et les communications critiques accordent une importance croissante à la manière dont les systèmes basés sur l'IA sont gouvernés une fois déployés en production.

Les questions, qui portaient autrefois principalement sur les performances et les fonctionnalités, s’étendent désormais à la responsabilité, à la supervision et au contrôle opérationnel. Les acheteurs professionnels souhaitent de plus en plus comprendre :

À quels systèmes les agents autonomes peuvent-ils accéder ?
Comment les décisions des agents sont-elles surveillées et contrôlées
À quels niveaux la supervision et l’intervention humaines interviennent-elles
Comment les incidents peuvent être examinés et résolus

Pour les opérateurs télécoms, cela crée une nouvelle exigence opérationnelle. Les informations relatives à la gouvernance ne peuvent plus rester l’apanage exclusif des équipes chargées de la conformité ou de la sécurité. Elles doivent être accessibles aux équipes responsables de la relation client, de la conception des solutions et de la fourniture des services.

À mesure que l’adoption de l’IA se généralise, la gouvernance devient un élément clé à prendre en compte lors des audits de sécurité, des évaluations des risques et de la planification des déploiements. Une visibilité claire sur le fonctionnement des systèmes autonomes et sur la manière dont leurs décisions sont contrôlées contribue à renforcer la confiance dans les services basés sur l’IA en production.

Conclusion.

L’IA agentique modifie le cadre dans lequel s’exerce la gouvernance.

Avec l’IA supervisée, la gouvernance consistait à examiner les résultats avant toute action. Avec l’IA agentique, la gouvernance doit s’inscrire au cœur même du flux de travail, en aidant les organisations à maintenir une supervision et à comprendre comment les décisions sont prises au sein des systèmes en temps réel.

Pour les opérateurs de télécommunications, cette évolution prend toute son importance à mesure que les agents autonomes s’intègrent de plus en plus profondément dans les environnements OSS, BSS, les opérations clients et les réseaux. Les exigences en matière de gouvernance s’étendent parallèlement à cette adoption, créant un besoin de visibilité accrue sur l’activité des agents, les processus décisionnels, les interactions entre les systèmes et la responsabilité au sein des flux de travail de production.

Si votre entreprise cherche à définir à quoi devrait ressembler une gouvernance de l'IA prête pour la production dans les environnements réseau, clients et opérationnels, l'AI Execution Accelerator de Randstad Digital permet de relier la gouvernance, les données, la sécurité et l'architecture de déploiement au sein d'un cadre d'exécution unique.

Contactez notre équipe dès aujourd’hui.

Références :

tags: