Gouvernance des copilotes génératifs: checklist pratique pour les directeurs informatiques

En 2026, la gouvernance des copilotes génératifs n’est plus un sujet exploratoire réservé aux équipes innovation. Pour un directeur informatique, elle devient un chantier structurant, avec des attentes explicites en matière de sécurité, de conformité, de pilotage des risques et de preuves d’exécution. Le contexte réglementaire européen accélère ce mouvement : certaines obligations liées à l’AI Act s’appliquent déjà depuis le 2 février 2025 pour les pratiques interdites, les définitions et l’AI literacy, tandis que les règles de gouvernance applicables aux modèles d’IA à usage général sont en vigueur depuis le 2 août 2025. Autrement dit, la question n’est plus de savoir s’il faut gouverner, mais comment le faire de façon praticable.

Dans le même temps, le marché entre dans une phase d’industrialisation rapide. Entre la multiplication des cas d’usage, la montée des agents, la pression métier pour gagner du temps et l’explosion de l’offre fournisseurs, la dette de gouvernance peut se constituer très vite. Une checklist pratique pour les directeurs informatiques permet justement de transformer des principes parfois abstraits en contrôles concrets, datés, attribués et auditables. C’est l’approche la plus réaliste pour encadrer l’innovation sans la bloquer.

Commencer par un registre vivant des copilotes, agents et cas d’usage

La première erreur consiste souvent à discuter sécurité ou conformité avant même de savoir précisément quels copilotes sont utilisés. Pourtant, l’inventaire est la base de tout le reste. Le NIST structure la gestion du risque IA autour des fonctions Govern, Map, Measure, Manage, mais rappelle lui-même que son Playbook n’est ni une checklist ni une suite d’étapes à appliquer aveuglément. Pour un DSI, cela implique de traduire ces principes en un registre interne réellement exploitable.

Ce registre doit couvrir au minimum le nom du copilote, le fournisseur, le modèle utilisé, le type de déploiement, les métiers concernés, les données manipulées, les connecteurs activés, les actions permises, les environnements cibles et le propriétaire métier et technique. Il faut aussi distinguer les outils officiellement homologués des usages observés sur le terrain. C’est particulièrement important face au phénomène de shadow AI, c’est-à-dire l’usage non approuvé d’applications d’IA générative par les collaborateurs.

Un registre utile n’est pas un fichier statique oublié dans un dossier SharePoint. Il doit vivre avec des revues périodiques, des statuts clairs et des preuves attachées : validation sécurité, analyse RGPD, résultats de tests, dates de revue, niveau de criticité, décisions d’acceptation des risques. C’est cette granularité qui permet ensuite de piloter un portefeuille de copilotes à l’échelle, et non une simple collection de pilotes isolés.

Classer les copilotes selon leur niveau d’autonomie réelle

Tous les copilotes ne présentent pas le même niveau de risque. Un assistant qui résume des documents n’a pas le même impact qu’un agent capable de déclencher une action dans un CRM, un ERP ou un outil RH. C’est pourquoi la gouvernance doit intégrer une classification par niveau d’agency. OWASP identifie l’excessive agency comme un risque critique, et Microsoft insiste désormais sur une gouvernance spécifique des agents.

Une classification simple et opérationnelle peut comporter quatre niveaux : copilote de consultation, copilote de recommandation, copilote d’exécution supervisée, agent autonome borné. À chaque niveau doivent correspondre des contrôles adaptés. Plus le système peut agir, plus il faut encadrer l’authentification, les permissions, les approbations, les limites d’autonomie, les scénarios interdits et la journalisation des décisions exécutées.

Cette distinction aide aussi à mieux dialoguer avec les métiers. Elle évite de traiter tous les usages de la même manière, ce qui conduit souvent soit à une sur-bureaucratie, soit à une sous-protection. Pour un DSI, c’est un levier pragmatique : calibrer les exigences de gouvernance selon les capacités effectives du copilote, et non selon le discours marketing du fournisseur.

Intégrer la conformité AI Act, RGPD et AI literacy dans la checklist

La gouvernance des copilotes génératifs doit désormais être pensée avec un calendrier réglementaire précis. Côté européen, les jalons de 2025 imposent de sortir d’une approche informelle. Une checklist sérieuse doit donc comporter des obligations datées, des propriétaires identifiés, des preuves attendues et des points de contrôle réguliers. Cela vaut autant pour la documentation que pour la formation, les choix de fournisseurs et la surveillance des usages.

Le volet données personnelles reste central. La CNIL rappelle qu’un modèle d’IA peut rester soumis au RGPD du fait de ses capacités de mémorisation, et l’avis du CEPD de décembre 2024 confirme que le règlement s’applique dans de nombreux cas aux modèles entraînés sur des données personnelles. Pour un DSI, cela se traduit par une vérification systématique de la base légale, de la minimisation, de l’information des personnes, des journaux de prompts, des transferts, des sous-traitants et des durées de conservation.

La checklist doit également intégrer une étape de qualification des jeux de données et des connecteurs. Le CEPD met en avant des critères concrets : caractère public ou non des données, relation avec la personne concernée, contexte de collecte, source et usages ultérieurs possibles du modèle. Enfin, l’AI literacy ne doit pas être traitée comme un simple module e-learning. Pour être crédible, elle doit être adaptée aux rôles : utilisateurs, managers, administrateurs, développeurs, acheteurs et RSSI n’ont pas les mêmes besoins.

Traiter le prompt comme un vecteur de fuite de données à part entière

La sécurité des copilotes ne peut plus se limiter aux fichiers joints ou aux bases documentaires. Les prompts eux-mêmes constituent un vecteur de fuite majeur. C’est un point désormais bien documenté par les fournisseurs de sécurité : les contrôles DLP doivent pouvoir empêcher non seulement l’envoi de fichiers sensibles, mais aussi la saisie de données confidentielles dans des applications GenAI. Pour un DSI, c’est un changement de paradigme très concret.

Dans la pratique, la checklist doit inclure la découverte des usages réels, la catégorisation des applications IA, les politiques d’accès, les contrôles navigateur, les capacités CASB ou SASE, ainsi que les règles DLP appliquées aux invites textuelles. Si une organisation ne voit pas ce qui est saisi dans les outils approuvés ou non approuvés, elle ne contrôle pas réellement son exposition. L’enjeu devient encore plus fort à mesure que l’adoption augmente et que les gains de productivité encouragent un usage quotidien.

Il faut aussi prévoir des règles simples pour les collaborateurs : quelles données ne doivent jamais être saisies, quels exemples sont autorisés, quels types de documents nécessitent une version d’entreprise homologuée, comment anonymiser ou pseudonymiser un prompt, et à qui remonter un incident. La bonne gouvernance n’est pas seulement technique ; elle doit réduire le risque au moment où l’utilisateur agit.

Gouverner la chaîne de valeur complète : modèles, données, connecteurs et plugins

Un copilote génératif ne se résume pas à un modèle. Il s’appuie souvent sur une chaîne de valeur composite : fournisseur cloud, modèle tiers, corpus RAG, base vectorielle, orchestrateur, plugin, API métier, extensions navigateur et systèmes d’identité. OWASP inclut explicitement les supply chain vulnerabilities parmi les risques clés, et les recommandations conjointes CISA/NSA/FBI insistent sur la protection des données utilisées pour entraîner et opérer les systèmes d’IA sur l’ensemble de leur cycle de vie.

Pour un DSI, cela implique une revue d’homologation fournisseur par fournisseur. Il faut vérifier les politiques de données, les usages d’entraînement, le chiffrement au repos et en transit, les options SSO, SCIM et RBAC, les capacités d’export et de suppression, la résidence des données, la rétention et la sous-traitance ultérieure. Dans un environnement d’entreprise, ces éléments ne peuvent plus être relégués aux annexes contractuelles : ils doivent devenir des paramètres de design et des critères de décision.

Une attention particulière doit être portée aux connecteurs et aux actions tierces. Dès qu’un GPT, un agent ou un plugin appelle un service externe, une partie de l’entrée utilisateur peut être transmise hors du périmètre initial. La checklist doit donc prévoir une liste blanche d’intégrations autorisées, une minimisation stricte des données envoyées, une revue contractuelle, une validation sécurité et une journalisation des flux. C’est souvent dans ces interconnexions que se concentrent les risques les moins visibles.

Renforcer les contrôles de sécurité avec les référentiels NIST, OWASP et CISA

Pour industrialiser la sécurité, il est utile de s’appuyer sur des référentiels déjà structurés. Le Generative AI Profile du NIST a justement été conçu pour aider les organisations à gérer les risques propres ou amplifiés par l’IA générative. Il couvre notamment la gouvernance, la provenance du contenu, les tests avant déploiement et la divulgation d’incidents. De son côté, l’OWASP LLM Top 10:2025 fournit une base très concrète pour transformer les risques en lignes de contrôle.

Un DSI peut ainsi convertir chaque risque majeur en exigence vérifiable : protection contre le training data poisoning, résistance au model denial of service, maîtrise des vulnérabilités de la chaîne de dépendances, prévention de la divulgation d’informations sensibles, revue de la conception des plugins, limitation de l’autonomie, prévention de la surconfiance et protection contre le vol de modèle. L’intérêt d’une telle approche est sa lisibilité : chaque contrôle est associé à un test, un propriétaire, une preuve et une fréquence de revue.

Le risque de overreliance mérite d’ailleurs une attention spécifique. Il ne s’agit pas uniquement d’un problème technique, mais d’un risque de gouvernance métier. La checklist doit encadrer la validation humaine, les seuils d’usage, les cas interdits, les avertissements affichés aux utilisateurs, les tests de dérive et la séparation entre aide à la décision et décision automatisée. Beaucoup d’incidents ne viennent pas d’un modèle « cassé », mais d’une confiance excessive accordée à une sortie plausible.

Tester avant la mise en production et encadrer la gouvernance RAG

Un copilote connecté à des connaissances internes nécessite des contrôles de préproduction plus exigeants qu’un démonstrateur. Les tests doivent couvrir la robustesse fonctionnelle, la sécurité, la conformité et la qualité des réponses. Les recommandations récentes en matière d’architecture GenAI insistent notamment sur le red teaming et sur les tentatives d’injection d’informations malicieuses ou fausses dans les bases de connaissances afin d’évaluer le risque d’empoisonnement.

Dans une checklist opérationnelle, cela se traduit par des tests de prompts adverses, des scénarios de fuite de données, des essais de contournement de garde-fous, des vérifications d’accès aux sources RAG, des mesures de taux d’hallucination sur un corpus métier, et des exercices ciblés sur les connecteurs. Il faut aussi vérifier la provenance des contenus, leur fraîcheur, les règles d’indexation et les mécanismes de suppression. Une base documentaire obsolète ou mal filtrée peut suffire à rendre un copilote dangereux malgré un bon modèle.

Cette phase de préproduction doit enfin déboucher sur une décision explicite de passage en production. Pas une validation informelle en réunion, mais une approbation tracée avec conditions, limites d’usage, métriques de suivi, plan de rollback et propriétaire nommé. C’est la différence entre une expérimentation inspirante et un service numérique gouverné.

Exiger des preuves machine-collectables et organiser l’amélioration continue

Une gouvernance mature ne repose pas sur des politiques PDF seules. Elle exige des preuves exportables, actualisées et si possible collectées automatiquement. C’est l’un des enseignements les plus utiles des frameworks cloud récents : les contrôles deviennent auditables quand ils s’appuient sur des journaux, des inventaires, des scans, des résultats d’évaluation, des métriques d’usage et des traces d’approbation. Pour un DSI, cette exigence change la qualité du pilotage.

La norme ISO/IEC 42001:2023 offre ici un excellent squelette. En tant que première norme de système de management de l’IA, elle structure la gouvernance dans une logique PDCA : politique, objectifs, rôles, contrôle documentaire, audit, revue de direction, gestion des incidents et amélioration continue. Elle aide à transformer une succession d’initiatives IA en dispositif auditable, sans opposer innovation et maîtrise des risques. C’est aussi un langage compréhensible pour la direction générale, les auditeurs et les équipes opérationnelles.

Concrètement, la checklist finale doit au minimum couvrir douze titres de contrôle : inventaire des copilotes et agents, classification par niveau d’autonomie, base légale et données personnelles, sécurité des prompts et DLP, approbation des connecteurs et plugins, politique fournisseurs et modèles, évaluations avant mise en production, logs et monitoring, revue des incidents IA, AI literacy et formation, conformité AI Act et RGPD, amélioration continue alignée sur NIST et ISO. C’est cette discipline de portefeuille qui permettra aux DSI d’absorber la montée en charge des usages dans les 12 à 18 prochains mois.

La gouvernance des copilotes génératifs doit donc être conçue comme une capacité d’entreprise, pas comme un contrôle ponctuel collé à un projet. Elle croise sécurité, conformité, architecture, achats, RH, communication, data et métiers. Plus tôt cette gouvernance est structurée, plus elle réduit la dette future et facilite l’industrialisation. À l’inverse, attendre que les usages explosent revient souvent à courir après des risques déjà installés.

Pour un directeur informatique, la bonne approche consiste à partir d’une checklist contextualisée, alignée sur les cadres de référence mais adaptée à la réalité de son organisation. C’est d’ailleurs le vrai message des standards récents : il ne s’agit pas d’appliquer un modèle unique, mais de bâtir un système de contrôle cohérent, mesurable et évolutif. En matière de gouvernance des copilotes génératifs, la maturité ne se juge plus à l’intention, mais à la qualité des décisions, des preuves et des arbitrages produits dans la durée.