L’IA dans l’organisation : une surface d’attaque élargie, des risques accrus
Les architectures modernes d’intelligence artificielle, en particulier les agents autonomes et les modèles génératifs à grande échelle, ne font pas qu’introduire de nouveaux risques; elles amplifient les faiblesses architecturales systémiques.
En élargissant la surface d’attaque et en introduisant des vulnérabilités émergentes et imprévisibles, ces technologies complexifient le paysage de la sécurité à un point tel que les équipes de surveillance traditionnelles peinent à le maîtriser.
Qu’est-ce que la sécurité de l’IA chez CGI?
CGI aide les organisations à s’appuyer sur de solides bases de conformité réglementaire et de gouvernance, tout en conservant l’agilité nécessaire pour suivre le rythme des avancées rapides de l’IA et en tirant parti des innovations de fournisseurs de premier plan afin d’obtenir de meilleurs résultats de la façon la plus sécuritaire possible.
De la gouvernance de l’IA à AISecOps
Nous offrons des services de sécurité couvrant l’ensemble du cycle de vie de l’IA afin de transformer vos investissements en résultats.
Prête pour l’IA générative et agentique
Nous vous aidons à sécuriser les données d’entraînement et les modèles de fondation, ainsi que les invites, les pipelines, les API d’inférence et les protocoles d’échange entre agents (MCP/A2A).
Démarrer, accélérer ou recommencer : Appuyez-vous sur CGI pour répondre à la nouvelle vague d’enjeux de sécurité sur l’ensemble du cycle de vie de l’IA
Que votre défi actuel soit une gouvernance insuffisante, l’IA fantôme, la prévention des fuites de données (DLP) ou un autre enjeu, les experts en sécurité et en IA de CGI collaborent avec des fournisseurs clés pour vous aider à résoudre ce qui vous préoccupe. Favorisez l’innovation sécurisée, rassurez la haute direction et mobilisez le conseil d’administration grâce à un rendement démontré des investissements en IA.
Découvrir et gouverner |
Sécuriser les données et les pipelines |
Sécuriser les modèles et l’exécution |
Tester et valider |
Surveiller et intervenir |
| Objectif Atténuer l’« IA fantôme » en créant un inventaire dynamique de tous les modèles autorisés et non autorisés. |
Objectif Assurer un traitement des données qui préserve la confidentialité et l’intégrité de l’environnement d’entraînement. |
Objectif Protéger la couche d’inférence grâce à des pare-feu LLM avancés et à des protocoles de sécurité interopérables. |
Objectif Passer des « bonnes intentions » à une « sécurité vérifiable » grâce à des tests de résistance rigoureux avant la mise en production. |
Objectif Mettre en œuvre une détection et une réponse spécialisées pour l’IA (AIDR) afin de gérer le cycle de vie unique des menaces liées à l’IA. |
| Résultat Mise en œuvre de cotes de risque automatisées, de contrôles d’utilisation en temps réel et d’une posture de sécurité unifiée qui aligne l’adoption de l’IA sur les politiques de l’entreprise et la réputation de la marque. |
Résultat Détection automatisée des données sensibles dans les pipelines et application de configurations strictes pour prévenir la contamination ou l’exfiltration non autorisée de la propriété intellectuelle. |
Résultat Inspection rigoureuse des invites (entrées) et des réponses (sorties), tout en utilisant le protocole Model Context Protocol (MCP) pour sécuriser les communications autonomes d’agent à agent (A2A). |
Résultat Exécution d’exercices de red teaming manuels et automatisés pour repérer les vulnérabilités, les biais et les faiblesses adversariales, afin que chaque modèle soit prêt pour l’audit dès le premier jour. |
Résultat Surveillance proactive des anomalies comportementales et de la dérive des modèles, permettant une intervention rapide et une remédiation automatisée des incidents d’exécution. |
De nombreuses organisations ont « construit l’avion en plein vol », en ajoutant par morceaux des capacités d’intelligence artificielle et d’apprentissage machine (AI/ML) à leur environnement, que ce soit par des projets de développement logiciel ou par l’activation de nouvelles fonctionnalités dans les produits des fournisseurs. Dans bien des cas, les équipes TI découvrent les menaces pendant que la technologie est déjà en fonction, tandis que les règlements émergent alors que les LLM et les applications agentiques sont en production et pleinement intégrés à l’écosystème TI. Par conséquent, les leaders en sécurité doivent rapidement réévaluer les risques, redéfinir leurs stratégies et adapter leurs processus afin d’inclure les identités non humaines (NHI) et de contrôler l’accès aux données.
Industries : agir rapidement pour répondre aux nouveaux risques et permettre aux responsables de la sécurité de combler les lacunes de sécurité
Les industries adaptent leurs lignes directrices pour y intégrer l’IA, l’IA générative et les usages agentiques. Au Canada, on peut citer la gestion du risque lié aux modèles dans les services financiers (OSFI-23) et les lignes directrices de Santé Canada sur les demandes d’homologation des instruments médicaux utilisant l’apprentissage machine.
Gouvernements provinciaux et locaux : élaborer activement des règlements pour encadrer l’utilisation de l’IA
Pensons notamment à la Directive sur l’utilisation responsable de l’IA de l’Ontario, à la Loi 25 du Québec et au mandat de Terre-Neuve-et-Labrador en matière d’IA dans les marchés publics, qui influencent non seulement les fonctionnaires, mais aussi les entreprises qui vendent des services aux gouvernements et orientent les choix technologiques.
Gouvernement fédéral : lancer un cadre national d’IA plus agile et axé sur la sécurité
Le Groupe de travail sur la stratégie en matière d’IA est dirigé par le ministre de l’Intelligence artificielle et de l’Innovation numérique. Sa consultation publique initiale, « Mobilisation sur la prochaine stratégie du Canada en matière d’IA », a rejoint 11 300 participants et alimentera les prochaines discussions sur le cadre.
Consultez les contributions à la stratégie d’IA du Canada
Pourquoi cela nous tient à cœur : le cadre d’utilisation responsable de l’IA de CGI
Lorsque nous avons commencé à intégrer des outils d’intelligence artificielle dans notre pile technologique, l’apprentissage machine n’était pas aussi répandu qu’aujourd’hui. Une chose est certaine : la direction de CGI a toujours fait preuve de vigilance à l’égard des risques, qu’ils concernent l’entreprise ou nos clients.
Il n’est donc pas surprenant qu’au fil des ans, nos Assises de gestion aient été enrichies d’un solide cadre d’utilisation responsable de l’IA, conçu pour doter le groupe de travail de principes, de processus et d’outils clairs, alignés sur les valeurs humaines et les droits individuels, afin de favoriser l’adoption sécuritaire de toutes les technologies d’IA.
Tous les services et solutions d’IA que CGI conçoit, développe ou exploite doivent respecter trois principes : robustesse, éthique et fiabilité.