Aborder les questions relatives aux risques, à la confiance et à la sécurité dans les modèles d’IA

L’IA générative suscite une attention particulière dans les projets pilotes portant sur l’intelligence artificielle, mais les entreprises négligent bien souvent les risques jusqu’à ce que les modèles ou les applications d’IA soient déjà en cours de production ou même déjà exploités. Un programme complet de gestion de la confiance, du risque et de la sécurité de l’IA (AI trust, risk, security management ou TRiSM) vous aide à intégrer en amont les principes de gouvernance qui font cruellement défaut et à garantir de manière proactive que les systèmes d’IA sont conformes, équitables et fiables et qu’ils protègent la confidentialité des données.

Si vous hésitez encore sur le bien fondé de la démarche AI TRiSM, vous pouvez étudier les six facteurs de risque suivants, qui sont souvent imputables à un manque de compréhension de la part des utilisateurs de ce qui se passe réellement à l’intérieur des modèles d’intelligence artificielle.

• Ne vous contentez pas simplement de définir ce qui caractérise l’IA ; soyez en mesure de formuler :

  • des précisions ou arguments qui, pour un public spécifique, illustrent clairement le fonctionnement d’un modèle ;

  • les forces et les faiblesses du modèle ;

  • son comportement éventuel ;

  • tout biais potentiel.

• Si vous disposez de ces informations, communiquez les ensembles de données utilisés pour le processus d’apprentissage automatique et les méthodes utilisées pour sélectionner ces données. Cela peut permettre de mettre en évidence des sources potentielles de manque d’objectivité.

• L’IA générative peut potentiellement transformer les modalités qui régissent la concurrence et les activités des entreprises, mais elle est également synonyme de nouveaux risques qui ne peuvent pas être traités par des mécanismes de contrôle conventionnels.

• Les risques associés aux applications d’IA générative hébergées et basées sur le cloud, entre autres, sont considérables et évoluent rapidement.

• Lorsque votre entreprise intègre des modèles et des outils d’IA de fournisseurs tiers, vous incorporez également les vastes ensembles de données utilisés pour former ces modèles d’IA.

• Vos utilisateurs pourraient accéder à des données confidentielles dans les modèles d’IA qui ont été fournies par d’autres entreprises, ce qui pourrait être source de conflits sur le plan règlementaire, commercial et porter atteinte à la réputation de votre société.

• Des processus spécialisés de gestion des risques doivent être intégrés aux opérations des modèles d’IA (ModelOps) pour que l’IA puisse assurer un fonctionnement conforme, équitable et éthique.

• Le nombre d’outils prêts à l’emploi étant relativement limité, vous devrez probablement développer des solutions personnalisées pour votre processus de gestion de l’IA.

• Les mesures de contrôle doivent être appliquées en continu : par exemple, tout au long du développement du modèle et de l’application, des tests et du déploiement, ainsi que des opérations courantes.

• Les attaques perpétrées contre l’IA (qu’elles soient internes ou intégrées dans des modèles tiers) entraînent divers types de préjudices et de pertes pour l’entreprise, par exemple, des préjudices financiers, des atteintes à la réputation ou à la propriété intellectuelle, aux informations à caractère personnel ou aux données propriétaires. 

• Prévoyez des mesures de contrôle et des processus spécialisés pour tester, valider et améliorer la robustesse des flux de travail de l’IA, en plus de ceux utilisés pour d’autres types d’applications.

• La loi européenne sur l’IA et d’autres textes règlementaires en Amérique du Nord, en Chine et en Inde établissent déjà des règles pour gérer les risques liés aux applications de l’IA.

• Soyez prêt à répondre aux exigences, au-delà de ce qui est déjà requis par des règlementations telles que celles relatives à la confidentialité des données.