Comment rendre l’intelligence artificielle plus sûre et plus efficace ?

19 octobre 2022

Auteure : Lori Perri

Voici comment et pourquoi les entreprises qui appliquent une gestion rigoureuse de la confiance, du risque et de la sécurité en matière d’intelligence artificielle (AI TRiSM) mettent en production des modèles d’IA plus performants.

Êtes-vous prêt à adopter une charte des droits de l’IA ? Un récent projet américain vise à protéger la société contre les dangers de l’IA, en rappelant à tous les développeurs et utilisateurs de modèles d’IA qu’ils doivent intégrer des garanties dans leurs modèles et stratégies d’IA. Une approche rigoureuse du modèle AI TRiSM est nécessaire. 

Gartner définit l’AI TRiSM comme une structure qui permet de garantir la gouvernance, la fiabilité, l’équité, la fiabilité, la robustesse, l’efficacité et la confidentialité des modèles d’IA. Elle comporte des solutions, des techniques et des processus pour assurer une intelligibilité et une capacité à interpréter les modèles, la confidentialité de l’IA, l’exploitation des modèles et la résistance aux attaques par des tiers pour l’entreprise et ses clients.

Télécharger l’eBook :  votre guide détaillé des 10 tendances technologiques stratégiques de Gartner pour 2023

« Les responsables informatiques doivent consacrer du temps et des ressources à l’adoption de l’approche AI TRiSM. Ceux qui le feront constateront de meilleurs résultats en termes d’adoption de l’IA, d’atteinte des objectifs commerciaux et d’acceptation par les utilisateurs internes et externes déclare Avivah Litan, vice-présidente chez Gartner. « Les menaces et les failles de l’IA (malveillantes ou bénignes) sont des phénomènes continus et en constante évolution. L’approche AI TRiSM doit donc être un effort continu et non un exercice ponctuel. »

Pourquoi l’approche AI TRiSM est une technologie tendance

Gartner prévoit que d’ici 2026, les entreprises qui mettent en œuvre les principes de transparence, de confiance et de sécurité de l’IA verront leurs modèles d’IA améliorer de 50 % leurs résultats en termes d’adoption, d’objectifs commerciaux et d’acceptation par les utilisateurs. Gartner estime également que d’ici 2028, les machines exploitant l’IA représenteront 20 % de la main-d’œuvre mondiale et 40 % de l’ensemble de la productivité de l’économie.

Mais les résultats de l’enquête de Gartner indiquent que les entreprises ont également déployé des centaines ou des milliers de modèles d’IA que les responsables informatiques ne peuvent ni expliquer ni interpréter. 

Les entreprises qui ne gèrent pas les risques liés à l’IA sont beaucoup plus susceptibles de constater des résultats négatifs et des failles dans ce domaine. Les modèles ne fonctionneront pas comme prévu, ce qui entraînera des défaillances en matière de sécurité et de confidentialité, des pertes financières et des atteintes à la réputation, ainsi que des préjudices aux personnes. Une mauvaise exécution de l’IA peut également amener les entreprises à prendre de mauvaises décisions commerciales.

Télécharger maintenant : Feuille de route des technologies émergentes 2021-2023

Implications et fonctionnement du modèle AI TRiSM

Les règlementations en matière d’IA se multiplient, mais avant même que des mesures de protection ne soient imposées, il est important de mettre en œuvre des pratiques qui garantissent la confiance, la transparence et la protection des consommateurs. Les responsables informatiques doivent mettre en œuvre les nouvelles capacités offertes par le modèle AI TRiSM pour garantir la fiabilité, la confiance, la confidentialité et la sécurité des modèles.

N’attendez pas que les modèles soient en phase de production pour appliquer l’approche AI TRiSM. Cela ne fait que favoriser la présence de risques potentiels dans le processus. Les responsables informatiques doivent se familiariser avec les formes possibles de défaillances/transgressions et utiliser l’ensemble de solutions AI TRiSM afin de pouvoir protéger correctement l’IA.

AI TRiSM exige la collaboration d’une équipe pluridisciplinaire. Cette équipe comprend du personnel des équipes juridiques, de conformité, de sécurité, d’informatique et d’analyse des données. Mettez en place une équipe spécialisée si possible ou une cellule de crise dans le cas contraire, pour obtenir les meilleurs résultats. Veillez à ce que chaque projet d’IA bénéficie d’une représentation appropriée au sein de l’entreprise.

Télécharger l’Agenda du DSI pour 2023 : 4 façons de s’assurer que vos investissements technologiques génèrent des dividendes numériques

Les avantages comprennent notamment le développement des résultats commerciaux que leur entreprise peut obtenir grâce à l’utilisation de l’IA, plutôt que la simple conformité aux règlementations.

Pour résumer :

  • Les capacités offertes par le concept AI TRiSM garantissent la fiabilité, la confiance, la sécurité et la confidentialité des modèles.

  • Pour obtenir de meilleurs résultats en termes d’adoption de l’IA, d’atteinte des objectifs commerciaux et d’acceptation par les utilisateurs, les entreprises doivent maîtriser la fiabilité, les risques et la sécurité de l’IA. 

  • Envisagez l’approche AI TRiSM comme un ensemble de solutions permettant de protéger correctement les modèles exploitant l’IA.

Avivah Litan est une vice-présidente analyste émérite chez Gartner Research et est actuellement membre de l’équipe ITL AI qui se consacre à l’IA et à la blockchain. Elle est spécialisée dans tous les aspects innovants de la blockchain, ainsi que dans la gestion de la confiance, du risque et de la sécurité de l’IA. Mme litan a acquis une solide expérience dans plusieurs domaines touchant à la cybersécurité et à la fraude, y compris l’intégration de l’IA dans ces disciplines.

Consultez des contenus détaillés qui vous permettront de rester informé et de prendre connaissance des dernières évolutions

Favorisez la concrétisation de vos objectifs prioritaires.