Préparez votre entreprise à saisir les débouchés offerts par l’IA et renforcez vos politiques et principes qui régissent votre cybersécurité, gestion des données et de l’IA.
- Client Gartner ? Log in pour des résultats de recherche personnalisés.
Se préparer à exploiter l’IA : ce que les responsables informatiques se doivent de connaître et entreprendre
4 actions concrètes pour préparer votre entreprise à l’IA
Que l’ambition de votre entreprise soit de recourir à l’IA pour optimiser les processus quotidiens ou pour créer des innovations qui changeront la donne, l’entreprise a besoin d’un ensemble de capacités fondamentales pour réussir.
Ce guide peut aider les responsables informatiques à préparer leur entreprise à :
définir leur ambition en matière d’IA et identifier les opportunités liées à l’IA
mettre en place un système de gestion de la cybersécurité de l’IA
préparer les données au traitement par l’IA
adopter des principes régissant l’IA
Téléchargez votre exemplaire dès maintenant.
Les ambitions que suscite l’IA doivent tenir compte de la faisabilité, des possibilités et des risques que la technologie implique
Plus de 60 % des DSI déclarent que l’IA fait partie de leur programme d’innovation, mais moins de la moitié d’entre eux estiment que leur entreprise est à même de maîtriser les risques qui la caractérisent. Pour combler votre éventuel retard en la matière, commencez par définir vos ambitions en matière d’IA.
- 3 domaines d’ambition en matière d’IA
- Ambition concernant les possibilités offertes par l’IA
- Déploiement de l’IA
- Risques de l’IA
Déterminez quelles sont les opportunités, les options de déploiement et dans quelle mesure l’IA est susceptible de présenter des risques
L’IA générative a permis aux machines de passer du statut d’outils à celui de partenaires. Cette évolution est lourde de conséquences et peut avoir des implications négatives. La haute direction exige des DSI qu’ils mettent en œuvre la stratégie relative à l’IA de l’entreprise pour capitaliser sur ses avantages sans pour autant être exposés aux risques potentiels.
Ces enjeux sont considérables, étant donné le mélange d’excitation et de désillusion que suscite l’IA dans toutes les entreprises, désillusion, car la majorité des projets en matière d’IA n’ont pas réussi à être déployés comme prévu.
Gartner Research constate que 17 % à 25 % des entreprises ont déclaré qu’elles prévoyaient de déployer l’IA au cours des 12 prochains mois chaque année de 2019 à 2024, et pourtant la croissance annuelle des déploiements dans la chaîne de production n’a été que de 2 % à 5 %.
Pour faire progresser leur taux de réussite, les DSI devraient commencer par participer à la définition en interne de l’ambition de l’entreprise en matière d’IA, c’est-à-dire décider dans quels domaines et de quelle manière vous utiliserez l’IA au sein de l’entreprise. Dans la mesure où l’IA d’aujourd’hui peut accomplir toutes sortes de tâches, y compris décider, exécuter des actions, rechercher et générer des informations, il est tout aussi important de déterminer les tâches qui ne seront pas confiées à l’IA.
Une stratégie de gestion de l’IA doit tenir compte de trois éléments clés :
Définition de l’ambition des possibilités offertes par l’IA
Cette notion traduit le type d’avantages commerciaux que vous espérez obtenir grâce à l’IA. Ces ambitions déterminent les domaines dans lesquels vous utiliserez l’IA (par exemple, pour les opérations internes ou les activités en contact avec la clientèle) et la manière dont vous l’utiliserez (par exemple, pour optimiser les activités quotidiennes ou pour créer des débouchés de nature à révolutionner le marché). Exploitez le radar des opportunités offertes par l’IA de Gartner pour définir vos ambitions en la matière.
Déploiement de l’IA
Ce point fait état des options technologiques disponibles pour le déploiement de l’IA, qui peuvent faciliter ou limiter les débouchés envisagés. Les entreprises peuvent déployer l’IA à partir de modèles publics, prêts à l’emploi, entraînés sur des données publiques ; exploiter un modèle public et des données optimisées avec vos données propriétaires ou développer en interne un algorithme personnalisé formé sur vos données. Plus la personnalisation est importante, plus le coût d’investissement et le temps de déploiement sont élevés, mais une plus grande personnalisation offre également aux entreprises des possibilités radicalement novatrices.
Risques liés à l’IA
Les risques liés à l’IA se présentent sous de nombreuses formes, notamment par la production de résultats peu fiables ou opaques, de risques inhérents à la propriété intellectuelle, de réserves concernant la confidentialité des données et par la présence de cybermenaces. On peut également constater l’émergence de risques réglementaires découlant des règles et des restrictions que les différentes juridictions peuvent imposer dans le domaine de l’IA, notamment en ce qui concerne les droits d’auteur. Votre entreprise devra définir son appétence au risque au regard du degré d’automatisation et de transparence envisagé.
Impliquez l’équipe de direction dans la sélection des projets d’IA à mettre en œuvre
L’IA relève de deux catégories principales au sein de l’entreprise :
- L’IA du quotidien améliore la productivité en permettant aux utilisateurs de travailler plus rapidement et plus efficacement sur les tâches qu’ils effectuent déjà.
- L’IA transformatrice enrichit la créativité en vous permettant de générer des résultats grâce à de nouveaux produits et services ou à de nouvelles capacités de base. L’IA transformatrice viendra bouleverser les modèles opérationnels et les secteurs d’activité.
L’IA du quotidien et l’IA transformatrice ont toutes deux des applications internes et externes. Pour définir votre ambition en matière d’IA, vous devez examiner les associations entre l’IA quotidienne et l’IA transformatrice, ainsi que les applications internes et externes que vous comptez mettre en œuvre.
Les investissements escomptés influenceront ces décisions, étant donné que l’IA transformatrice entraîne des dépenses importantes. Bien que 73 % des DSI déclarent qu’ils prévoient d’investir davantage dans l’IA en 2024 qu’en 2023, les directeurs financiers sont sceptiques quant aux résultats : 67 % des responsables financiers affirment que les investissements numériques n’ont pas été à la hauteur des attentes.
Pour définir des ambitions réalistes en matière d’IA, étudiez trois scénarios d’investissement dans l’IA avec votre équipe dirigeante :
Défendez votre positionnement en investissant dans des actions à effet rapide qui optimisent certaines tâches. Les outils exploitant l’IA du quotidien présentent une barrière à l’adoption moins élevée en raison des dépenses minimes à allouer, mais ils ne donneront pas à votre entreprise un avantage concurrentiel durable. Des investissements dans ce domaine vous permettront de maintenir le statu quo.
Renforcez votre positionnement en investissant dans des applications adaptées et personnalisées qui vous procurent un avantage concurrentiel. Ces investissements dans ce type d’IA sont plus onéreux et mettent plus de temps à porter leurs fruits, mais leur rentabilité est également plus affirmée.
Faites évoluer votre positionnement en créant de nouveaux produits et modèles commerciaux optimisés par l’IA. Ces investissements sont particulièrement onéreux, risqués et chronophages, mais ils ont un potentiel de rétribution très important et sont susceptibles de remodeler votre secteur d’activité.
Enfin, au moment où les DSI font part aux dirigeants d’entreprise de leur ambition en matière d’IA, ils doivent s’assurer qu’ils ont bien compris la faisabilité de ces opérations. Vous ne pouvez pas par exemple exploiter ces opportunités si vous ne disposez pas de la technologie nécessaire. Vous ne pouvez pas non plus avoir recours à l’IA si ceux qui l’utiliseront (en interne et en externe) ne sont pas prêts à s’en servir.
Le radar des opportunités de l’IA de Gartner (remplissez le formulaire ci-dessus pour plus de détails) permet d’évaluer vos ambition en matière d’IA tant sur le plan des perspectives offertes que sur celui de la faisabilité.
Il convient de noter que les plus grandes opportunités sont probablement des innovations de rupture susceptibles de bouleverser un secteur et d’offrir des retombées financières importantes, mais leur faisabilité est limitée parce qu’elles impliquent une technologie non éprouvée et/ou des parties prenantes peu désireuses de contribuer à leur réalisation.
Comprendre les options de déploiement de l’IA et les compromis en termes de délais de réalisation et de différenciation
Au cours des six derniers mois, une multitude de modèles et d’outils d’IA ont été lancés sur le marché. En outre, de nombreux grands fournisseurs de logiciels indépendants sont en train d’intégrer l’IA dans leurs applications existantes. Une telle ruée concurrentielle est caractéristique de la plupart des marchés à fort enjeu et en phase de démarrage, et se traduit par un éventail de possibilités qui peut être déconcertant.
En prenant l’exemple de l’IA générative, Gartner voit se dessiner cinq approches pour le déploiement de l’IA :
L’utilisation de l’IA générative intégrée dans les applications, par exemple à l’aide d’un logiciel de conception bien établi, qui comprend désormais des capacités de génération d’images (par exemple, Adobe Firefly).
L’intégration d’API d’IA générative dans une structure applicative personnalisée afin que les entreprises puissent créer leurs propres applications et intégrer l’IA générative grâce aux API du modèle de base.
L’amélioration des modèles d’IA générative par l’extraction de données (peaufinage par enrichissement contextuel), par exemple en utilisant la génération augmentée de récupération (RAG), qui permet aux entreprises d’extraire des données externes à un modèle de base (souvent vos données internes) et d’enrichir les requêtes afin d’améliorer la précision et la qualité de la réponse du modèle pour des tâches spécifiques à un domaine.
L’élargissement des modèles d’IA générative en affinant un grand modèle de base préalablement formé avec un nouvel ensemble de données afin d’incorporer des connaissances supplémentaires sur le domaine ou d’améliorer les performances pour des tâches spécifiques. Cela donne souvent naissance à des modèles personnalisés spécifiques à une entreprise.
Le développement des modèles de base entièrement personnalisés, en les adaptant intégralement à vos propres données et domaines d’activité
Chaque approche pour le déploiement s’accompagne d’arbitrages à faire entre les avantages et les risques encourus. Les facteurs déterminants qui influencent ces arbitrages sont les suivants :
Coûts : les applications intégrées et les modèles d’API intégrés sont les options de déploiement de l’IA les moins coûteuses. La mise au point d’un modèle de A à Z est la solution la plus onéreuse. Parmi les options intermédiaires, les coûts varient considérablement, notamment en ce qui concerne les peaufinages, pour lesquels les coûts sont élevés lorsqu’il s’agit de mettre à jour des modèles comportant des milliards de paramètres.
Informations relatives à la société et au domaine de spécialité : la plupart des modèles de base de l’IA sont des modèles reposant sur des connaissances générales. Pour en améliorer la précision, les entreprises doivent insuffler les spécificités propres aux domaines d’activité et aux applications en récupérant des données, en effectuant un affinage ou en développant leurs propres modèles.
Capacité à contrôler la sécurité et la confidentialité : les préoccupations relatives à la sécurité et à la confidentialité sont actuellement particulièrement nombreuses dans le domaine de l’IA générative. Le développement de vos propres modèles ou la création de modèles personnalisés par le biais d’un peaufinage permet de garantir un contrôle accru des actifs clés et une plus grande flexibilité quant aux mécanismes de contrôle que vous pouvez mettre en œuvre.
Contrôle des résultats du modèle : un modèle de fondation de l’IA est susceptible de présenter des risques d’hallucination, ainsi que de propager des comportements subjectifs ou préjudiciables. Dans les environnements soumis à un contrôle rigoureux, il est préférable de recourir à la récupération de données, à la mise au point de modèles et à l’élaboration de ses propres modèles. Les applications stratégiques devront être pilotées par un être humain.
Simplicité de la mise en œuvre : le recours à des applications intégrées et l’intégration d’API de modèles présentent des avantages en raison de leur simplicité inhérente et de leur délai de mise sur le marché. Elles n’ont pas d’incidences négatives majeures sur les flux de travail actuels.
Formulez clairement la tolérance au risque lié à l’IA de chaque service ou unité opérationnelle
Pour que les entreprises puissent déterminer les applications potentielles de l’IA qu’elles souhaitent mettre en œuvre, il faut que les chefs d’entreprise définissent le niveau de risque qu’ils sont prêts à accepter pour des problématiques telles que la fiabilité de l’IA, la confidentialité des données, la sécurité et la capacité à expliquer les résultats :
Fiabilité de l’IA
En fonction de la manière dont elle a été formée, toute IA peut être sujette à des risques d’erreurs plus ou moins graves :
Imprécisions factuelles ou résultats en partie exacts qui sont erronés sur des points de détail importants
Hallucinations ou résultats inventés de toutes pièces
Informations non actualisées, en raison des limites imposées aux données d’apprentissage
Informations partiales dans les données d’apprentissage, ce qui se traduit par des résultats biaisés
Confidentialité de l’IA
Les questions relatives à la protection de la confidentialité couvrent aussi bien les préoccupations relatives aux renseignements identifiables contenus dans les données d’apprentissage que le partage des données ou des résultats, y compris :
Le partage d’informations sur les utilisateurs avec des tiers sans avis préalable, y compris des vendeurs ou des prestataires de services, des sociétés affiliées et d’autres utilisateurs
Le traitement de données qui peuvent être dépersonnalisées
La formation de modèles avec des données dépersonnalisées qui peuvent avoir une incidence concrète une fois en production
Les fuites non intentionnelles de données sensibles ou personnelles
Des informations propriétaires, sensibles ou confidentielles saisies sous forme de requêtes ou pour l’extraction de données pourraient faire partie de la base de connaissances exploitée dans la production de résultats pour d’autres utilisateurs
Transparence de l’IA
Les modèles de machine learning (ML) sont souvent opaques pour les utilisateurs et parfois même pour des experts compétents. Bien que les experts en science des données et les développeurs de modèles comprennent ce que leurs modèles d’apprentissage automatique cherchent à réaliser, ils ne peuvent pas déchiffrer la structure interne ou les moyens algorithmiques par lesquels les modèles traitent les données. Ce manque d’intelligibilité des modèles et donc d’explicabilité, que Gartner définit comme la capacité à expliquer le fonctionnement d’un modèle, restreint les possibilités de gestion des risques liés à l’IA par l’entreprise. Le fait de ne pas pouvoir expliquer les résultats d’un modèle les rend particulièrement :
Imprévisibles
Impossibles à contrôler
Non soumis à une obligation de rendre des comptes
Sécurité de l’IA
L’IA peut devenir une nouvelle cible pour les acteurs malveillants, qui peuvent soit accéder à des données confidentielles, soit venir intégrer du code ou des paramètres d’entraînement incitant l’IA à agir de manière à servir des intérêts adverses. Par exemple :
Les informations personnelles ou sensibles stockées par un modèle d’IA sont accessibles aux pirates informatiques.
Des pirates informatiques utilisent des invites pour manipuler de grands modèles de langage (LLM) afin qu’ils communiquent des informations qu’ils ne devraient pas divulguer.
Des LLM sont incités à écrire des codes pour des logiciels malveillants ou des ransomwares.
Définissez votre ambition en matière de risque en collaboration avec les dirigeants
Trouver un équilibre entre les risques posés par l’IA et les opportunités que l’entreprise souhaite concrétiser exige des DSI qu’ils participent à la définition des rôles respectifs de l’humain et de l’IA. L’objectif est de trouver un équilibre entre le niveau d’automatisation (de totalement automatisé à « une implication humaine ») et le degré d’explicabilité (de l’IA « boîte noire » qui reste opaque à l’IA pleinement intelligible).
Chaque responsable en chef doit communiquer les niveaux de risque acceptables lié à l’IA pour les principaux processus de son service et s’assurer qu’ils sont en adéquation avec les applications de l’IA qu’il souhaite mettre en œuvre. Par exemple, le responsable des ressources humaines peut avoir un niveau de tolérance au risque axé sur la « prise de risque la plus sûre » en raison de la nature sensible de son travail, tandis que le responsable du service à la clientèle peut viser une « automatisation responsable » pour envisager une automatisation qui puisse être expliquée aux clients, le cas échéant.