Il y a quelques jours se déroulait la conférence « Sommet pour l’action sur l’intelligence artificielle » dont les participants ont (ré)affirmé leurs priorités en matière d’IA. Parmi ces priorités, on retrouve leur engagement pour une IA ouverte à tous, « inclusive, transparente, éthique, sûre, sécurisée et digne de confiance, dans le respect des cadres internationaux ». L’Europe s’est montrée pionnière en la matière en introduisant la première législation sur l’intelligence artificielle : l’AI Act. L’AI Act est un règlement qui impose un certain nombre d’obligations aux fournisseurs et déployeurs de systèmes et modèles d’IA en fonction du niveau de risques de ces systèmes et modèles (voir notre article de blog « Premier tour d’horizon de l’AI Act ».).

L’AI Act est entré en vigueur le 1^er août 2024 mais sa mise en œuvre se fait graduellement suivant un calendrier qui s’étale jusqu’août 2027. Le premier jalon important a été atteint le 2 février, date à laquelle sont entrés en application les interdictions de certains systèmes d’IA et les obligations en matière de connaissance de l’IA (eng. « AI literacy »).

Afin de mieux nous préparer à la mise en œuvre de l’AI Act, Smals s’est inscrite au programme lancé par le Bureau de l’IA de la Commission Européenne : AI Pact.

Ce pacte pour l’IA invite les participants à s’engager sur trois actions principales :

• Adoption d’une stratégie de gouvernance de l’IA ;
• L’identification et la cartographie des systèmes d’IA susceptibles d’appartenir à la catégorie haut-risque ;
• Et promotion de la connaissance de l’IA.

Dans cet article de blog, nous introduisons l’AI literacy de manière générale et nous partageons nos premières expériences en matière d’AI literacy.

AI Literacy

AI Act, Art. 4 :  Maîtrise de l’IA

« Les fournisseurs et les déployeurs de systèmes d’IA prennent des mesures pour garantir, dans toute la mesure du possible, un niveau suffisant de maîtrise de l’IA pour leur personnel et les autres personnes s’occupant du fonctionnement et de l’utilisation des systèmes d’IA pour leur compte, en prenant en considération leurs connaissances techniques, leur expérience, leur éducation et leur formation, ainsi que le contexte dans lequel les systèmes d’IA sont destinés à être utilisés, et en tenant compte des personnes ou des groupes de personnes à l’égard desquels les systèmes d’IA sont destinés à être utilisés. » Cet article est complété par le récital 20.

Définition de la Maîtrise de l’IA (AI Act, Art. 3)

« (56) “maîtrise de l’IA”, les compétences, les connaissances et la compréhension qui permettent aux fournisseurs, aux déployeurs et aux personnes concernées, compte tenu de leurs droits et obligations respectifs dans le cadre du présent règlement, de déployer des systèmes d’IA en connaissance de cause, ainsi que de prendre conscience des possibilités et des risques de l’IA et des dommages éventuels qu’elle peut causer » 

L’AI literacy s’applique à tout produit IA quel que soit le niveau de risque.

Pourquoi est-ce important ?

La maîtrise de l’IA est importante pour rester compétitif. L’IA est une technologie présentée comme transformative souvent comparée à l’électricité ou à l’internet qui change la nature de beaucoup de métiers. Dans le cas particulier de notre entreprise IT, il sera difficile dans le futur de concevoir des applications sans y intégrer de l’IA. Pour saisir les nouvelles opportunités apportées par l’IA, notre entreprise doit fournir à ses employés un niveau suffisant de compétences.

Voici les pièges les plus courants dus à un manque de maîtrise de l’IA que l’on retrouve dans les organisations qui développent des applications d’IA :

• Faire les mauvais choix technologiques. Beaucoup de fournisseurs proposent des solutions « miracles » mais utiliser la technologie la plus performante ne produira pas les résultats espérés si elle n’est pas la réponse adéquate à un problème.
• L’IA semble facile à maîtriser, mais ce n’est pas le cas. Pour les praticiens, l’implémentation sans discernement d’algorithmes trouvés sur Internet (essayer tout et voir ce qui fonctionne) peuvent donner une fausse impression de maîtrise de la technologie. Cela stimule certainement l’idéation et la créativité, et des applications intelligentes peuvent en découler, mais cette méthode produit très peu de réussites et ne conduit pas à des systèmes robustes. La solution à ce problème est de fournir des bases solides aux praticiens et de leur donner le temps et les ressources nécessaires pour un apprentissage continu.
• L’adoption des technologies d’IA pour cocher la case « innovation ». Sous la pression de livrer des projets innovants, les décideurs peuvent lancer des initiatives ambitieuses en IA pour atteindre rapidement leurs objectifs. Cependant, identifier les problèmes où l’IA apporte une véritable valeur ajoutée n’est pas une tâche facile. Un prototype rapide peut faire des merveilles dans un cadre restreint, mais une fois industrialisé, la valeur perçue disparaît rapidement. Les organisations se retrouvent alors avec un travail (humain) caché non négligeable pour faire fonctionner le système et, au moment où il fonctionne, la solution est déjà dépassée. L’innovation est censée apporter à la fois nouveauté et réelle valeur. La solution ici est de former les managers et décideurs aux véritables possibilités et limites de l’IA, afin de mieux les préparer à résister à l’appel du battage marketing.
• L’utilisation d’une technologie révolutionnaire avec de vieilles façons d’opérer. L’IA diffère du développement logiciel traditionnel à bien des égards et l’application des mêmes méthodes a beaucoup de chance d’échouer. Voici quelques exemples de spécificités propres à l’IA :
  • L’IA est probabiliste : les règles ne sont pas explicitement écrites par un humain mais apprises à partir de données. Un système d’IA est capable de s’adapter à des scénarios non rencontrés lors de son entrainement, mais son comportement n’est pas entièrement contraint et reste influencé par les données utilisées lors de l’entraînement ;
  • La facilité d’utilisation et l’interaction en langage naturel avec les systèmes d’IA augmentent la confiance excessive dans ces systèmes et leur nature aléatoire est rapidement négligée ;
  • Le développement d’applications basées sur de l’IA nécessite plusieurs itérations à chaque étape du processus de développement et nécessite souvent de redéfinir les besoins. Malheureusement de nombreux projets s’arrêtent au premier « échec », à la première itération ;
  • Parce que le fonctionnement interne des modèles d’IA n’est pas entièrement connu, les systèmes d’IA doivent être constamment surveillés et ajustés.

Si ces différences ne sont pas prises en compte, le risque de mettre en œuvre un système dommageable est élevé. Au mieux il sera inefficace, au pire il pourrait causer du tort à certains utilisateurs (p. ex. systèmes de prise de décision). La gouvernance de l’IA joue un rôle majeur dans la prévention de ces dommages mais celle-ci n’est pas pleinement comprise par de nombreuses organisations. Cependant, avec une bonne connaissance et compréhension des spécificités de l’IA, les organisations passeront d’une situation où (la mauvaise) gouvernance de l’IA est mise en œuvre uniquement parce que cela est exigé par la loi à une situation où la gouvernance de l’IA est adoptée dans l’intérêt de l’organisation et des personnes affectées par les systèmes d’IA.

Il est important de noter que les problèmes liés à la non-maîtrise de l’IA et décrits ci-dessus entrainent des coûts financiers importants.

Implémentation de l’AI literacy chez Smals

En 2024, Smals a démarré un programme de maîtrise de l’IA qui sera davantage développé en 2025. L’objectif de ce programme est triple. Tout d’abord, il vise à fournir des informations générales sur l’intelligence artificielle à tous les participants, garantissant ainsi que chacun dispose d’une compréhension de base de ce qu’est l’IA, de ses applications et de son impact sur notre secteur. Ensuite, le programme cherche à doter les employés de Smals des compétences nécessaires pour utiliser efficacement les outils d’IA dans leurs tâches quotidiennes, afin d’améliorer les processus internes et d’augmenter la productivité globale au sein de Smals. Enfin, il vise à préparer un groupe de personnes à assumer des rôles plus spécialisés, en leur fournissant l’expertise nécessaire pour prendre en charge le développement d’applications basées sur l’IA, de la conception à la réalisation.

Ce programme a été conçu en considérant les compétences techniques et l’expérience des personnes concernées. Il est divisé en trois catégories :

• des formations générales, destinées à l’ensemble de la société;
• des formations basées sur des rôles, conçues spécifiquement pour des fonctions données;
• des formations basées sur des projets, qui sont dispensées au cours du cycle de vie du projet IA.

Introduction générale à l’IA

Cette formation est conçue pour offrir une vue d’ensemble complète de l’intelligence artificielle à tous les employés avec un accent particulier sur l’IA générative. Elle a pour objectif de sensibiliser les participants aux capacités, risques et limites de l’IA, s’assurant ainsi que les participants possèdent une compréhension équilibrée de ce que l’IA peut et ne peut pas accomplir. De plus, la formation couvre les lignes directrices qui régissent l’utilisation de l’IA au sein de Smals, mettant en avant le respect des règles et les considérations éthiques. La formation est donnée sous forme de sessions d’information et de capsules vidéo.

Formations basées sur des rôles

Les principaux rôles identifiés dans notre programme d’AI literacy sont les suivants :

• Les ambassadeurs IA.  Grâce à une connaissance approfondie des forces et des limites de l’IA, les ambassadeurs IA sont capables d’identifier et de prioriser les cas d’utilisation potentiels où l’IA peut apporter une valeur ajoutée. Leur rôle implique la détection des opportunités, l’implémentation de l’IA et la collaboration étroite avec notre centre de compétence pour promouvoir et faciliter l’adoption de ces technologies.
• Les experts. Les experts en IA jouent un rôle crucial dans la conception, le développement, le déploiement et le soutien des systèmes d’IA au sein de Smals. Ils possèdent une connaissance approfondie et complète des différentes approches, techniques, modèles, outils et frameworks de l’IA, leur permettant de créer des solutions efficaces et adaptées à nos besoins. Ces experts sont proactivement engagés dans un apprentissage continu, garantissant ainsi qu’ils restent à la pointe des avancées technologiques dans le domaine de l’IA. Ils forment également les ponts cruciaux entre Smals et les fournisseurs externes de solutions d’IA. Leur expertise leur permet d’évaluer et de guider les solutions d’IA proposées par ces fournisseurs, garantissant ainsi que nous sélectionnons et mettons en œuvre les technologies de haute qualité les mieux adaptées.
• Les ingénieurs de données se concentrent sur les aspects cruciaux de la gestion des données. Ils doivent pouvoir comprendre les exigences spécifiques de l’IA en matière d’acquisition, d’intégration et de préparation des données. Cela inclut la conception et la mise en œuvre de pipelines robustes pour collecter, nettoyer et transformer les données dans des formats adaptés aux modèles d’IA. En outre, ils doivent posséder de solides connaissances des principes de gouvernance des données.
• Les fonctions tels que les rédacteurs de contenus web, les développeurs, les gestionnaires de projets, … Ces groupes ont besoin d’une formation adaptée à leurs fonctions spécifiques. Ils doivent pouvoir utiliser des logiciels augmentés par l’IA fournis par les vendeurs spécialisés et qui leur permettent d’optimiser leur travail.
• Les Délégués à la protection des données et l’équipe juridique. Ils doivent avoir une connaissance approfondie des questions éthiques concernant l’IA, de la gouvernance de l’IA, des risques de l’IA et de la conformité réglementaire.

Formations basées sur des projets

Pour chaque projet d’IA, nous organisons de courtes sessions de formation sur mesure pour toutes les parties prenantes impliquées dans la construction de la solution d’IA. Ces sessions de formation visent, pour l’équipe technique, à nous assurer d’avoir une compréhension actuelle des techniques utilisées pour l’implémentation de la solution. Les experts métier jouent aussi un rôle crucial dans l’orientation des décisions de conception et la validation du système d’IA. Par conséquent, ils seront prioritaires lors des sessions de formation afin de s’assurer que leur expertise est pleinement exploitée pour façonner la solution d’IA. Les experts métiers doivent pouvoir comprendre dans les grandes lignes les implications pratiques des technologies d’IA – leurs capacités et leurs limites – la gestion des risques et enfin les exigences en matière de gouvernance.

Conclusion

Pour une organisation, l’AI literacy est un pilier d’une stratégie d’IA réussie. Il est essentiel d’impliquer toute personne travaillant pour l’organisation à des degrés divers. Une grosse partie des échecs relatifs aux initiatives IA est due au manque de connaissance de l’IA ou à la fausse impression de maîtrise de l’IA. La conception d’un programme d’AI literacy dépend de l’usage qui est fait de l’IA et du niveau de maturité de l’entreprise. L’EU AI Office mettra à disposition du grand public une série d’exemples de programmes sur son site et quelques éléments d’orientation  sur le sujet. Le programme qui a été présenté ci-dessus est un programme adapté à Smals.

Bien que nos pratiques en matière d’AI literacy soient encore à leurs débuts, nous avons pu observer les éléments suivants :

• Une participation accrue des employés à l’innovation : nos premières sessions de formation en IA ont stimulé l’innovation interne, conduisant à de nombreuses propositions d’amélioration des processus métier ;
• Une compréhension améliorée des capacités de l’IA pour une plus grande efficacité des processus internes : il y a par exemple une demande croissante pour des outils de collecte et d’analyse d’informations (insight) ;
• Une conscience accrue des risques associés à l’IA : nos équipes adoptent une approche prudente concernant l’utilisation d’applications d’IA générative telles que les agents conversationnels ;
• La stimulation de l’apprentissage continu : la démystification de l’IA a instillé curiosité et auto-apprentissage.

_________________________

Ce post est une contribution individuelle de Katy Fokou, spécialisée en intelligence artificielle chez Smals Research. Cet article est écrit en son nom propre et n’impacte en rien le point de vue de Smals.