sensibiliser aux impacts et comprendre les nouveaux usages de l’IA Blog Devoteam Rebirth

sensibiliser aux impacts et comprendre les nouveaux usages de l’IA Blog Devoteam Rebirth


La Fresque de l’IA : sensibiliser aux impacts et comprendre les nouveaux usages de l’IA

Temps de lecture : 11 minutes

De ChatGPT à Mistral AI, il est impossible de passer à côté de l’IA générative, dont les usages se sont brusquement généralisés auprès du grand public, et de façon plus progressive dans les entreprises. Plus qu’un simple outil, l’IA amène une transformation en profondeur, avec des impacts économiques, sociaux, environnementaux et éthiques. L’Union Européenne s’est d’ailleurs emparé du sujet, avec une nouvelle législation sur l’IA, et la création d’un bureau chargé de réguler ces technologies.

Et pour les entreprises ? Comment appréhender le phénomène, comprendre au-delà des idées reçues, sensibiliser aux nouveaux usages et imaginer les cas d’application possibles ? C’est l’objectif de la Fresque de l’IA, un atelier collaboratif qui vise à mieux comprendre les impacts de l’intelligence artificielle au sein de son entreprise. Pour en parler, nous recevons aujourd’hui Nicolas Blanchon, de Galances Conseil, concepteur et animateur de la Fresque de l’IA.

Nicolas Blanchon

Quel est l’objectif de la fresque de l’IA ?

La Fresque de l’IA sert avant tout à sensibiliser les personnes travaillant dans les organisations (entreprises, association, public…) aux impacts économiques, sociaux, environnementaux et éthiques de l’IA générative. Elle a également pour objectif de déterminer avec précision les cas d’usage dont les organisations pourraient s’emparer pour renforcer l’acculturation à l’Intelligence Artificielle.  

La démocratisation de l’accès à l’IAG, avec le coup marketing d’Open AI en novembre 2022, a fait l’effet d’un pavé dans la mare. Si ces technologies étaient bien connues des milieux spécialistes depuis des années, le grand public n’était guère informé. Nos clients nous ont demandé conseil sur la façon dont l’IA générative pouvait s’intégrer dans leur organisation. Quelles activités, quels métiers pourraient être impactés par l’Intelligence artificielle ? Et avec quels impacts sur les aspects économiques (productivité réelle, créativité, coûts, risques…) ou sociaux (emplois, bien-être au travail, management etc.) ? Par ailleurs : comment bien négocier ce changement ? Quels impacts éthiques et cyber ? Est-ce un effet de mode ? Un changement complet de paradigme ?

Nous avons alors réfléchi à la création d’un format ludique d’apprentissage où l’ensemble de ces savoirs pouvaient être non pas seulement « enseignés » mais débattus et appropriés par le plus grand nombre. Ayant eu la chance d’avoir déjà réalisé la fresque du climat ou du numérique responsable, nous avons apprécié ce mode de fonctionnement, les ateliers, l’intelligence collective, la sensibilisation. Mais au-delà ces expériences, c’est à la fresque de Lascaux, aux origines de l’art occidental, que nous aimons nous référer. Non pas par coquetterie, mais tout simplement car nous avons la conviction qu’un nouvel âge advient dans les modèles de représentation humains. Ce n’est pas un fait purement technologique, mais également sociologique. Les fresques de Lascaux simulaient la nature, l’IA simule la création d’objets de pensée : le lien nous paraît revêtu d’un certain pouvoir d’évidence.

L’atelier, d’une durée de 3h, est personnalisé et conçu pour être profondément interactif et sert deux objectifs opérationnels :

  • Permettre à chacun de comprendre comment « ça fonctionne », les cas d’usage possible dans son environnement, les conséquences, les conditions de succès en fonction de son entreprise, de sa culture, et de sa maturité sur le sujet
  • Apporter des actions concrètes applicables immédiatement et éviter la frustration ou le sentiment d’incompréhension face à cette technologie.

Quels sont les thèmes abordés ? A quel public est-elle destinée ?

La fresque de l’IA permet avant tout de comprendre ce dont il s’agit et les conséquences probables (positives comme négatives) de cette technologie.

Plus précisément, nous abordons 4 thèmes : 

  • Économique : efficacité et productivité, automatisation des tâches, optimisation des processus opérationnels…
  • Social : emploi et management, bien-être et santé au travail, accessibilité, impacts sur les emplois…
  • Environnemental : impact de la consommation énergétique, cycle de vie des matériels informatiques, besoin croissant de ressources, dépendance technologique ou encore utilisation raisonnée de la technologie. L’IAG repose sur de la data et des datacenters, dont cela implique une consommation électrique, de l’eau, des ressources naturelles, etc. On comprend dans ces conditions qu’on doit faire un usage raisonné de la technologie…
  • Enfin, l’éthique : les biais cognitifs, la sécurité et la confidentialité des données, la maîtrise et le contrôle de la technologie, le maintien du sens critique, de la créativité. On aborde par exemple la question de la dépendance dans nos usages individuels. Avec des outils bien conçus, gratuits, la tentation peut être grande d’utiliser l’IAG pour tout.

Nous insistons sur l’importance du maintien du sens critique. C’est l’une des premières compétences à développer. Il sera de plus en plus difficile de distinguer le vrai du faux, le nombre de deepfakes est en très forte augmentation depuis un an. On doit aussi vérifier les sources, ne pas faire une confiance aveugle au modèle, notamment vis-à-vis des hallucinations. Il est possible par exemple d’apprendre comment converser avec GPT – savoir quels prompts utiliser – pour éviter les réponses inventées.

Ne pas être conscient du risque d’hallucination est problématique, on peut potentiellement créer du contenu avec de fausses informations ou des données erronées. C’est un enjeu éthique, mais cela peut aussi impacter la sécurité de l’entreprise, qui peut être exposée à travers un usage non cadré des modèles d’IA. Nous conseillons donc d’anonymiser les demandes autant que possible. Il existe d’ailleurs des solutions qui permettent de créer des bots agnostiques pour ensuite interroger ChatGPT, Mistral, Claude ou d’autres modèles.

Comment se déroule la fresque de l’IA ?

Au préalable, nous évaluons la maturité des participants sur les sujets d’IAG à travers un questionnaire. Cela permet également de cerner la culture de l’entreprise, et d’identifier les métiers en présence durant la Fresque.

Dans un premier temps, nous présentons les principes fondamentaux de l’IA et de l’IAG. L’objectif est de démythifier le sujet, de poser une base commune. Si l’on parle d’intelligence artificielle, c’est en relation avec l’intelligence « naturelle »… Mais de quoi parle-t-on vraiment ? Qu’est-ce que signifient ces termes : intelligence, conscience… Il n’y a pas de consensus de la communauté scientifique sur ces questions et cela doit être rappelé pour éviter toute projection fantasmée.

Une fois clarifiés ces points, nous présentons les derniers travaux en neurosciences sur la prise de décision des humains. Quelques expériences de pensée rapides permettent à chacun de percevoir intimement la différence entre une heuristique et un algorithme. Cette expérience permet dès lors d’expliquer à tous les participants le fonctionnement d’une intelligence artificielle générative. Ce n’est pas magique, c’est un mélange de données, d’algorithmes et de puissance de calcul. La présentation se fait sous forme d’échange, c’est aussi l’occasion de revenir sur les grandes tendances juridiques des 2 à 3 prochaines années (quels impacts sur nos données personnelles, sur le droit d’auteur, le droit à l’image. Quid des biais discriminatoire, de la désinformation ?)

Ce temps introductif est un temps de débat, d’échange interactif et en aucun cas un discours descendant. L’objectif est de promouvoir la curiosité, de motiver et de préparer chaque participant à l’atelier de la Fresque en tant que telle.

Ensuite, nous demandons à l’ensemble des participants de se répartir en sous-groupe de 8 à 10 personnes et nous leur proposons de travailler avec trois jeux de cartes :

  • Un premier jeu de cartes (d’environ 80 propositions) permet au groupe d’identifier et de prioriser 5 à 6 cas d’usages.
  • Un deuxième jeu de cartes permet ensuite de sélectionner les conséquences, positives ou négatives, de la mise en œuvre des cas d’usage choisis précédemment.
  • Enfin, un troisième jeu de cartes sert à formaliser les conditions de succès. Que doit-on faire pour obtenir les conséquences positives identifiées et contrôler les risques liés à la mise en œuvre des cas d’usage sélectionnés ?

La dernière étape de la Fresque est la restitution. Chaque groupe explique son cheminement de pensée, ses choix de cartes, les liens entre les cartes qui ont été documentés, etc. Un nouveau débat émerge amenant l’ensemble des participants à voter, in fine, pour le cas d’usage le plus important à ses yeux (selon des critères prédéterminés ensemble – le plus souvent sous la forme d’une matrice simple indiquant le degré de facilité de mise en œuvre en abscisse et l’impact ou la valeur ajoutée attendue en ordonnées). 

De notre côté, nous récupérons les travaux de groupes et effectuons une synthèse présentée deux à trois semaines plus tard avec un premier plan d’actions à mettre en œuvre pour continuer l’intégration progressive de l’IA générative dans l’organisation. 

Que constatez-vous quant à l’adoption en entreprise ?

Il faut différencier l’IA “classique”, qui fait déjà partie des habitudes, de l’IA générative, qui s’est démocratisée avec l’arrivée de ChatGPT sur le marché du grand public. Le changement s’est fait de façon progressive dans les entreprises, l’adoption venant d’abord par les individus, puis par les organisations

En France nous avons la fâcheuse tendance à adopter une culture attentiste, à voir ce que fait notre voisin avant d’adopter une innovation. Nous l’avons vu avec le Cloud, on le voit aujourd’hui avec l’IA. Nous avons pourtant d’excellents experts en France, mais notre culture entrepreneuriale ralentit l’adoption. Beaucoup de personnes ne voient dans l’IA générative qu’un simple outil de plus. C’est malheureusement encore l’état d’esprit de certaines grandes entreprises dont une partie des hésitations – il faut tout de même le souligner – sont aussi liées aux risques cyber. Ces risques sont majeurs, certes, mais l’adoption de l’IA générative permet précisément, dans bien des cas, de les maîtriser davantage. Au Brésil ou au Portugal, où nous intervenons fréquemment, les organisations sont bien plus avancées que nous dans l’adoption de l’IA générative. Les choses évoluent très vite, bien sûr, mais il nous faudra accélérer pour combler le retard accumulé : une transformation de cette nature ne se décrète pas ni ne se mène en quelques mois.

L’IA générative vient bouleverser notre façon de penser et de travailler. Progressivement, les entreprises (surtout les grands groupes) se sont rendu compte que leurs collaborateurs utilisaient Chat GPT, souvent de façon non officielle. L’engouement est sans doute en partie lié à la simplicité d’usage (et donc l’accessibilité) et à la gratuité de cette technologie. En contrepartie, chaque conversation permet d’entraîner le modèle, et donc un grand nombre de données transmises par les collaborateurs ne sont plus en sécurité.  Cela pose d’ailleurs la question des usages non cadrés de Chat GPT ou autre en entreprise, notamment en regard des clauses de confidentialité. Est-ce que la transmission de données sensibles non anonymisées pourrait rompre la clause ? Enfin, nous croisons parfois des entreprises en pleine injonction contradictoire : il faut absolument développer l’IA au sein de notre groupe, dit tel dirigeant… et des abonnements sont pris – chichement – pour des accès aux LLM… mais strictement réservés aux DSI. La porte d’entrée par la technique est sûrement le pire moyen possible pour développer l’acculturation des entreprises.

Comment les entreprises doivent-elles se préparer aux changements induits par la généralisation de l’IA ? 

Au risque d’un plaidoyer pro domo, nous sommes évidemment convaincus que la sensibilisation est la première étape pour s’assurer que tous comprennent à quel point l’IA générative n’est pas une simple vaguelette mais un véritable tsunami. C’est ici, évidemment, que s’inscrit La Fresque de l’IA.
Ce qui suit naturellement cette sensibilisation, c’est la formalisation des principes de l’entreprise autour de l’utilisation de l’IA dans l’organisation. Une charte éthique qui permet également de rassurer sur l’éventuelle utilisation de données personnelles… Nous croyons par ailleurs que les grandes organisations doivent impérativement intégrer les partenaires sociaux et cela dès le début des réflexions sur l’intégration de l’IA générative. Les impacts sociaux et éthiques sont tels qu’il nous paraît risqué de ne pas entamer, dès l’origine, une démarche collaborative.

Côté DRH, un mapping général des activités de l’entreprise doit être réalisé. C’est par une approche exhaustive des « briques » d’activités de l’organisation que les décideurs sauront avec précision quels sont les emplois fortement impactés et ceux qui le sont plus faiblement voire pas du tout. De tels travaux doivent être pilotés par les DRH mais inclure un large spectre de participants : la conduite même de ces missions agit comme amplificateur de la sensibilisation.

Ensuite, il convient de sélectionner quelques cas d’usage (simples dans la mise en œuvre et utiles dans ses attendus) et de les creuser, d’aller dans le détail de leur intégration au sein de l’entreprise. C’est ce que nous préconisons : tester deux à cinq cas d’usage maximum et traiter ces derniers comme de véritables projets dont l’aspect technique n’est qu’une des facettes.

Il importe également d’identifier des sponsors internes qui vont continuer d’informer et de convaincre (ni angélisme ni diabolisation) les personnes aux impacts de l’IA.

Cette approche permet également de faire remonter des cas d’usage terrain optimisables grâce à l’IA et favorise l’efficacité d’une veille technologique notamment centrée sur l’IA générative.

Pour résumer notre pensée, la problématique principale n’est pas de savoir si cette nouvelle technologie doit être implémentée au sein de l’entreprise (c’est, d’une façon ou d’une autre déjà le cas), mais bien de comprendre comment l’IA générative facilitera pour l’entreprise la réalisation durable de ses objectifs stratégiques.

Que pensez-vous de la régulation par l’UE (UE AI Act) ?

Selon nous, ce n’était pas le combat à mener en priorité. Nous devrions davantage nous préoccuper de la façon dont nous pourrions conserver nos talents sur le territoire et à l’abri des appétits voraces de nos amis étrangers. On ne peut que regretter fortement notre inaction collective face au passage de Mistral sous influence (et donc drapeau) Microsoft…

L’adage bien connu “les USA innovent, la Chine industrialise, et l’Europe régule” semble se vérifier à nouveau, alors même que des pays comme la France ou l’Allemagne n’ont pas à rougir de l’excellence académique en matière d’IA ! 

Cela étant dit, maintenant que le texte est adopté et qu’il devrait entrer en vigueur fin d’année, début 2025, mieux vaut commencer à réfléchir à comment bien travailler avec cette réglementation et faire en sorte qu’elle ne pénalise pas notre innovation à l’européenne.

Au regard des innovations futures, l’obligation de devoir d’abord montrer patte blanche avant de commercialiser son produit génère le risque qu’un concurrent étranger soit plus rapide et donc emporte le marché. Fort heureusement, la réglementation prévoit des bacs à sable qui permettront peut-être d’éviter l’application de la réglementation pour les innovations naissantes.

Quoiqu’il en soit, les français sont très largement capables de rattraper leur retard. Il suffit de s’y mettre, sans perdre de temps : les compétences sont là !


Pour en savoir plus sur l’atelier : La Fresque de l’IA



Cloud Software

Comments

No comments yet. Why don’t you start the discussion?

Leave a Reply

Your email address will not be published. Required fields are marked *