AI Act : les organismes de formation sont-ils prêts à regarder leurs propres usages de l’IA ?

L’AI Act est souvent présenté comme une nouvelle opportunité commerciale pour les organismes de formation. Et quelque part, c’est vrai : les entreprises vont devoir monter en compétence sur leurs usages de l’intelligence artificielle. Mais pour les OF, le sujet commence peut-être ailleurs.

Avant de créer une nouvelle formation “IA responsable”, “AI Act” ou “littératie IA”, encore faut-il regarder ses propres pratiques : qui utilise l’IA dans l’organisme ? Pour produire quels contenus ? Avec quelles données ? Avec quel contrôle humain ? Et avec quels impacts possibles sur les apprenants, les clients ou les formateurs ?

Car l’AI Act ne vient pas seulement ouvrir un marché. Il oblige surtout les organismes de formation à professionnaliser leurs propres usages de l’IA.

L’AI Act, ce n’est pas seulement un sujet pour les géants de la tech.

Lorsque l’on parle d’intelligence artificielle et de réglementation européenne, on imagine vite les grands acteurs du numérique, les éditeurs de logiciels, les plateformes, les modèles génératifs et les ingénieurs en blouse blanche devant des lignes de code.

Pourtant, l’AI Act ne concerne pas uniquement ceux qui développent des systèmes d’intelligence artificielle.

Un organisme de formation peut être concerné simplement parce qu’il utilise des outils intégrant de l’IA dans ses pratiques quotidiennes : génération de contenus, aide à la conception pédagogique, correction, analyse de données, chatbot, automatisation administrative, outil de scoring, traduction, synthèse de documents, etc.

Le règlement européen sur l’intelligence artificielle est entré en vigueur le 1er août 2024 et son application se fait progressivement, avec une application complète prévue à partir du 2 août 2026, sauf exceptions. Certaines dispositions sont déjà applicables depuis le 2 février 2025, notamment celles relatives à la littératie en matière d’IA. 

C’est là que le sujet devient intéressant pour les OF. Parce que la question n’est pas seulement : “Est-ce que je peux vendre une formation IA à mes clients ?” La vraie question est plutôt : Est-ce que mon propre organisme utilise déjà l’IA de manière maîtrisée, cohérente et responsable ?

Et là, la réponse est parfois moins évidente. En revanche,  de vous à moi, je suis sûr que vous avez déjà utilisé un outil d’IA dans votre activité de formation, que vous soyez formateur, concepteur pédagogique, commercial, dirigeant… peut-être même tous les jours ?!

Les OF utilisent déjà l’IA, parfois sans vraiment l’avoir formalisé

Soyons honnêtes : beaucoup d’organismes de formation utilisent déjà l’IA.

Pas forcément de manière massive et souvent sans un grand plan stratégique et moins avec une charte interne validée en comité de direction. Mais dans les faits, l’IA est déjà là. 

Un collaborateur utilise ChatGPT pour reformuler un programme. Un responsable pédagogique génère des idées de quiz. Un formateur prépare une séquence avec un outil d’aide à la rédaction. Une personne en charge du marketing crée des posts LinkedIn avec l’IA. Un commercial synthétise un appel d’offres. Un service qualité utilise un outil pour résumer des enquêtes de satisfaction. Un OF teste un chatbot sur son site ou dans son LMS.

Bref, l’IA est déjà entrée dans les organismes de formation par la petite porte, ce n’est pas forcément un problème. L’IA peut faire gagner du temps. Elle peut aider à structurer une idée, à produire une première trame, à reformuler un contenu, à améliorer un support, à trouver des exemples ou à faciliter certaines tâches administratives.

Le problème n’est donc pas qu’un OF utilise l’IA. Le problème, c’est qu’il l’utilise parfois comme si l’outil était neutre, fiable et sans conséquence. Or, dans la formation professionnelle, les contenus produits ne sont pas anodins. Un programme de formation, une évaluation, une attestation, une analyse de besoin, une adaptation au public ou un support pédagogique engagent la qualité de la prestation. Et parfois, la responsabilité de l’organisme.

La vraie question : que met-on dans l’IA ?

L’un des premiers sujets à traiter est probablement le plus simple à comprendre : les données.

Dans un organisme de formation, les données manipulées au quotidien ne sont pas toujours neutres. On peut y trouver des coordonnées clients, des besoins d’entreprise, des documents internes, des situations individuelles, des évaluations, des bilans, des éléments RH, des informations sur des apprenants, des situations de handicap, des feuilles d’émargement ou encore des supports propriétaires.

Copier-coller une demande client complète dans un outil d’IA public n’a pas la même portée que demander une idée de titre pour un article de blog. Transmettre une évaluation apprenant, un bilan pédagogique ou une situation individuelle dans un outil mal maîtrisé n’a rien d’anodin. Et pourtant, ce sont souvent des gestes réalisés sans mauvaise intention.

L’utilisateur veut aller plus vite. Il veut reformuler. Il veut synthétiser. Il veut produire un document propre. Il se dit que “ce n’est pas si grave”. Sauf que la question n’est pas seulement de savoir si l’outil est pratique.

La question est de savoir quelles données on lui confie, pour quel usage, avec quelles garanties et avec quelle maîtrise.

Un OF devrait donc être capable de définir, a minima, ce qui peut être utilisé avec l’IA et ce qui ne doit pas l’être.

Par exemple :

• peut-on intégrer un programme de formation interne dans un outil IA ? 
• peut-on transmettre un cahier des charges client ? 
• peut-on faire analyser des évaluations stagiaires ? 
• peut-on demander à l’IA de reformuler un bilan individuel ? 
• peut-on utiliser l’IA pour préparer une réponse à un appel d’offres ? 
• peut-on utiliser un chatbot pour répondre à des apprenants ? 
• peut-on laisser un formateur indépendant utiliser librement ses propres outils IA pour produire des supports ? 

Ces questions ne sont pas théoriques. Elles correspondent déjà à des usages réels. Et si l’OF ne pose pas de cadre, chacun finira par inventer sa propre règle.

L’IA peut améliorer la qualité… ou produire du faux propre

L’autre sujet majeur, c’est la qualité des contenus produits. L’IA a un talent assez redoutable : elle donne souvent l’impression que le contenu est sérieux parce qu’il est bien présenté. Le texte est fluide. Le plan est clair. Les titres sont propres. Les phrases sont bien formulées. On a l’impression que le travail est fait. Mais dans le fond, est-ce que c’est juste ?

C’est probablement l’un des risques les plus importants avec l’IA dans un organisme de formation : l’erreur bien rédigée. Un outil d’IA peut générer un programme très convaincant, mais pédagogiquement faible. Il peut inventer une obligation réglementaire. Il peut confondre une certification, une habilitation, une autorisation ou une simple attestation. Il peut proposer des objectifs pédagogiques qui sonnent bien, mais qui ne correspondent pas réellement aux compétences visées. Et dans un OF, cela peut vite devenir un problème. Parce qu’un contenu pédagogique n’est pas seulement un texte. C’est un engagement. Il doit être cohérent avec le besoin, le public, les objectifs, les modalités d’évaluation, les moyens pédagogiques, les exigences réglementaires éventuelles et les compétences réelles du formateur.

L’IA peut aider à produire. Mais elle ne doit pas devenir celle qui décide à la place de l’organisme.

La littératie IA 

L’article 4 de l’AI Act impose aux fournisseurs et aux déployeurs de systèmes d’IA de prendre des mesures pour garantir, dans la mesure du possible, un niveau suffisant de maîtrise de l’IA auprès de leur personnel et des personnes qui utilisent ces systèmes pour leur compte. Cette obligation doit tenir compte des connaissances techniques, de l’expérience, de la formation, du contexte d’utilisation et des personnes concernées par l’usage de ces systèmes. On parle ici de “littératie IA”. Le mot peut sembler un peu conceptuel.

Dans les faits, il renvoie à une idée assez simple : les personnes qui utilisent l’IA doivent comprendre suffisamment ce qu’elles font pour ne pas l’utiliser n’importe comment. C’est précisément là que le sujet dépasse largement le simple “prompt engineering”.

Former ses équipes à l’IA, ce n’est pas leur apprendre à écrire une bonne consigne dans ChatGPT.

C’est leur apprendre à comprendre :

• ce qu’est un système d’IA ;
• ce que l’outil peut faire ou ne pas faire ;
• pourquoi une réponse peut être fausse ;
• ce qu’est une hallucination ;
• comment vérifier une information ;
• quelles données ne doivent pas être transmises ;
• quels usages sont sensibles ;
• quand l’intervention humaine est indispensable ;
• comment documenter certains usages ;
• comment informer les personnes concernées lorsque c’est nécessaire. 

Pour un OF, c’est un point important car il ne suffit pas que “quelqu’un dans l’équipe maîtrise bien ChatGPT”. Si plusieurs personnes utilisent l’IA dans l’organisme, chacune doit avoir un niveau de compréhension adapté à ses usages.

La personne qui génère des idées de posts LinkedIn n’a pas forcément besoin du même niveau de maîtrise que celle qui utilise l’IA pour analyser des évaluations, produire des supports ou accompagner des apprenants.

La compétence attendue doit donc être proportionnée aux usages.

Ce qu’un organisme de formation devrait mettre en place

Il serait excessif de dire que chaque OF doit immédiatement construire une usine à gaz documentaire sur l’IA.

Les petits organismes n’ont pas les mêmes moyens que les grands groupes. Et il ne s’agit pas de créer une nouvelle procédure pour le plaisir de créer une procédure. En revanche, il devient difficile de faire comme si le sujet n’existait pas et ce le sera de plus en plus. Un OF peut déjà avancer avec quelques actions simples et pragmatiques.

Cartographier les usages IA

Première étape : savoir ce qui se fait réellement : qui utilise l’IA dans l’organisme ? Avec quels outils ? Pour quelles tâches ? Sur quels types de données ? Avec quel niveau de validation ? Cette étape peut déjà révéler beaucoup de choses. Dans certains organismes, la direction pense que l’IA est peu utilisée, alors qu’en réalité plusieurs personnes s’en servent déjà au quotidien.

Classer les usages selon leur sensibilité

Tous les usages ne se valent pas. Demander à l’IA dix idées de titres pour un article n’a pas le même niveau de risque que lui transmettre un bilan individuel apprenant. Utiliser l’IA pour reformuler un mail commercial n’a pas la même portée que l’utiliser pour construire une évaluation certificative. L’OF doit donc distinguer les usages simples, les usages sensibles et les usages à proscrire. Cela permet d’éviter deux excès : tout interdire ou tout autoriser.

Définir les données à ne pas transmettre

C’est probablement l’une des règles les plus urgentes à poser.

Un organisme de formation devrait définir clairement les données qui ne doivent pas être copiées dans un outil d’IA non maîtrisé : données personnelles, données sensibles, documents clients confidentiels, situations individuelles, éléments RH, évaluations nominatives, informations commerciales stratégiques, etc. La règle doit être simple, compréhensible et applicable sinon, personne ne l’appliquera.

Former les équipes aux bons réflexes

L’article 4 de l’AI Act ne dit pas de former sur l’Intelligence Artificielle tout le monde. 

Il demande une maîtrise suffisante de l’IA en fonction des usages, du contexte et des personnes concernées.

Pour un OF, cela peut passer par une sensibilisation interne, un atelier pratique, une charte commentée, des exemples d’usages autorisés/interdits, ou encore une formation ciblée pour les personnes qui utilisent l’IA sur des missions plus sensibles.

Encadrer la production pédagogique assistée par IA

C’est un point central pour les organismes de formation. Si l’IA est utilisée pour produire des programmes, des supports, des quiz, des évaluations ou des déroulés pédagogiques, l’OF doit prévoir une règle claire : aucun contenu généré ou fortement assisté par IA ne devrait être diffusé sans validation métier. Cette validation doit être réalisée par une personne compétente sur le sujet. C’est particulièrement important pour les formations réglementées, certifiantes, habilitantes ou liées à des obligations spécifiques.

Documenter les pratiques

L’OF devrait pouvoir montrer qu’il a réfléchi à ses usages de l’IA. Cela peut passer par de nombreuses solutions comme une charte IA interne, une procédure courte, une liste des outils autorisés, une liste des usages interdits, 

des règles de validation, une trace des actions de sensibilisation, des exemples concrets d’usages acceptables, la liste des possibles est longue. 

Qualiopi ne parle pas directement d’IA, mais…

Qualiopi ne demande pas aujourd’hui à un OF de produire une charte IA mais il serait naïf de penser que l’IA n’a aucun lien avec la qualité.

Si l’IA intervient dans la conception, l’animation, l’évaluation ou l’amélioration d’une action de formation, elle touche forcément à des sujets qualité : adaptation au public, adéquation des moyens, compétences des intervenants, modalités d’évaluation, maîtrise documentaire, recueil et prise en compte des appréciations.

Un OF qui utilise l’IA pour produire ses supports ou ses évaluations devra être capable d’expliquer comment il s’assure que ces contenus restent justes, adaptés et maîtrisés. Certes, l’auditeur Qualiopi ne va pas forcément demander : “Utilisez-vous ChatGPT ?” Mais la qualité d’une formation ne se délègue pas à un outil.

On revient toujours à la même idée : l’IA peut assister, mais elle ne doit pas remplacer la responsabilité pédagogique de l’organisme.

Et les formateurs indépendants dans tout ça ?

Le sujet concerne aussi les formateurs indépendants qui interviennent pour le compte des OF.

Beaucoup utilisent déjà l’IA pour préparer leurs supports, reformuler leurs déroulés, créer des activités, générer des quiz ou adapter des contenus. Là encore, ce n’est pas forcément un problème. Mais un organisme de formation qui sous-traite une action doit aussi s’interroger sur les pratiques de ses intervenants.

Si un formateur indépendant utilise l’IA pour créer un support destiné à vos stagiaires, avec votre logo, dans le cadre d’une prestation vendue par votre OF, cela devient aussi votre sujet.

Il peut donc être pertinent d’intégrer quelques règles dans la relation avec les formateurs :

• pas de transmission de données clients ou apprenants dans un outil IA non autorisé ; 
• validation des supports produits avec l’aide de l’IA ; 
• vigilance sur les contenus réglementaires ; 
• traçabilité des sources lorsque c’est nécessaire ; 
• respect des règles internes de l’OF. 

Un OF ne peut pas encadrer ses salariés d’un côté et laisser ses sous-traitants faire totalement autre chose de l’autre.

L’erreur serait de réduire l’AI Act à une formation obligatoire

Comme souvent avec les nouveaux textes, le marché de la formation risque de produire quelques raccourcis.

On voit déjà apparaître l’idée selon laquelle l’AI Act imposerait une formation IA obligatoire à tout le monde. La réalité est plus nuancée.

Oui, l’AI Act introduit une obligation de maîtrise de l’IA pour les fournisseurs et déployeurs de systèmes d’IA. Oui, cela peut nécessiter des actions de formation ou de sensibilisation. Mais non, cela ne signifie pas automatiquement que toutes les entreprises doivent acheter la même formation standardisée pour tous leurs salariés. Le sujet doit être traité en fonction des usages réels.

Une entreprise qui utilise ponctuellement l’IA pour de la rédaction interne n’aura pas les mêmes besoins qu’un organisme qui intègre un outil IA dans un parcours apprenant, un processus d’évaluation ou une aide à la décision. C’est justement là que les organismes de formation ont un rôle intéressant à jouer : aider leurs clients à comprendre leurs usages, leurs risques et leurs besoins réels. Mais avant cela, les OF doivent déjà appliquer ce raisonnement à eux-mêmes.

🎓 Retrouvez notre parcours dédié “L’IA pour les organismes de formation” sur l’Academy Digiforma