Skip to content

Mexty et l'EU AI Act : Concevoir une IA pédagogique fiable dès l'origine

July 31, 2026
•15 min read•24 views
Mexty et l'EU AI Act : Concevoir une IA pédagogique fiable dès l'origine

Le futur de l'IA pédagogique exige plus que l'innovation. Découvrez comment allier conformité, transparence, innovation et confiance avec Mexty.

Mexty et l'EU AI Act : Concevoir une IA pédagogique fiable dès l'origine


Le 2 août 2026, d'importantes dispositions de l'AI Act de l'Union européenne entreront en application, notamment les exigences de transparence de l'article 50 concernant certains systèmes d'IA ainsi que certaines catégories de contenus générés ou modifiés par l'intelligence artificielle.

Ces règles visent à permettre aux personnes d'identifier lorsqu'elles interagissent avec un système d'IA ou lorsqu'elles consultent un contenu synthétique ou manipulé.

Les exigences relatives à la culture de l'IA (AI Literacy) ne sont pas nouvelles. L'article 4 de l'AI Act est applicable depuis le 2 février 2025 et impose aux fournisseurs et aux déployeurs de systèmes d'IA de prendre des mesures appropriées afin de développer les compétences en IA des employés et des autres personnes utilisant ces systèmes pour leur compte.

Ces mesures doivent être adaptées au niveau de connaissances, à l'expérience, à la formation ainsi qu'au contexte dans lequel la technologie est utilisée.

Pour les équipes Learning & Development (L&D), cette évolution constitue une étape importante.

L'intelligence artificielle transforme rapidement la manière dont les organisations créent leurs formations, accompagnent les apprenants, évaluent les connaissances et diffusent les informations.

Cependant, une adoption responsable ne peut pas se limiter à ajouter la mention « Généré par IA » sur un document ou à publier une politique générale sur l'IA.

Elle exige un workflow complet, maîtrisé et gouverné.

Chez Mexty, nous avons conçu notre Learning Infrastructure sécurisée, AI-Native, autour de ce principe : l'innovation et la gouvernance ne doivent jamais être considérées comme des objectifs opposés. Elles doivent être conçues ensemble.


Pourquoi l'EU AI Act est important pour les plateformes de formation

Les plateformes de formation sont désormais profondément liées à l'intelligence artificielle.

Un outil de création de contenus pédagogiques basé sur l'IA peut aider à produire :

  • des structures de cours ;

  • des scénarios pédagogiques ;

  • des questions ;

  • des explications ;

  • des feedbacks.

Un assistant IA peut accompagner un concepteur pédagogique pendant la création d'une formation ou assister les apprenants durant leurs activités.

L'IA peut également transformer :

  • des politiques internes ;

  • de la documentation produit ;

  • des supports de formation,

en expériences d'apprentissage plus accessibles.

Ces capacités apportent une réelle valeur ajoutée. Elles permettent notamment de :

  • accélérer la création des formations ;

  • réutiliser les connaissances existantes ;

  • générer des activités pédagogiques différenciées ;

  • fournir un accompagnement plus contextualisé ;

  • améliorer l'accessibilité et la localisation ;

  • simplifier les mises à jour ;

  • créer des situations d'entraînement plus riches.

Cependant, elles soulèvent également de nouvelles questions.

Voici la deuxième partie de la traduction (page 2). Toutes les occurrences de Mexty sont présentées sous forme de lien : Mexty.


Ces questions dépassent le simple cadre juridique

Le contenu a-t-il été créé ou substantiellement modifié à l'aide de l'IA ? Quel modèle a été utilisé ? Quelles informations ont été fournies au modèle ? Le résultat est-il fondé sur une source approuvée ? A-t-il été relu par une personne qualifiée ? L'organisation est-elle capable d'identifier les modifications apportées entre les différentes versions ? Le contenu pourrait-il induire un apprenant en erreur ? Une interaction avec l'IA est-elle clairement identifiée comme telle ?

Ces interrogations ne sont pas uniquement d'ordre juridique. Elles concernent également la qualité pédagogique, la responsabilité de l'organisation et la confiance des apprenants.

L'EU AI Act rend certaines de ces exigences plus explicites, mais une conception pédagogique responsable devrait les prendre en compte même lorsqu'aucune obligation spécifique de transparence ne s'applique.


La transparence exige bien plus qu'un simple label

L'article 50 n'impose pas les mêmes exigences d'étiquetage à tous les contenus assistés par l'IA. Les obligations dépendent :

  • du système d'IA utilisé ;

  • du rôle du fournisseur ou du déployeur ;

  • de la nature du contenu ;

  • de son contexte d'utilisation.

Par exemple, la réglementation prévoit :

  • d'informer les personnes lorsqu'elles interagissent directement avec certains systèmes d'IA ;

  • un marquage lisible par machine de certains contenus générés ou modifiés par l'IA réalisé par les fournisseurs concernés ;

  • des obligations de divulgation concernant les deepfakes ainsi que certains textes générés ou modifiés par l'IA destinés à informer le public sur des sujets d'intérêt général.

Pour les plateformes de formation, l'enseignement est clair : les organisations doivent savoir précisément où l'IA est utilisée et être capables de communiquer cette utilisation de manière appropriée.

Mexty met en œuvre cette approche grâce à une identification claire des contenus et des interactions assistés par l'IA.

Cela peut notamment permettre de distinguer :

  • un contenu entièrement rédigé par un humain ;

  • un contenu initialement généré par l'IA puis validé par un humain ;

  • un contenu existant modifié avec l'assistance de l'IA ;

  • les interactions des apprenants avec un agent IA ;

  • les images, fichiers audio, vidéos ou autres médias générés par l'IA ;

  • les évaluations ou feedbacks assistés par l'IA.

La transparence doit permettre aux utilisateurs de comprendre la nature de leur expérience. Elle ne doit pas se limiter à un simple badge remplaçant une véritable gouvernance.


La validation humaine doit rester une étape essentielle du processus de publication

L'intelligence artificielle peut produire très rapidement des contenus convaincants.

Elle peut également :

  • générer des erreurs ;

  • omettre des informations essentielles ;

  • mal interpréter les documents sources ;

  • produire des affirmations paraissant plus certaines que ne le justifient réellement les preuves disponibles.

Cet aspect est particulièrement important dans le cadre de la formation en entreprise.

Un contenu inexact peut avoir des conséquences sur :

  • les procédures de sécurité ;

  • la conformité réglementaire ;

  • les interactions avec les clients ;

  • les pratiques RH ;

  • l'utilisation des produits ;

  • des décisions stratégiques importantes.

Dans le prochain morceau, je traduirai les pages 3 et 4, consacrées notamment à :

  • la plateforme Trusted AI de Mexty ;

  • les Sources of Truth ;

  • la traçabilité des actions de l'IA ;

  • l'AI Literacy (culture de l'IA).

Voici la troisième partie de la traduction (pages 3 et 4). Toutes les occurrences de Mexty sont présentées sous forme de lien : Mexty.


C'est pourquoi Mexty est conçu comme une plateforme de création Trusted AI, et non comme un moteur de publication autonome.

Tout contenu généré par l'IA doit être considéré comme une première version jusqu'à ce qu'il ait été relu et approuvé par une personne responsable.

Les auteurs et les relecteurs doivent pouvoir :

  • examiner le contenu généré ;

  • le comparer aux sources approuvées ;

  • corriger les erreurs ;

  • réécrire les passages peu clairs ;

  • supprimer les contenus inappropriés ;

  • modifier les activités pédagogiques et les évaluations ;

  • valider l'expérience d'apprentissage finale avant sa publication.

La possibilité de modifier entièrement le contenu est essentielle.

La supervision humaine n'a de valeur que si les personnes gardent un véritable contrôle sur le résultat, plutôt que de devoir simplement accepter ou rejeter un cours généré dans son ensemble.

Une plateforme de création IA sécurisée et responsable doit donc associer l'automatisation à un véritable contrôle éditorial.


Ancrer l'IA sur des Sources of Truth approuvées

Les modèles d'IA généralistes sont entraînés sur d'immenses ensembles de données.

Ils sont utiles pour :

  • les connaissances générales ;

  • le brainstorming ;

  • l'assistance rédactionnelle.

Mais la formation en entreprise exige un environnement beaucoup plus maîtrisé.

Les organisations ont besoin que leurs contenus de formation reflètent fidèlement :

  • leurs politiques internes ;

  • leurs procédures ;

  • leur documentation technique ;

  • leur terminologie officielle ;

  • leurs produits et services ;

  • leurs règles de conformité ;

  • leurs pratiques opérationnelles ;

  • leurs standards de marque et de communication.

Mexty s'appuie sur des Sources of Truth approuvées afin d'ancrer les contenus pédagogiques générés par l'IA dans les documents sélectionnés par l'organisation.

Cette approche crée une différence essentielle entre :

  • demander à un modèle généraliste de créer un cours à partir de ses connaissances générales ;

et

  • utiliser une plateforme AI-Native capable de produire des expériences d'apprentissage interactives à partir de sources organisationnelles contrôlées.

Cet ancrage ne remplace pas la validation humaine.

Les documents sources peuvent eux-mêmes être obsolètes, incomplets ou contradictoires.

En revanche, ils fournissent aux auteurs et aux relecteurs une base beaucoup plus fiable pour valider les contenus produits et préserver leur intégrité.

Ils facilitent également les mises à jour.

Lorsqu'une politique ou une procédure évolue, l'organisation peut identifier rapidement les contenus pédagogiques concernés et déterminer ceux qui doivent être révisés.


Traçabilité des actions de l'IA, des modèles utilisés et des modifications

Une adoption responsable de l'IA ne consiste pas simplement à savoir qu'une IA a été utilisée.

Les organisations doivent également être capables d'identifier :

  • quelle fonctionnalité IA a été utilisée ;

  • quel modèle ou quel fournisseur a réalisé l'action ;

  • quels documents sources ont été exploités ;

  • à quel moment l'action a eu lieu ;

  • quel résultat a été produit ;

  • quelles modifications ont ensuite été apportées ;

  • qui a relu et approuvé le contenu.

C'est pourquoi la traçabilité, l'historique des versions et les journaux d'audit occupent une place centrale dans l'approche de Mexty.

La traçabilité répond simultanément à plusieurs objectifs.

Elle permet :

  • aux auteurs de comprendre l'évolution d'un contenu ;

  • aux relecteurs de disposer d'un meilleur contexte lors de la validation ;

  • aux administrateurs d'analyser un problème lorsqu'il survient ;

  • d'améliorer continuellement les contenus ;

  • de démontrer que l'organisation applique une véritable gouvernance de l'IA plutôt que des pratiques informelles.

Un outil de création pédagogique IA destiné aux entreprises ne doit jamais considérer la génération par IA comme un événement invisible.

Il doit intégrer cette génération dans un cycle de vie du contenu pleinement responsable et traçable.


L'AI Literacy doit devenir une compétence opérationnelle

L'obligation de développer la culture de l'IA (AI Literacy) prévue par l'AI Act est particulièrement importante pour les équipes Learning & Development.

L'AI Literacy ne consiste pas simplement à envoyer aux collaborateurs une définition de l'intelligence artificielle.

Les utilisateurs ont besoin d'une formation adaptée à leurs responsabilités et aux systèmes qu'ils utilisent.

Ainsi :

  • un concepteur créant une formation de conformité n'a pas les mêmes besoins qu'un apprenant utilisant un tuteur IA ;

  • un administrateur configurant un espace de travail n'a pas les mêmes responsabilités qu'un relecteur validant des contenus générés par l'IA.

Une AI Literacy efficace peut notamment inclure la compréhension :

  • de ce que l'IA peut faire… et de ce qu'elle ne peut pas faire ;

  • de la manière dont les hallucinations et autres erreurs apparaissent ;

  • des raisons pour lesquelles chaque résultat doit être vérifié ;

  • de la bonne utilisation des Sources of Truth approuvées ;

  • des situations où des données personnelles ou confidentielles ne doivent pas être saisies dans un système d'IA ;

  • de la façon d'identifier un contenu inapproprié ou trompeur ;

  • de la manière de signaler un problème ;

  • des situations où le jugement humain doit prévaloir sur une recommandation de l'IA.

La Commission européenne a publié des ressources pratiques afin d'aider les fournisseurs et les déployeurs à mettre en œuvre des initiatives proportionnées en matière d'AI Literacy.

L'approche de Mexty comprend des recommandations destinées aux auteurs, aux administrateurs et aux équipes internes afin que l'utilisation responsable de l'IA fasse partie intégrante des pratiques quotidiennes, et ne reste pas une simple politique oubliée dans un dossier partagé.

Voici la quatrième partie de la traduction (pages 5 à 7). Toutes les occurrences de Mexty sont présentées sous forme de lien : Mexty.


Protéger les apprenants dans les évaluations et les analyses

L'intelligence artificielle introduit des risques particuliers lorsqu'elle influence les évaluations, les analyses des apprenants ou les décisions ayant un impact sur les individus.

L'IA peut aider les concepteurs pédagogiques à :

  • rédiger des questions ;

  • proposer des feedbacks ;

  • générer des variantes de scénarios.

Elle peut également contribuer à identifier des tendances dans les activités d'apprentissage.

Toutefois, ces résultats ne doivent jamais déterminer automatiquement si un apprenant est compétent, éligible à une opportunité ou concerné par une décision importante.

Les questions d'évaluation générées par l'IA doivent être vérifiées selon plusieurs critères :

  • leur exactitude factuelle ;

  • leur pertinence par rapport aux objectifs pédagogiques ;

  • l'absence d'ambiguïté ;

  • l'absence de biais involontaires ;

  • un niveau de difficulté approprié ;

  • la qualité du feedback fourni ;

  • leur capacité à mesurer de véritables compétences.

Les analyses des apprenants doivent également être interprétées avec discernement.

Les taux de réussite, les scores et les données d'activité peuvent éclairer certaines décisions, mais ils ne donnent jamais une vision complète des connaissances ou des performances d'une personne.

C'est pourquoi Mexty intègre des mécanismes de protection autour des évaluations, des analyses et des décisions importantes.

La responsabilité humaine doit toujours rester centrale, en particulier lorsqu'une décision peut avoir un impact significatif sur un apprenant ou un collaborateur.

L'objectif d'un AI Agent for Learning est de soutenir l'apprentissage et la réflexion, et non de porter des jugements non fondés sur les individus.


Vérification des médias générés par l'IA

Le débat sur la transparence porte souvent sur les contenus textuels, mais les médias générés ou modifiés par l'IA comprennent également :

  • les images ;

  • les illustrations ;

  • les schémas ;

  • les voix off ;

  • les fichiers audio ;

  • les vidéos ;

  • les avatars ;

  • les animations ;

  • les sous-titres ;

  • les transcriptions ;

  • les miniatures.

Ces ressources doivent être examinées afin de vérifier :

  • leur exactitude ;

  • leur pertinence ;

  • leur accessibilité ;

  • leurs conditions de licence ;

  • l'absence de biais ;

  • le risque qu'elles puissent induire les apprenants en erreur.

Les médias particulièrement réalistes méritent une vigilance accrue.

Une voix synthétique, un avatar réaliste ou une scène de travail générée peuvent être perçus comme authentiques alors qu'ils représentent une personne ou une situation fictive.

L'Union européenne a publié des icônes facultatives ainsi que des recommandations relatives à la divulgation de certains contenus générés par l'IA.

La Commission rappelle que l'utilisation d'une icône ne suffit pas, à elle seule, à démontrer la conformité juridique. Les obligations de divulgation prévues par l'article 50 doivent toujours être respectées.

Pour Mexty, la validation des médias fait partie intégrante du processus global de publication et non d'une simple étape de conformité.


Signaler et corriger les problèmes rencontrés par les apprenants

Même avec des contrôles rigoureux, des problèmes peuvent survenir.

Un apprenant peut rencontrer :

  • une explication inexacte ;

  • une image inappropriée ;

  • une réponse IA trompeuse ;

  • une interaction défaillante ;

  • une question d'évaluation ne correspondant pas aux sources approuvées.

Une plateforme de formation interactive sécurisée et fiable doit prévoir un processus permettant de :

  1. signaler le problème ;

  2. enregistrer le contexte concerné ;

  3. analyser le contenu ou l'interaction IA ;

  4. identifier l'origine du problème ;

  5. corriger ou retirer le contenu concerné ;

  6. vérifier si d'autres contenus sont également affectés ;

  7. documenter la résolution.

Cette approche crée une véritable boucle d'amélioration continue entre les apprenants, les auteurs, les relecteurs et les administrateurs.

Elle transforme également la gouvernance en un processus permanent.

Une IA responsable ne s'arrête pas au moment de la publication d'une formation. Elle accompagne l'ensemble du cycle de vie de l'expérience d'apprentissage.


Associer gouvernance et apprentissage interactif

La conformité ne doit pas contraindre les organisations à revenir à des formations statiques et centrées sur des documents.

Un environnement d'apprentissage gouverné peut rester :

  • créatif ;

  • adaptatif ;

  • engageant.

Mexty permet aux équipes de :

  • créer des formations interactives sans programmation ;

  • construire des scénarios et des évaluations ;

  • diffuser les contenus dans un environnement compatible SCORM ;

tout en conservant :

  • la validation humaine ;

  • la traçabilité ;

  • l'ancrage sur les Sources of Truth.

En tant que plateforme AI-Native combinant LMS et outil auteur, Mexty relie la création, la relecture, la diffusion, l'accompagnement des apprenants, les analyses et l'amélioration continue.

Cette approche est essentielle, car la gouvernance de l'IA doit accompagner le contenu tout au long de son cycle de vie.

Les contrôles ne doivent pas disparaître une fois le contenu exporté ou attribué aux apprenants.

L'objectif n'est pas de ralentir les équipes Learning & Development, mais de simplifier le processus de conception pédagogique tout en le rendant plus transparent, plus contrôlable et plus fiable.


De la conformité à la confiance

L'échéance du 2 août 2026 conduira naturellement de nombreuses organisations à réexaminer leurs systèmes d'IA, leurs pratiques de transparence et leur documentation.

Mais l'opportunité va bien au-delà de la seule conformité réglementaire.

Un workflow IA maîtrisé permet notamment de :

  • améliorer la fiabilité des contenus pédagogiques ;

  • protéger les données personnelles et les informations de l'organisation ;

  • renforcer la responsabilité ;

  • répondre plus efficacement aux préoccupations des apprenants ;

  • mettre à jour les formations de manière plus cohérente ;

  • accroître la confiance des auteurs, des administrateurs et des apprenants ;

  • déployer l'IA à grande échelle sans perdre la supervision humaine.

Chez Mexty, notre objectif n'est pas simplement d'aider les organisations à déclarer qu'elles respectent l'EU AI Act.

Notre ambition est de leur permettre de construire un apprentissage assisté par l'IA qui soit fiable, transparent et placé sous contrôle humain.

L'innovation et la gouvernance ne doivent pas être opposées.

Lorsqu'elles sont conçues ensemble au sein d'une même infrastructure, les organisations peuvent exploiter l'IA avec davantage de confiance tout en protégeant les apprenants, les données personnelles, l'intégrité des contenus et la responsabilité humaine.

C'est la prochaine étape de l'IA appliquée à la formation, et Mexty est prêt à accompagner cette évolution.


Cet article fournit des informations générales et ne constitue pas un avis juridique. Chaque organisation doit évaluer les exigences de l'AI Act applicables à ses propres systèmes, à son rôle et à ses cas d'usage spécifiques.



Si vous avez aimé celui-ci, vous allez adorer nos prochains articles.

Mexty V3 est disponible : une infrastructure d’apprentissage sécurisée, native de l’IA, pour l’avenir de la formation en entreprise 


MextyAI Act de l’UEIA dans l’apprentissageApprentissage et développementConception pédagogique