Skip to content

Mexty und der EU AI Act: Vertrauenswürdiges KI-gestütztes Lernen durch Design

July 31, 2026
•11 min read•24 views
Mexty und der EU AI Act: Vertrauenswürdiges KI-gestütztes Lernen durch Design

Die Zukunft der KI im Lernen erfordert mehr als nur Innovation. Entdecken Sie, wie Sie mit Mexty Compliance, Transparenz, Innovation und Vertrauen vereinen können.

Mexty und der EU AI Act: Vertrauenswürdiges KI-gestütztes Lernen durch Design


Am 2. August 2026 treten wichtige Bestimmungen des EU AI Act in Kraft, darunter die Transparenzanforderungen gemäß Artikel 50 für bestimmte KI-Systeme sowie für bestimmte Kategorien von KI-generierten oder KI-veränderten Inhalten.

Diese Vorschriften sollen Menschen dabei helfen zu erkennen, wann sie mit einem KI-System interagieren oder auf synthetische beziehungsweise manipulierte Inhalte stoßen.

Die Anforderungen an die KI-Kompetenz (AI Literacy) sind nicht neu. Artikel 4 des AI Act gilt bereits seit dem 2. Februar 2025 und verpflichtet Anbieter und Betreiber von KI-Systemen, geeignete Maßnahmen zu ergreifen, um die KI-Kompetenz ihrer Mitarbeitenden und aller Personen zu fördern, die KI-Systeme in ihrem Auftrag nutzen.

Diese Maßnahmen sollten dem jeweiligen Wissensstand, der Erfahrung, der Ausbildung sowie dem Nutzungskontext der Technologie entsprechen.

Für Learning-&-Development-Teams stellt dies einen wichtigen Wendepunkt dar.

KI verändert rasant die Art und Weise, wie Unternehmen Schulungen erstellen, Lernende unterstützen, Wissen bewerten und Informationen bereitstellen. Eine verantwortungsvolle Einführung lässt sich jedoch nicht darauf reduzieren, einem Dokument lediglich den Hinweis „KI-generiert“ hinzuzufügen oder eine allgemeine KI-Richtlinie zu veröffentlichen.

Erforderlich ist vielmehr ein vollständiger und kontrollierter Workflow.

Bei Mexty haben wir unsere sichere AI-Native Learning Infrastructure genau nach diesem Grundsatz entwickelt: Innovation und Governance dürfen nicht als gegensätzliche Ziele betrachtet werden sie müssen gemeinsam konzipiert werden.


Warum der EU AI Act für Lernplattformen wichtig ist

Lernplattformen sind zunehmend eng mit KI verbunden.

Ein KI-gestütztes Autorentool für Learning & Development kann beim Erstellen von Kursstrukturen, Szenarien, Fragen, Erklärungen und Feedback unterstützen. Ein KI-Assistent kann Autoren während der Kurserstellung begleiten oder Lernende bei Aktivitäten unterstützen. Darüber hinaus kann KI Richtlinien, Produktdokumentationen und Schulungsunterlagen in leichter zugängliche Lernerfahrungen umwandeln.

Diese Möglichkeiten bieten erheblichen Mehrwert. Sie helfen Teams dabei,

  • die Kurserstellung zu beschleunigen;

  • bestehendes Wissen wiederzuverwenden;

  • differenzierte Lernaktivitäten zu erzeugen;

  • kontextbezogene Unterstützung bereitzustellen;

  • Barrierefreiheit und Lokalisierung zu verbessern;

  • Aktualisierungen zu vereinfachen;

  • vielfältigere Übungsmöglichkeiten zu schaffen.

Sie bringen jedoch auch neue Fragestellungen mit sich.


Diese Fragen betreffen nicht nur die Rechtskonformität. Sie berühren ebenso die Qualität des Instructional Designs, die Verantwortung der Organisation und das Vertrauen der Lernenden.

Der EU AI Act macht einige dieser Aspekte ausdrücklich deutlich. Verantwortungsvolles Learning Design sollte sie jedoch auch dann berücksichtigen, wenn keine konkrete gesetzliche Transparenzpflicht besteht.


Transparenz erfordert mehr als ein sichtbares Kennzeichen

Artikel 50 schreibt nicht für jeden KI-gestützten Inhalt dieselben Kennzeichnungspflichten vor. Die Anforderungen hängen vom jeweiligen KI-System, von der Rolle des Anbieters oder Betreibers sowie von Art und Kontext des betreffenden Inhalts ab.

So sehen die Vorschriften beispielsweise vor,

  • Personen darüber zu informieren, wenn sie unmittelbar mit bestimmten KI-Systemen interagieren;

  • KI-generierte oder KI-manipulierte Inhalte durch die jeweiligen Anbieter maschinenlesbar zu kennzeichnen;

  • Offenlegungspflichten für Deepfakes sowie für bestimmte KI-generierte oder KI-manipulierte Texte vorzusehen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren.

Für Lernplattformen ist die wichtigste Erkenntnis eindeutig: Organisationen müssen wissen, wo KI eingesetzt wird, und in der Lage sein, deren Einsatz angemessen zu kommunizieren.

Mexty unterstützt diesen Ansatz durch die eindeutige Kennzeichnung von KI-unterstützten Inhalten und Interaktionen.

Dazu gehört unter anderem die Unterscheidung zwischen:

  • vollständig von Menschen erstellten Inhalten;

  • zunächst von KI erzeugten und anschließend von Menschen überprüften Inhalten;

  • bestehenden Inhalten, die mithilfe von KI bearbeitet wurden;

  • Interaktionen von Lernenden mit einem KI-Agenten;

  • KI-generierten Bildern, Audiodateien, Videos oder anderen Medien;

  • KI-gestützten Bewertungen oder Feedback.

Transparenz soll den Nutzern helfen, die Art ihrer Lernerfahrung zu verstehen. Sie darf nicht zu einem oberflächlichen Kennzeichen werden, das eine echte Governance ersetzt.


Die menschliche Überprüfung muss Bestandteil des Veröffentlichungsprozesses bleiben

KI kann in kürzester Zeit überzeugende Inhalte erstellen. Sie kann jedoch auch Fehler produzieren, wichtige Zusammenhänge auslassen, Quelldokumente missverstehen oder Aussagen formulieren, die sicherer erscheinen, als die zugrunde liegenden Belege es rechtfertigen.

Dies ist insbesondere im betrieblichen Lernen von entscheidender Bedeutung.

Fehlerhafte Inhalte können Auswirkungen haben auf:

  • Sicherheitsverfahren;

  • die Einhaltung regulatorischer Vorgaben;

  • Kundeninteraktionen;

  • Personalpraktiken;

  • die Nutzung von Produkten;

  • wichtige geschäftliche Entscheidungen.


Die menschliche Kontrolle bleibt unverzichtbar

Aus diesem Grund wurde Mexty als vertrauenswürdige KI-Authoring-Plattform entwickelt und nicht als autonome Veröffentlichungsmaschine.

Von KI erzeugte Inhalte sollten grundsätzlich als Entwurf betrachtet werden, bis sie von einer verantwortlichen Person geprüft und freigegeben wurden.

Autorinnen, Autoren und Reviewer sollten jederzeit in der Lage sein,

  • den von der KI erzeugten Inhalt zu prüfen;

  • ihn mit den freigegebenen Quellen zu vergleichen;

  • sachliche Fehler zu korrigieren;

  • unklare Passagen neu zu formulieren;

  • ungeeignete Inhalte zu entfernen;

  • Lernaktivitäten und Bewertungen anzupassen;

  • die endgültige Lernerfahrung vor der Veröffentlichung freizugeben.

Eine vollständige manuelle Bearbeitung ist unverzichtbar. Menschliche Aufsicht ist nur dann sinnvoll, wenn Personen das Ergebnis tatsächlich steuern können, anstatt lediglich einen vollständig generierten Kurs anzunehmen oder abzulehnen.

Eine verantwortungsvolle und sichere KI-Authoring-Plattform muss daher Automatisierung mit einer wirksamen redaktionellen Kontrolle verbinden.


KI auf genehmigte „Sources of Truth“ stützen

Allgemeine KI-Modelle werden mit umfangreichen Informationssammlungen trainiert. Das ist hilfreich für Allgemeinwissen, Brainstorming oder sprachliche Unterstützung. Unternehmensweites Lernen erfordert jedoch deutlich stärker kontrollierte Grundlagen.

Organisationen müssen sicherstellen, dass ihre Lerninhalte auf den eigenen Grundlagen basieren:

  • Richtlinien;

  • Verfahren;

  • technische Dokumentation;

  • freigegebene Terminologie;

  • Produkte und Dienstleistungen;

  • Compliance-Vorgaben;

  • operative Prozesse;

  • Marken- und Kommunikationsstandards.

Mexty nutzt freigegebene Sources of Truth, um KI-generierte Lerninhalte auf den von der Organisation ausgewählten Quellen aufzubauen.

Dadurch entsteht ein wesentlicher Unterschied zwischen der Nutzung eines allgemeinen KI-Modells, das einen Kurs auf Grundlage seines allgemeinen Wissens erstellt, und einer AI-Native Learning Platform, die interaktive Lernerfahrungen auf Basis kontrollierter Unternehmensquellen entwickelt.

Die Nutzung verlässlicher Quellen ersetzt jedoch nicht die menschliche Überprüfung. Auch Quelldokumente können veraltet, unvollständig oder widersprüchlich sein.

Sie bietet Autoren und Reviewern jedoch eine deutlich solidere Grundlage, um Inhalte zu validieren und deren Integrität sicherzustellen.

Außerdem erleichtert sie Aktualisierungen. Wenn sich eine Richtlinie oder ein Verfahren ändert, müssen Organisationen nachvollziehen können, welche Lerninhalte davon betroffen sind und überprüft werden sollten.


Nachvollziehbarkeit von KI-Aktionen, Modellen und Änderungen

Verantwortungsvoller KI-Einsatz bedeutet mehr, als lediglich zu wissen, dass KI verwendet wurde.

Organisationen müssen unter Umständen nachvollziehen können:

  • welche KI-Funktion verwendet wurde;

  • welches Modell oder welcher Anbieter die Aktion unterstützt hat;

  • welche Quellen genutzt wurden;

  • wann die Aktion durchgeführt wurde;

  • welche Ergebnisse erzeugt wurden;

  • welche Änderungen anschließend vorgenommen wurden;

  • wer die Inhalte geprüft und freigegeben hat.

Genau deshalb bilden Nachvollziehbarkeit, Versionshistorie und Audit-Trails einen zentralen Bestandteil des Ansatzes von Mexty.

Diese Nachvollziehbarkeit unterstützt mehrere Ziele gleichzeitig:

  • Autoren verstehen besser, wie sich Inhalte entwickelt haben.

  • Reviewer erhalten mehr Kontext für ihre Validierung.

  • Administratoren können Probleme effizient untersuchen.

  • Kontinuierliche Verbesserungen werden erleichtert.

  • Organisationen können nachweisen, dass sie echte Governance-Prozesse eingeführt haben und sich nicht auf informelle Verfahren verlassen.

Ein Enterprise-geeignetes KI-Authoring-Tool sollte KI-generierung daher nicht als unsichtbares Ereignis behandeln, sondern sie als integralen Bestandteil eines nachvollziehbaren und verantwortlichen Content-Lebenszyklus betrachten.


KI-Kompetenz muss zu einer operativen Fähigkeit werden

Die Anforderungen des EU AI Act zur KI-Kompetenz (AI Literacy) sind insbesondere für Learning-&-Development-Teams von großer Bedeutung.

KI-Kompetenz ist nicht dadurch erfüllt, dass Mitarbeitenden lediglich eine kurze Definition künstlicher Intelligenz vermittelt wird. Menschen benötigen Anleitungen, die ihrer jeweiligen Rolle und den von ihnen verwendeten KI-Systemen entsprechen.

Ein Autor, der Compliance-Schulungen erstellt, benötigt andere Kenntnisse als ein Lernender, der einen KI-Tutor nutzt. Ebenso unterscheiden sich die Verantwortlichkeiten eines Administrators, der einen Workspace konfiguriert, von denen eines Reviewers, der KI-generierte Medien freigibt.

Eine wirksame KI-Kompetenz kann unter anderem Folgendes umfassen:

  • Verständnis dafür, was ein KI-System leisten kann und was nicht;

  • Wissen darüber, wie Halluzinationen und andere Fehler entstehen können;

  • Verständnis, warum Ergebnisse überprüft werden müssen;

  • korrekte Nutzung freigegebener Sources of Truth;

  • Wissen darüber, wann personenbezogene oder vertrauliche Daten nicht eingegeben werden dürfen;

  • Erkennen ungeeigneter oder irreführender Inhalte;

  • Kenntnis der Meldewege für Probleme;

  • Verständnis dafür, wann menschliches Urteilsvermögen eine KI-Empfehlung überstimmen muss.

Die Europäische Kommission hat praktische Ressourcen und Beispiele zur Förderung der KI-Kompetenz veröffentlicht, um Anbietern und Betreibern bei der Entwicklung angemessener Maßnahmen zu helfen.

Der Ansatz von Mexty umfasst Leitlinien für Autoren, Administratoren und interne Teams, damit der verantwortungsvolle Einsatz von KI zu einem festen Bestandteil der täglichen Arbeitsabläufe wird und nicht lediglich eine Richtlinie bleibt, die in einem gemeinsamen Ordner abgelegt ist.


Schutz der Lernenden bei Bewertungen und Learning Analytics

KI bringt besondere Risiken mit sich, wenn sie Bewertungen, Lernanalysen oder Entscheidungen beeinflusst, die einzelne Personen betreffen.

KI kann Autoren dabei unterstützen,

  • Prüfungsfragen zu entwerfen;

  • Feedback vorzuschlagen;

  • verschiedene Szenariovarianten zu generieren;

  • Muster im Lernverhalten zu erkennen.

Diese Ergebnisse sollten jedoch nicht automatisch darüber entscheiden,

  • ob eine lernende Person kompetent ist;

  • ob sie für eine Gelegenheit geeignet ist;

  • oder ob sie einer wichtigen Entscheidung unterliegt.

Von KI generierte Prüfungsfragen sollten sorgfältig überprüft werden hinsichtlich:

  • sachlicher Richtigkeit;

  • Übereinstimmung mit den Lernzielen;

  • Mehrdeutigkeit;

  • unbeabsichtigter Verzerrungen (Bias);

  • angemessenem Schwierigkeitsgrad;

  • Qualität des Feedbacks;

  • der Frage, ob die Bewertung tatsächlich relevante Kompetenzen misst.

Auch Learning Analytics benötigen Kontext.

Abschlussquoten, Testergebnisse und Aktivitätsdaten können Entscheidungen unterstützen, liefern jedoch nur selten ein vollständiges Bild über Wissen oder Leistung einer Person.

Deshalb integriert Mexty Schutzmechanismen für Bewertungen, Learning Analytics und bedeutende Entscheidungen.

Die menschliche Verantwortung muss stets im Mittelpunkt bleiben insbesondere dann, wenn ein Ergebnis erhebliche Auswirkungen auf Lernende oder Mitarbeitende haben könnte.

Das Ziel eines AI Agent for Learning besteht darin, Lernen und Reflexion zu unterstützen nicht darin, unbegründete Urteile über Menschen zu treffen.


Überprüfung von KI-generierten Medien

Die Transparenzdebatte konzentriert sich häufig auf schriftliche Inhalte. KI-generierte oder KI-veränderte Medien können jedoch ebenso Folgendes umfassen:

  • Bilder;

  • Illustrationen;

  • Diagramme;

  • Voice-over-Aufnahmen;

  • Audioinhalte;

  • Videos;

  • Avatare;

  • Animationen;

  • Untertitel;

  • Transkripte;

  • Vorschaubilder.

Diese Inhalte sollten sorgfältig überprüft werden hinsichtlich:

  • ihrer sachlichen Richtigkeit;

  • ihrer Angemessenheit;

  • ihrer Barrierefreiheit;

  • ihrer Lizenzierung;

  • möglicher Verzerrungen (Bias);

  • des Risikos, Lernende irrezuführen.

Besondere Aufmerksamkeit verdienen realistisch wirkende Medien.

Eine synthetische Stimme, ein realistischer Avatar oder eine KI-generierte Arbeitsplatzszene können als authentisch wahrgenommen werden, obwohl sie eine fiktive Person oder Situation darstellen.

Die Europäische Union hat optionale Symbole und Leitlinien veröffentlicht, die sich auf die Offenlegung bestimmter KI-generierter Inhalte beziehen. Die Europäische Kommission weist jedoch ausdrücklich darauf hin, dass die Verwendung eines Symbols allein keine rechtliche Konformität begründet. Die erforderlichen Offenlegungen müssen weiterhin den Anforderungen von Artikel 50 des EU AI Act entsprechen.

Für Mexty ist die Überprüfung von Medien kein isolierter Compliance-Schritt, sondern ein integraler Bestandteil des gesamten Veröffentlichungsworkflows.


Meldung und Korrektur von Problemen, die Lernende betreffen

Selbst bei wirksamen Kontrollen können Probleme auftreten.

Lernende können beispielsweise auf Folgendes stoßen:

  • eine ungenaue Erklärung;

  • ein ungeeignetes Bild;

  • eine irreführende KI-Antwort;

  • eine fehlerhafte Interaktion;

  • eine Prüfungsfrage, die nicht den freigegebenen Quellen entspricht.

Eine vertrauenswürdige und sichere interaktive Lernplattform sollte deshalb einen klar definierten Prozess bereitstellen für:

  1. die Meldung des Problems;

  2. die Erfassung aller relevanten Informationen;

  3. die Untersuchung des Inhalts oder der KI-Interaktion;

  4. die Ermittlung der Ursache;

  5. die Korrektur oder Entfernung des betroffenen Materials;

  6. die Überprüfung, ob weitere Inhalte ebenfalls betroffen sind;

  7. die Dokumentation der getroffenen Maßnahmen.

Dadurch entsteht ein praktischer Feedback-Kreislauf zwischen Lernenden, Autoren, Reviewern und Administratoren.

Governance wird so zu einem kontinuierlichen Prozess.

Verantwortungsvolle KI endet nicht mit der Veröffentlichung eines Kurses sie begleitet den gesamten Lebenszyklus einer Lernerfahrung.


Governance mit interaktivem Lernen verbinden

Compliance sollte Unternehmen nicht dazu zwingen, zu statischen und dokumentenlastigen Schulungen zurückzukehren.

Eine gut gesteuerte Lernumgebung kann gleichzeitig kreativ, adaptiv und motivierend sein.

Mexty ermöglicht Teams,

  • interaktive Kurse ohne Programmierung zu erstellen;

  • Szenarien und Bewertungen zu entwickeln;

  • Lerninhalte in einer SCORM-kompatiblen Umgebung bereitzustellen;

und dabei gleichzeitig

  • menschliche Überprüfung,

  • Nachvollziehbarkeit,

  • sowie die Nutzung verlässlicher Sources of Truth

sicherzustellen.

Als AI-Native LMS- und Authoring-Plattform verbindet Mexty die Inhaltserstellung, die Überprüfung, die Bereitstellung, die Unterstützung der Lernenden, Learning Analytics und die kontinuierliche Verbesserung in einer einzigen Infrastruktur.

Das ist entscheidend, weil KI-Governance den gesamten Lebenszyklus eines Inhalts begleiten muss. Die Kontrollmechanismen dürfen nicht verschwinden, sobald Lernmaterial exportiert oder Lernenden zugewiesen wurde.

Ziel ist es nicht, Learning-&-Development-Teams auszubremsen.

Vielmehr soll der Workflow des Instructional Designs vereinfacht und gleichzeitig transparenter, kontrollierbarer und vertrauenswürdiger gestaltet werden.


Von der Compliance zum Vertrauen

Die Frist vom 2. August 2026 wird verständlicherweise viele Organisationen dazu veranlassen, ihre KI-Systeme, Transparenzmaßnahmen und Dokumentationen zu überprüfen.

Doch die eigentliche Chance geht weit über die bloße Einhaltung gesetzlicher Vorschriften hinaus.

Ein kontrollierter KI-Workflow kann Organisationen dabei helfen,

  • die Zuverlässigkeit ihrer Lerninhalte zu verbessern;

  • personenbezogene und unternehmensbezogene Informationen zu schützen;

  • die Verantwortlichkeit zu stärken;

  • schneller und wirksamer auf Rückmeldungen von Lernenden zu reagieren;

  • Schulungsinhalte konsistenter zu aktualisieren;

  • das Vertrauen von Autoren, Administratoren und Lernenden zu erhöhen;

  • den Einsatz von KI zu skalieren, ohne die menschliche Kontrolle zu verlieren.

Bei Mexty besteht unser Ziel nicht lediglich darin, Organisationen dabei zu unterstützen, die Einhaltung des EU AI Act zu behaupten.

Unser Ziel ist es, ihnen dabei zu helfen, vertrauenswürdige, transparente und vom Menschen kontrollierte KI-gestützte Lernumgebungen aufzubauen.

Innovation und Governance dürfen keine Gegensätze sein.

Werden beide von Anfang an in derselben Infrastruktur verankert, können Organisationen KI mit größerem Vertrauen einsetzen und gleichzeitig

  • Lernende schützen,

  • personenbezogene Daten sichern,

  • die Integrität ihrer Inhalte gewährleisten,

  • und die menschliche Verantwortung bewahren.

Dies ist die nächste Entwicklungsstufe von KI im Lernen  und Mexty ist bereit, Organisationen auf diesem Weg zu begleiten.


Rechtlicher Hinweis

Dieser Artikel dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar.

Organisationen sollten eigenständig prüfen, welche Anforderungen des EU AI Act auf ihre jeweiligen KI-Systeme, ihre Rolle sowie ihre konkreten Anwendungsfälle anwendbar sind.




Wenn Ihnen dieser Beitrag gefallen hat, werden Ihnen unsere nächsten Artikel gefallen.

Mexty V3 ist live: Eine KI-native, sichere Lerninfrastruktur für die Zukunft des Enterprise Learning


MextyEU-KI-GesetzKI im LernenLernen und EntwicklungInstruktionsdesign