Mexty i unijny Akt o Sztucznej Inteligencji (AI Act): projektowanie godnych zaufania rozwiązań AI dla edukacji

Przyszłość sztucznej inteligencji w edukacji wymaga czegoś więcej niż innowacji. Odkryj, jak połączyć zgodność z przepisami, przejrzystość, innowacyjność i zaufanie z Mexty.
Mexty i unijny Akt o Sztucznej Inteligencji (AI Act): projektowanie godnych zaufania rozwiązań AI dla edukacji
Od 2 sierpnia 2026 r. zaczynają obowiązywać ważne przepisy Aktu o Sztucznej Inteligencji Unii Europejskiej (EU AI Act), w tym wymogi dotyczące przejrzystości określone w artykule 50 dla niektórych systemów AI oraz określonych kategorii treści wygenerowanych lub zmodyfikowanych przez sztuczną inteligencję. Przepisy te mają pomóc użytkownikom rozpoznać, kiedy wchodzą w interakcję z systemem AI lub mają do czynienia z treściami syntetycznymi bądź zmanipulowanymi.
Wymogi dotyczące kompetencji w zakresie AI nie są nowe. Artykuł 4 AI Act obowiązuje od 2 lutego 2025 r. i nakłada na dostawców oraz podmioty wdrażające systemy AI obowiązek podejmowania odpowiednich działań wspierających rozwój kompetencji w zakresie sztucznej inteligencji pracowników oraz innych osób korzystających z tych systemów w ich imieniu. Działania te powinny być dostosowane do wiedzy, doświadczenia, poziomu szkolenia oraz kontekstu, w jakim technologia jest wykorzystywana.
Dla zespołów Learning & Development jest to szczególnie istotny moment.
Sztuczna inteligencja szybko zmienia sposób, w jaki organizacje tworzą kursy, wspierają uczestników szkoleń, oceniają wiedzę i udostępniają informacje. Odpowiedzialne wdrażanie AI nie może jednak ograniczać się do dodania etykiety „wygenerowano przez AI” do dokumentu lub opublikowania ogólnej polityki dotyczącej sztucznej inteligencji.
Wymaga ono kompletnego i kontrolowanego procesu pracy.
W Mexty przygotowaliśmy bezpieczną, natywnie opartą na AI infrastrukturę edukacyjną zgodnie z zasadą, że innowacyjność i nadzór nie powinny być traktowane jako przeciwstawne cele. Muszą być projektowane razem.
Dlaczego EU AI Act ma znaczenie dla platform edukacyjnych
Platformy edukacyjne stają się coraz silniej powiązane ze sztuczną inteligencją.
Narzędzie AI do tworzenia treści dla działów Learning & Development może pomagać w opracowywaniu struktury kursów, scenariuszy, pytań, wyjaśnień i informacji zwrotnych. Asystent AI może wspierać autora podczas projektowania kursu lub pomagać uczestnikom podczas wykonywania aktywności. AI może również przekształcać polityki, dokumentację produktową oraz materiały szkoleniowe w bardziej przystępne doświadczenia edukacyjne.
Możliwości te przynoszą znaczącą wartość. Mogą pomóc zespołom:
przyspieszyć tworzenie kursów;
ponownie wykorzystywać istniejącą wiedzę;
generować zróżnicowane aktywności edukacyjne;
zapewniać bardziej kontekstowe wsparcie;
poprawiać dostępność i lokalizację;
upraszczać aktualizacje;
tworzyć bogatsze możliwości ćwiczeń.
Jednocześnie rodzą nowe pytania.
Czy treść została utworzona lub istotnie zmodyfikowana przy użyciu AI? Z jakiego modelu skorzystano? Jakie informacje przekazano modelowi? Czy wynik został oparty na zatwierdzonym źródle? Czy został zweryfikowany przez kompetentną osobę? Czy organizacja potrafi wskazać zmiany między kolejnymi wersjami? Czy rezultat może wprowadzić uczestnika szkolenia w błąd? Czy interakcja z AI jest wyraźnie oznaczona?
Nie są to wyłącznie pytania prawne. Są to pytania dotyczące jakości projektowania dydaktycznego, odpowiedzialności organizacji oraz zaufania uczestników.
EU AI Act wyraźniej wskazuje część z tych zagadnień, jednak odpowiedzialne projektowanie szkoleń powinno uwzględniać je nawet wtedy, gdy konkretny obowiązek dotyczący przejrzystości nie ma zastosowania.
Przejrzystość wymaga czegoś więcej niż widocznej etykiety
Artykuł 50 nie nakłada identycznych wymogów dotyczących oznaczania każdej treści wspomaganej przez AI. Obowiązki zależą od rodzaju systemu AI, roli dostawcy lub podmiotu wdrażającego oraz charakteru i kontekstu danej treści.
Na przykład przepisy obejmują obowiązek informowania użytkowników o bezpośredniej interakcji z określonymi systemami AI, stosowanie znaczników możliwych do odczytu maszynowego dla treści wygenerowanych lub zmodyfikowanych przez AI przez odpowiednich dostawców, a także obowiązki ujawniania informacji dotyczących deepfake'ów oraz określonych treści tekstowych wygenerowanych przez AI publikowanych w celu informowania społeczeństwa o kwestiach leżących w interesie publicznym.
Dla platform edukacyjnych ogólny wniosek jest jasny: organizacje muszą wiedzieć, gdzie wykorzystywana jest sztuczna inteligencja, i potrafić odpowiednio komunikować jej zastosowanie.
W Mexty realizujemy to podejście poprzez jednoznaczne oznaczanie treści oraz interakcji wspomaganych przez AI.
Może to obejmować rozróżnienie pomiędzy:
treścią napisaną całkowicie przez człowieka;
treścią początkowo wygenerowaną przez AI i zweryfikowaną przez człowieka;
istniejącą treścią zmodyfikowaną przy pomocy AI;
interakcjami uczestnika z agentem AI;
obrazami, nagraniami audio, filmami i innymi mediami wygenerowanymi przez AI;
ocenami lub informacją zwrotną wspieraną przez AI.
Przejrzystość powinna pomagać użytkownikom zrozumieć charakter doświadczenia edukacyjnego. Nie powinna stać się jedynie powierzchowną etykietą zastępującą rzeczywisty nadzór nad wykorzystaniem AI.
Nadzór człowieka musi pozostać częścią procesu publikacji
Sztuczna inteligencja potrafi bardzo szybko tworzyć przekonujące materiały. Może jednak również popełniać błędy, pomijać istotny kontekst, błędnie interpretować dokumenty źródłowe lub generować stwierdzenia brzmiące bardziej stanowczo, niż uzasadniają to dostępne dowody.
Jest to szczególnie ważne w szkoleniach pracowniczych.
Nieprawidłowe treści mogą wpływać na procedury bezpieczeństwa, zgodność z przepisami, relacje z klientami, praktyki związane z zatrudnieniem, sposób korzystania z produktów lub podejmowanie istotnych decyzji biznesowych.
Dlatego Mexty zostało zaprojektowane jako zaufana platforma AI do tworzenia treści edukacyjnych, a nie autonomiczny silnik publikacyjny.
Materiały wygenerowane przez AI powinny być traktowane jako projekt do momentu ich sprawdzenia i zatwierdzenia przez osobę odpowiedzialną. Autorzy i recenzenci powinni mieć możliwość:
analizowania wygenerowanych treści;
porównywania ich z zatwierdzonymi źródłami;
poprawiania nieścisłości;
przepisywania niejasnych fragmentów;
usuwania nieodpowiednich treści;
modyfikowania aktywności i ocen;
zatwierdzania ostatecznej wersji przed publikacją.
Pełna możliwość ręcznej edycji jest niezbędna. Nadzór człowieka ma znaczenie tylko wtedy, gdy użytkownicy rzeczywiście kontrolują rezultat, zamiast jedynie akceptować lub odrzucać cały wygenerowany kurs.
Odpowiedzialna i bezpieczna platforma AI do tworzenia treści edukacyjnych powinna zatem łączyć automatyzację z rzeczywistą kontrolą redakcyjną.
Oparcie AI na zatwierdzonych źródłach wiedzy (Sources of Truth)
Ogólne modele AI są trenowane na bardzo szerokich zbiorach informacji. Jest to przydatne w przypadku wiedzy ogólnej, burzy mózgów czy wsparcia językowego, jednak szkolenia przedsiębiorstw wymagają znacznie bardziej kontrolowanego podejścia.
Organizacje oczekują, że treści szkoleniowe będą odzwierciedlały ich własne:
polityki;
procedury;
dokumentację techniczną;
zatwierdzoną terminologię;
produkty i usługi;
wymagania zgodności;
praktyki operacyjne;
standardy marki i komunikacji.
Mexty wykorzystuje zatwierdzone Sources of Truth, aby pomagać w opieraniu treści edukacyjnych generowanych przez AI na materiałach wybranych przez organizację.
Stanowi to zasadniczą różnicę pomiędzy poproszeniem uniwersalnego modelu AI o stworzenie kursu na podstawie jego ogólnej wiedzy a wykorzystaniem natywnie opartej na AI platformy do tworzenia interaktywnych doświadczeń edukacyjnych opartych na kontrolowanych źródłach organizacji.
Takie podejście nie eliminuje potrzeby weryfikacji przez człowieka. Same dokumenty źródłowe mogą być nieaktualne, niekompletne lub zawierać sprzeczności. Zapewnia jednak autorom i recenzentom znacznie solidniejszą podstawę do weryfikacji rezultatów oraz utrzymania integralności treści.
Ułatwia również aktualizacje. Gdy zmienia się polityka lub procedura, organizacja musi wiedzieć, które materiały szkoleniowe są z nią powiązane i czy wymagają ponownej weryfikacji.
Identyfikowalność działań AI, modeli i zmian
Odpowiedzialne wykorzystanie AI wymaga czegoś więcej niż świadomości, że sztuczna inteligencja została użyta.
Organizacje mogą potrzebować wiedzieć:
która funkcja AI została wykorzystana;
który model lub dostawca obsługiwał dane działanie;
jakie materiały źródłowe zostały użyte;
kiedy wykonano daną operację;
jaki rezultat został wygenerowany;
jakie zmiany wprowadzono później;
kto zweryfikował i zatwierdził treść.
Dlatego identyfikowalność, historia wersji i ścieżki audytu stanowią kluczowy element podejścia Mexty.
Identyfikowalność realizuje jednocześnie kilka celów.
Pomaga autorom zrozumieć ewolucję treści. Dostarcza recenzentom lepszego kontekstu podczas weryfikacji. Umożliwia administratorom analizowanie problemów. Wspiera ciągłe doskonalenie oraz dostarcza dowodów na to, że organizacja wdrożyła rzeczywiste mechanizmy nadzoru, zamiast polegać na nieformalnych praktykach.
Narzędzie AI do tworzenia treści gotowe do zastosowań korporacyjnych nie powinno traktować generowania przez AI jako niewidocznego zdarzenia. Powinno uczynić tworzenie wspierane przez AI częścią odpowiedzialnego cyklu życia treści.
Kompetencje w zakresie AI muszą stać się praktyczną zdolnością organizacji
Wymóg dotyczący kompetencji AI zawarty w AI Act ma szczególne znaczenie dla zespołów Learning & Development.
Rozwijanie kompetencji AI nie polega na przesłaniu pracownikom krótkiej definicji sztucznej inteligencji. Ludzie potrzebują wskazówek dostosowanych do swoich ról oraz systemów, z których korzystają.
Autor przygotowujący szkolenia z zakresu zgodności potrzebuje innej wiedzy niż uczestnik korzystający z tutora AI. Administrator konfigurujący środowisko robocze ma inne obowiązki niż recenzent zatwierdzający media wygenerowane przez AI.
Skuteczne rozwijanie kompetencji AI może obejmować zrozumienie:
co system AI potrafi, a czego nie potrafi;
w jaki sposób powstają halucynacje AI i inne błędy;
dlaczego wyniki wymagają weryfikacji;
jak korzystać z zatwierdzonych źródeł;
kiedy nie należy wprowadzać danych osobowych lub poufnych;
jak rozpoznawać nieodpowiednie lub wprowadzające w błąd treści;
jak zgłaszać problemy;
kiedy ludzki osąd powinien mieć pierwszeństwo przed sugestiąAI.
Komisja Europejska opublikowała praktyczne materiały i przykłady dotyczące kompetencji AI, które pomagają dostawcom i podmiotom wdrażającym opracowywać proporcjonalne działania.
Podejście Mexty obejmuje wskazówki dla autorów, administratorów oraz zespołów wewnętrznych, dzięki czemu odpowiedzialne korzystanie z AI staje się elementem codziennej pracy, a nie jedynie polityką przechowywaną we wspólnym folderze.
Ochrona uczestników szkoleń w ocenianiu i analizie danych
Sztuczna inteligencja wprowadza szczególne ryzyko, gdy wpływa na ocenianie, analitykę dotyczącą uczestników szkoleń lub decyzje mające wpływ na konkretne osoby.
AI może pomagać autorom w opracowywaniu pytań, proponowaniu informacji zwrotnej oraz generowaniu różnych wariantów scenariuszy. Może również wspierać analizę wzorców aktywności edukacyjnej. Wyniki te nie powinny jednak automatycznie decydować o tym, czy uczestnik posiada wymagane kompetencje, kwalifikuje się do określonej możliwości lub powinien podlegać istotnej decyzji.
Pytania egzaminacyjne wygenerowane przez AI powinny być oceniane pod kątem:
poprawności merytorycznej;
zgodności z celem edukacyjnym;
jednoznaczności;
niezamierzonych uprzedzeń;
odpowiedniego poziomu trudności;
jakości informacji zwrotnej;
tego, czy ocena rzeczywiście mierzy istotne kompetencje.
Analityka uczestników szkoleń również wymaga właściwego kontekstu. Wskaźniki ukończenia kursów, wyniki oraz dane dotyczące aktywności mogą wspierać proces podejmowania decyzji, jednak rzadko przedstawiają pełny obraz wiedzy lub rzeczywistych kompetencji danej osoby.
Dlatego Mexty stosuje odpowiednie zabezpieczenia dotyczące oceniania, analityki oraz decyzji mających istotny wpływ na uczestników. Odpowiedzialność człowieka musi pozostać kluczowym elementem procesu, zwłaszcza wtedy, gdy wynik może mieć znaczący wpływ na uczestnika szkolenia lub pracownika.
Celem Agenta AI dla edukacji powinno być wspieranie procesu uczenia się i refleksji, a nie wydawanie nieuzasadnionych ocen dotyczących ludzi.
Weryfikacja mediów wygenerowanych przez AI
Debata dotycząca przejrzystości często koncentruje się na treściach tekstowych, jednak media wygenerowane lub zmodyfikowane przez AI obejmują również:
obrazy;
ilustracje;
diagramy;
narracje głosowe;
nagrania audio;
materiały wideo;
awatary;
animacje;
napisy;
transkrypcje;
miniatury.
Materiały te powinny być oceniane pod kątem poprawności, odpowiedniości, dostępności, licencji, potencjalnych uprzedzeń oraz ryzyka wprowadzenia uczestników szkolenia w błąd.
Szczególnej uwagi wymagają realistyczne media. Syntetyczny głos, realistyczny awatar lub wygenerowana scena z miejsca pracy mogą zostać odebrane jako autentyczne, mimo że przedstawiają fikcyjną osobę lub sytuację.
Unia Europejska opublikowała opcjonalne ikony oraz wytyczne dotyczące ujawniania określonych treści wygenerowanych przez AI. Komisja Europejska podkreśla, że samo zastosowanie ikony nie stanowi potwierdzenia zgodności z przepisami wymagane ujawnienie informacji nadal musi spełniać wymogi artykułu 50 AI Act.
W Mexty weryfikacja mediów stanowi integralną część całego procesu publikacji, a nie odrębny etap związany wyłącznie ze zgodnością z przepisami.
Zgłaszanie i korygowanie problemów zauważonych przez uczestników
Nawet przy zastosowaniu rygorystycznych mechanizmów kontroli mogą pojawić się problemy.
Uczestnik szkolenia może napotkać niepoprawne wyjaśnienie, nieodpowiedni obraz, mylącą odpowiedź AI, niedziałającą interakcję lub pytanie egzaminacyjne, które nie odpowiada zatwierdzonemu źródłu.
Godna zaufania i bezpieczna platforma interaktywnego uczenia się powinna zapewniać proces umożliwiający:
zgłoszenie problemu;
zapisanie odpowiedniego kontekstu;
analizę treści lub interakcji z AI;
zidentyfikowanie źródła problemu;
poprawienie lub wycofanie materiału;
sprawdzenie, czy podobny problem nie występuje również w powiązanych treściach;
udokumentowanie sposobu rozwiązania.
Tworzy to praktyczną pętlę informacji zwrotnej pomiędzy uczestnikami szkoleń, autorami, recenzentami oraz administratorami.
Jednocześnie sprawia, że nadzór nad AI staje się procesem ciągłym. Odpowiedzialne wykorzystanie sztucznej inteligencji nie kończy się w momencie opublikowania kursu trwa przez cały cykl życia doświadczenia edukacyjnego.
Połączenie nadzoru z interaktywnym uczeniem się
Zgodność z przepisami nie powinna zmuszać organizacji do powrotu do statycznych, przeładowanych dokumentami szkoleń.
Środowisko edukacyjne oparte na właściwym nadzorze może nadal pozostawać kreatywne, adaptacyjne i angażujące.
Mexty umożliwia zespołom tworzenie interaktywnych kursów bez programowania, projektowanie scenariuszy i ocen oraz udostępnianie szkoleń w środowisku zgodnym ze standardem SCORM, przy jednoczesnym zachowaniu weryfikacji przez człowieka, pełnej identyfikowalności oraz oparcia treści na zatwierdzonych źródłach.
Jako natywnie oparta na AI platforma LMS i Authoring, Mexty łączy tworzenie treści, ich weryfikację, publikację, wsparcie uczestników, analitykę oraz ciągłe doskonalenie.
Ma to znaczenie, ponieważ nadzór nad AI powinien obejmować cały cykl życia treści. Mechanizmy kontroli nie powinny znikać po wyeksportowaniu materiałów lub przypisaniu ich uczestnikom.
Celem nie jest spowolnienie pracy zespołów Learning & Development. Jest nim uproszczenie procesu projektowania dydaktycznego przy jednoczesnym zwiększeniu przejrzystości i możliwości kontroli całego procesu.
Od zgodności z przepisami do zaufania
Zrozumiałe jest, że termin 2 sierpnia 2026 r. skłoni wiele organizacji do ponownego przeanalizowania swoich systemów AI, praktyk dotyczących przejrzystości oraz dokumentacji.
Jednak szansa, jaką daje AI Act, wykracza daleko poza samą zgodność z przepisami.
Kontrolowany proces wykorzystania sztucznej inteligencji może pomóc organizacjom:
zwiększyć wiarygodność treści szkoleniowych;
chronić dane osobowe oraz informacje organizacyjne;
wzmocnić odpowiedzialność za podejmowane działania;
skuteczniej reagować na uwagi i problemy zgłaszane przez uczestników szkoleń;
bardziej spójnie aktualizować materiały edukacyjne;
zwiększyć zaufanie autorów, administratorów i uczestników szkoleń;
rozwijać wykorzystanie AI bez utraty nadzoru człowieka.
W Mexty naszym celem nie jest wyłącznie pomaganie organizacjom w deklarowaniu zgodności z EU AI Act.
Naszym celem jest umożliwienie organizacjom budowania godnych zaufania, przejrzystych i kontrolowanych przez człowieka doświadczeń edukacyjnych opartych na sztucznej inteligencji.
Innowacyjność i nadzór nie powinny ze sobą konkurować. Gdy oba elementy zostaną zaprojektowane jako część tej samej infrastruktury, organizacje mogą wykorzystywać AI z większą pewnością, jednocześnie chroniąc uczestników szkoleń, dane osobowe, integralność treści oraz odpowiedzialność człowieka.
To właśnie kolejny etap rozwoju sztucznej inteligencji w edukacji a Mexty jest gotowe wspierać organizacje na każdym etapie tej drogi.
Jeśli spodobał Ci się ten artykuł, kolejne również na pewno Ci
się spodobają.Mexty V3 jest już dostępny: natywna dla AI, bezpieczna infrastruktura edukacyjna dla przyszłości szkoleń w przedsiębiorstwach |
