Mexty e l'AI Act dell'UE: progettare un apprendimento basato sull'IA affidabile fin dall'origine

Il futuro dell'IA per l'apprendimento richiede molto più dell'innovazione. Scopri come coniugare conformità, trasparenza, innovazione e fiducia con Mexty.
Mexty e l'AI Act dell'UE: progettare un apprendimento basato sull'IA affidabile fin dall'origine
Dal 2 agosto 2026 diventano applicabili importanti disposizioni dell'AI Act dell'Unione Europea, comprese le prescrizioni di trasparenza previste dall'Articolo 50 per determinati sistemi di IA e per specifiche categorie di contenuti generati o modificati dall'intelligenza artificiale. Queste norme hanno l'obiettivo di aiutare le persone a riconoscere quando stanno interagendo con un sistema di IA o quando si trovano di fronte a contenuti sintetici o manipolati.
I requisiti relativi all'alfabetizzazione sull'IA non sono una novità. L'Articolo 4 dell'AI Act è applicabile dal 2 febbraio 2025 e impone ai fornitori e agli utilizzatori di sistemi di IA di adottare misure adeguate per sviluppare le competenze sull'IA dei dipendenti e di tutte le persone che utilizzano tali sistemi per loro conto. Le misure devono riflettere il livello di conoscenza, l'esperienza, la formazione e il contesto in cui la tecnologia viene utilizzata.
Per i team di Learning & Development (L&D) questo rappresenta un momento particolarmente importante.
L'intelligenza artificiale sta trasformando rapidamente il modo in cui le organizzazioni progettano corsi, supportano gli studenti, valutano le conoscenze e distribuiscono le informazioni. Tuttavia, un'adozione responsabile non può limitarsi ad aggiungere un'etichetta "Generato con IA" a un documento o a pubblicare una politica generale sull'IA.
È necessario disporre di un flusso di lavoro completo e controllato.
In Mexty, abbiamo progettato la nostra Learning Infrastructure AI-Native sicura seguendo questo principio: innovazione e governance non devono essere considerate obiettivi contrapposti. Devono essere progettate insieme.
Perché l'AI Act dell'UE è importante per le piattaforme di apprendimento
Le piattaforme di apprendimento stanno diventando sempre più strettamente integrate con l'intelligenza artificiale.
Uno strumento di authoring basato sull'IA per il settore L&D può aiutare a creare la struttura dei corsi, scenari, domande, spiegazioni e feedback. Un assistente IA può guidare gli autori durante la progettazione dei corsi oppure supportare gli studenti mentre svolgono un'attività. L'IA può inoltre trasformare policy aziendali, documentazione di prodotto e materiali formativi in esperienze di apprendimento più accessibili.
Queste funzionalità offrono un valore significativo. Possono aiutare i team a:
accelerare lo sviluppo dei corsi;
riutilizzare le conoscenze esistenti;
generare attività formative differenziate;
fornire un supporto più contestualizzato;
migliorare accessibilità e localizzazione;
semplificare gli aggiornamenti;
creare opportunità di esercitazione più ricche.
Tuttavia, introducono anche nuove domande.
Il contenuto è stato creato o modificato in modo significativo utilizzando l'intelligenza artificiale? Quale modello è stato impiegato? Quali informazioni sono state fornite al modello? Il risultato si basa su una fonte approvata? È stato revisionato da una persona qualificata? L'organizzazione è in grado di identificare le modifiche apportate tra le diverse versioni? Il contenuto potrebbe indurre in errore uno studente? L'interazione con l'IA è chiaramente identificata come tale?
Queste non sono semplicemente questioni giuridiche. Sono questioni di qualità della progettazione didattica, di responsabilità organizzativa e di fiducia degli studenti.
L'AI Act dell'UE rende alcune di queste esigenze più esplicite, ma una progettazione didattica responsabile dovrebbe affrontarle anche quando non esiste uno specifico obbligo normativo di trasparenza.
La trasparenza richiede molto più di una semplice etichetta
L'Articolo 50 non impone gli stessi obblighi di etichettatura a tutti i contenuti assistiti dall'IA. I suoi requisiti dipendono dal sistema di IA utilizzato, dal ruolo del fornitore o dell'utilizzatore e dalla natura e dal contesto del contenuto.
Ad esempio, le norme riguardano:
l'informazione delle persone quando interagiscono direttamente con determinati sistemi di IA;
la marcatura leggibile dalle macchine dei contenuti generati o manipolati dall'IA da parte dei fornitori interessati;
gli obblighi di divulgazione relativi ai deepfake e a determinati testi generati o modificati dall'IA pubblicati per informare il pubblico su questioni di interesse generale.
Per le piattaforme di apprendimento, il messaggio è chiaro: le organizzazioni devono sapere dove viene utilizzata l'IA ed essere in grado di comunicarne l'impiego in modo appropriato.
Mexty supporta questo approccio attraverso una chiara identificazione dei contenuti e delle interazioni assistiti dall'intelligenza artificiale.
Ciò può comprendere la distinzione tra:
contenuti interamente scritti da una persona;
contenuti inizialmente generati dall'IA e successivamente revisionati da un essere umano;
contenuti esistenti modificati con l'assistenza dell'IA;
interazioni degli studenti con un agente IA;
immagini, audio, video o altri contenuti multimediali generati dall'IA;
valutazioni o feedback supportati dall'IA.
La trasparenza deve aiutare gli utenti a comprendere la natura dell'esperienza proposta. Non dovrebbe trasformarsi in un semplice marchio visibile che sostituisce una governance realmente efficace.
La revisione umana deve rimanere parte integrante del processo di pubblicazione
L'intelligenza artificiale può produrre contenuti convincenti in tempi molto rapidi. Può però anche generare errori, omettere contesti essenziali, interpretare in modo errato i documenti sorgente o formulare affermazioni che appaiono più certe di quanto le prove disponibili giustifichino.
Questo è particolarmente importante nell'ambito della formazione aziendale.
Contenuti errati possono influire su:
procedure di sicurezza;
conformità normativa;
interazioni con i clienti;
pratiche di gestione del personale;
utilizzo dei prodotti;
decisioni aziendali importanti.
Per questo motivo Mexty è stato progettato come una piattaforma di authoring Trusted AI, non come un motore di pubblicazione completamente autonomo.
Il materiale generato dall'intelligenza artificiale deve essere considerato una bozza fino a quando non viene revisionato e approvato da una persona responsabile. Autori e revisori devono poter:
esaminare il contenuto generato;
confrontarlo con le fonti approvate;
correggere eventuali inesattezze;
riscrivere le sezioni poco chiare;
eliminare contenuti inappropriati;
modificare attività e valutazioni;
approvare l'esperienza formativa finale prima della pubblicazione.
La possibilità di modificare manualmente ogni elemento è essenziale. La supervisione umana è realmente efficace solo quando le persone possono controllare concretamente il risultato, invece di limitarsi ad accettare o rifiutare un intero corso generato dall'IA.
Una piattaforma di authoring Secure AI responsabile deve quindi combinare automazione e un controllo editoriale completo.
Basare l'IA su fonti approvate ("Sources of Truth")
I modelli di IA generici sono addestrati su vaste raccolte di informazioni. Questo può essere utile per la conoscenza generale, il brainstorming e il supporto linguistico, ma la formazione aziendale richiede spesso un livello di controllo molto più elevato.
Le organizzazioni hanno bisogno che i contenuti formativi riflettano fedelmente le proprie:
politiche aziendali;
procedure;
documentazione tecnica;
terminologia approvata;
prodotti e servizi;
requisiti di conformità;
pratiche operative;
standard di comunicazione e di brand.
Mexty utilizza Sources of Truth approvate per ancorare i contenuti formativi generati dall'intelligenza artificiale ai materiali selezionati dall'organizzazione.
Questo crea una distinzione fondamentale tra chiedere a un modello di IA generico di creare un corso sulla base delle proprie conoscenze generali e utilizzare una piattaforma AI-Native progettata per creare esperienze di apprendimento interattive fondate su fonti organizzative controllate.
L'ancoraggio alle fonti non elimina la necessità della revisione umana. I documenti di riferimento possono infatti essere obsoleti, incompleti o contraddittori. Tuttavia, esso offre ad autori e revisori una base molto più solida per verificare i risultati e preservare l'integrità dei contenuti.
Inoltre, rende gli aggiornamenti più semplici da gestire. Quando una politica o una procedura cambia, le organizzazioni devono poter identificare quali contenuti formativi dipendono da essa e stabilire se tali contenuti debbano essere revisionati.
Tracciabilità delle azioni dell'IA, dei modelli e delle modifiche
Un'adozione responsabile dell'intelligenza artificiale richiede molto più che sapere semplicemente che l'IA è stata utilizzata.
Le organizzazioni potrebbero aver bisogno di sapere:
quale funzionalità di IA è stata utilizzata;
quale modello o quale fornitore ha eseguito l'operazione;
quali materiali sorgente sono stati utilizzati;
quando è stata eseguita l'azione;
quale risultato è stato prodotto;
quali modifiche sono state successivamente apportate;
chi ha revisionato e approvato il contenuto.
Per questo motivo, la tracciabilità, la cronologia delle versioni e gli audit trail rappresentano elementi fondamentali dell'approccio di Mexty.
La tracciabilità soddisfa contemporaneamente diversi obiettivi.
Aiuta gli autori a comprendere l'evoluzione dei contenuti. Fornisce ai revisori un contesto migliore durante la fase di validazione. Consente agli amministratori di analizzare eventuali problemi. Favorisce il miglioramento continuo e permette all'organizzazione di dimostrare di aver implementato una governance concreta e strutturata, anziché affidarsi a pratiche informali.
Uno strumento di authoring IA pronto per l'impresa non dovrebbe considerare la generazione tramite IA come un evento invisibile. Dovrebbe invece integrare la creazione assistita dall'IA all'interno di un ciclo di vita dei contenuti pienamente tracciabile e responsabile.
L'alfabetizzazione sull'IA deve diventare una competenza operativa
Il requisito dell'AI Act relativo all'alfabetizzazione sull'intelligenza artificiale è particolarmente importante per i team di Learning & Development.
L'alfabetizzazione sull'IA non si esaurisce con l'invio ai dipendenti di una breve definizione dell'intelligenza artificiale. Le persone hanno bisogno di una formazione e di indicazioni adeguate ai propri ruoli e ai sistemi che utilizzano.
Un autore che sviluppa corsi sulla conformità normativa necessita di competenze diverse rispetto a uno studente che utilizza un tutor basato sull'IA. Allo stesso modo, un amministratore che configura un ambiente di lavoro ha responsabilità differenti rispetto a un revisore incaricato di approvare contenuti multimediali generati dall'intelligenza artificiale.
Un'efficace alfabetizzazione sull'IA può comprendere la conoscenza di:
ciò che un sistema di IA può e non può fare;
come possono verificarsi allucinazioni ed altri errori;
perché i risultati devono sempre essere verificati;
come utilizzare correttamente le fonti approvate;
quando non è opportuno inserire dati personali o informazioni riservate;
come individuare contenuti inappropriati o fuorvianti;
come segnalare un problema;
quando il giudizio umano deve prevalere sui suggerimenti dell'intelligenza artificiale.
La Commissione Europea ha pubblicato risorse pratiche ed esempi sull'alfabetizzazione all'IA per aiutare fornitori e utilizzatori a sviluppare iniziative proporzionate.
L'approccio di Mexty comprende linee guida dedicate ad autori, amministratori e team interni affinché l'uso responsabile dell'intelligenza artificiale diventi parte integrante delle attività quotidiane e non semplicemente una politica archiviata in una cartella condivisa.
Proteggere gli studenti nelle valutazioni e nelle analisi
L'intelligenza artificiale introduce rischi specifici quando influenza valutazioni, analisi dei dati degli studenti o decisioni che riguardano le persone.
L'IA può aiutare gli autori a creare domande, proporre feedback e generare varianti di scenari. Può inoltre individuare modelli ricorrenti nelle attività formative. Tuttavia, questi risultati non dovrebbero determinare automaticamente se uno studente è competente, idoneo a un'opportunità o soggetto a una decisione significativa.
Le domande di valutazione generate dall'IA devono essere esaminate verificando:
l'accuratezza dei fatti;
la pertinenza rispetto agli obiettivi formativi;
l'assenza di ambiguità;
l'assenza di bias indesiderati;
il livello appropriato di difficoltà;
la qualità del feedback;
la reale capacità della valutazione di misurare competenze significative.
Anche le analisi dei dati degli studenti richiedono il giusto contesto. I tassi di completamento, i punteggi e i dati di attività possono contribuire alle decisioni, ma raramente offrono un quadro completo delle conoscenze o delle prestazioni di una persona.
Per questo motivo Mexty integra misure di protezione nelle valutazioni, nelle analisi e nelle decisioni significative. La responsabilità umana deve rimanere centrale, soprattutto quando un risultato può avere un impatto concreto su uno studente o su un dipendente.
L'obiettivo di un AI Agent for Learning deve essere quello di supportare l'apprendimento e la riflessione, non quello di formulare giudizi privi di adeguato fondamento sulle persone.
Revisione dei contenuti multimediali generati dall'IA
Il dibattito sulla trasparenza si concentra spesso sui contenuti testuali, ma i contenuti multimediali generati o modificati dall'IA comprendono anche:
immagini;
illustrazioni;
diagrammi;
voci sintetiche;
contenuti audio;
video;
avatar;
animazioni;
sottotitoli;
trascrizioni;
miniature.
Questi elementi devono essere verificati in termini di accuratezza, adeguatezza, accessibilità, licenze, possibili bias e rischio di indurre in errore gli studenti.
I contenuti multimediali realistici meritano particolare attenzione. Una voce sintetica, un avatar realistico o una scena lavorativa generata artificialmente possono essere percepiti come autentici anche quando rappresentano persone o situazioni completamente fittizie.
Segnalazione e correzione dei problemi riscontrati dagli studenti
Anche con controlli rigorosi, possono verificarsi problemi.
Uno studente potrebbe imbattersi in una spiegazione inesatta, un'immagine inappropriata, una risposta dell'IA fuorviante, un'interazione non funzionante o una domanda di valutazione che non riflette la fonte approvata.
Una piattaforma di apprendimento interattivo Secure AI affidabile dovrebbe prevedere un processo per:
segnalare il problema;
registrare il contesto pertinente;
analizzare il contenuto o l'interazione con l'IA;
identificare l'origine del problema;
correggere o ritirare il materiale interessato;
verificare se anche altri contenuti correlati sono interessati;
documentare la risoluzione.
Questo crea un ciclo di feedback concreto tra studenti, autori, revisori e amministratori.
Trasforma inoltre la governance in un processo continuo. Un uso responsabile dell'intelligenza artificiale non termina con la pubblicazione di un corso, ma continua per tutto il ciclo di vita dell'esperienza formativa.
Coniugare governance e apprendimento interattivo
La conformità normativa non dovrebbe costringere le organizzazioni a tornare a una formazione statica e basata esclusivamente su documenti.
Un ambiente di apprendimento governato può comunque essere creativo, adattivo e coinvolgente.
Mexty consente ai team di creare corsi interattivi senza scrivere codice, sviluppare scenari e valutazioni e distribuire la formazione in un ambiente compatibile con SCORM, mantenendo al tempo stesso la revisione umana, la tracciabilità e il collegamento ai Sources of Truth.
Come piattaforma AI-Native che integra LMS e authoring, Mexty collega la creazione dei contenuti, la revisione, la distribuzione, il supporto agli studenti, le analisi e il miglioramento continuo.
Questo è fondamentale perché la governance dell'IA deve accompagnare il contenuto durante tutto il suo ciclo di vita. I controlli non devono scomparire una volta che il materiale è stato esportato o assegnato agli studenti.
L'obiettivo non è rallentare i team di formazione, bensì semplificare il flusso di lavoro dell'Instructional Design, rendendo allo stesso tempo il processo più trasparente, controllabile e affidabile.
Dalla conformità alla fiducia
La scadenza del 2 agosto 2026 porterà comprensibilmente molte organizzazioni a riesaminare i propri sistemi di IA, le pratiche di trasparenza e la documentazione.
Ma l'opportunità va ben oltre il semplice rispetto delle normative.
Un flusso di lavoro IA controllato può aiutare le organizzazioni a:
migliorare l'affidabilità dei contenuti formativi;
proteggere le informazioni personali e aziendali;
rafforzare la responsabilità;
rispondere più efficacemente alle segnalazioni degli studenti;
aggiornare la formazione con maggiore coerenza;
aumentare la fiducia di autori, amministratori e studenti;
estendere l'adozione dell'intelligenza artificiale senza rinunciare alla supervisione umana.
Presso Mexty, il nostro obiettivo non è semplicemente aiutare le organizzazioni ad affermare di essere conformi all'AI Act dell'Unione Europea.
Il nostro obiettivo è aiutarle a costruire un apprendimento basato sull'intelligenza artificiale che sia affidabile, trasparente e sotto il controllo umano.
Innovazione e governance non devono essere in competizione. Quando entrambe vengono progettate all'interno della stessa infrastruttura, le organizzazioni possono utilizzare l'intelligenza artificiale con maggiore fiducia, proteggendo al contempo gli studenti, i dati personali, l'integrità dei contenuti e la responsabilità umana.
Questa rappresenta la prossima fase dell'intelligenza artificiale applicata all'apprendimento, e Mexty è pronta a supportarla.
Nota legale
Il presente articolo ha esclusivamente finalità informative e non costituisce consulenza legale. Ogni organizzazione dovrebbe valutare i requisiti dell'AI Act applicabili ai propri sistemi di intelligenza artificiale, al proprio ruolo e ai propri specifici casi d'uso.
Se ti è piaciuto questo, adorerai i nostri prossimi articoli.I migliori strumenti di authoring eLearning nel 2026: perché l'infrastruttura di apprendimento AI-Native sta diventando il nuovo standard |
