Mexty 与《欧盟人工智能法案》: 以设计构建值得信赖的 AI 驱动学习

教育领域 AI 的未来,需要的不仅仅是创新。了解如何借助 Mexty 实现合规、透明、创新与可信赖的完美结合。
Mexty 与《欧盟人工智能法案》:
以设计构建值得信赖的 AI 驱动学习
自 2026 年 8 月 2 日起,《欧盟人工智能法案》(EU AI Act)的多项重要规定正式适用,其中包括 第 50 条关于某些人工智能系统以及特定类别 AI 生成或 AI 修改内容的透明度要求。
这些规定旨在帮助人们识别自己何时正在与人工智能系统交互,或何时接触到由 AI 生成或修改的内容。
人工智能素养(AI Literacy)的要求并非新规定。
《欧盟人工智能法案》第 4 条自 2025 年 2 月 2 日起已正式生效,要求 AI 系统的提供者和部署者采取适当措施,提高员工以及代表其使用 AI 系统的相关人员的人工智能素养。
这些措施应结合相关人员的知识水平、经验、培训情况以及 AI 技术的实际使用环境。
对于学习与发展(Learning & Development,L&D)团队而言,这是一个重要的转折点。
人工智能正在迅速改变企业创建课程、支持学习者、评估知识以及传播信息的方式。
然而,负责任地采用 AI,并不仅仅意味着在文档上添加“AI 生成”标签,或发布一份通用的 AI 使用政策。
它需要一个完整、可控的工作流程。
在 Mexty(https://mexty.ai),我们正是基于这一理念构建了 AI 原生、安全的学习基础设施(AI-Native Secure Learning Infrastructure):
**创新(Innovation)与治理(Governance)**不应彼此对立,而应从设计之初就同步融合。
为什么《欧盟人工智能法案》对学习平台至关重要
学习平台正越来越深入地与人工智能相结合。
面向学习与发展(L&D)的 AI 创作工具能够帮助创建:
课程结构;
学习场景;
测验题目;
内容解释;
学习反馈。
AI 助手还能在课程开发过程中协助课程设计者,并在学习者完成学习活动时提供支持。
人工智能同样能够帮助企业将政策文件、产品文档以及培训资料转换为更加易于理解、更具互动性的学习体验。
这些能力能够创造巨大价值,它们可以帮助团队:
加快课程开发速度;
复用已有知识资产;
自动生成差异化学习活动;
提供更加符合情境的学习支持;
提升无障碍体验与本地化能力;
简化内容更新;
创建更加丰富的实践学习机会。
然而,它们也带来了新的问题。
内容是否由 AI 创建,或经过 AI 的重大修改?
使用了哪一种 AI 模型?
向模型提供了哪些信息?
生成内容是否基于经过批准的权威资料(Source of Truth)?
是否经过具有相应资质人员的审核?
组织是否能够追踪不同版本之间发生了哪些变化?
生成内容是否可能误导学习者?
AI 交互是否被清晰标识?
这些不仅仅是法律问题。
它们同样涉及:
教学设计质量;
组织责任;
学习者信任。
《欧盟人工智能法案》使其中部分要求更加明确,但即使某些透明度义务并不适用,负责任的学习设计也应主动考虑这些原则。
透明度不仅仅意味着一个标签
《欧盟人工智能法案》第 50 条并未要求所有 AI 辅助内容采用完全相同的标识方式。
具体义务取决于:
AI 系统类型;
提供者或部署者的角色;
内容类型;
内容的使用场景。
例如,该法规要求:
在用户直接与某些 AI 系统交互时进行告知;
相关提供者对 AI 生成或修改内容添加机器可识别标记;
对 Deepfake(深度伪造)以及某些向公众发布、涉及公共利益事项的 AI 生成或 AI 修改文本进行适当披露。
对于学习平台而言,更重要的信息非常明确:
组织必须知道 AI 在何处被使用,并能够以适当方式向用户说明其使用情况。
Mexty(https://mexty.ai)正是通过对 AI 辅助内容及 AI 交互进行清晰标识来支持这一原则。
例如,可以区分:
完全由人工编写的内容;
由 AI 初步生成并经过人工审核的内容;
使用 AI 辅助修改的既有内容;
学习者与 AI 智能代理(AI Agent)的交互;
AI 生成的图像、音频、视频及其他媒体;
AI 支持生成的测评或学习反馈。
透明度应帮助用户真正理解其所经历的学习体验,而不应沦为取代有效治理的形式化标签。
人工审核必须始终是发布流程的一部分
人工智能能够在极短时间内生成看似可信的内容,但它同样可能:
产生错误;
遗漏关键背景信息;
误解源文档;
给出超出事实依据的确定性结论。
这一点在企业学习环境中尤为重要。
错误的培训内容可能影响:
安全操作流程;
法规合规;
客户沟通;
人力资源实践;
产品使用;
重要业务决策。
因此,Mexty 并非被设计成一个完全自动化的内容发布引擎,而是一个值得信赖(Trusted AI)的 AI 原生课程创作平台。
AI 生成的内容应始终被视为初稿,只有经过具备责任的人员审核和批准后,才能正式发布。
课程作者和审核人员应始终能够:
检查 AI 生成的内容;
与经过批准的权威资料(Source of Truth)进行比对;
修正错误;
重写表达不清的内容;
删除不适当的信息;
修改学习活动和测评;
在发布前批准最终学习体验。
完整的人工编辑能力至关重要。
真正的人类监督意味着,人们能够真正控制最终结果,而不仅仅是在整门课程生成后简单选择“接受”或“拒绝”。
因此,一个负责任、安全的 AI 内容创作平台必须将自动化与完善的人工编辑能力相结合。
基于权威资料(Sources of Truth)构建 AI
通用 AI 模型通常基于海量公开数据进行训练。
这对于:
通用知识;
创意构思;
语言辅助
具有一定价值。
然而,企业学习通常需要更加可控、更具可信度的内容。
企业希望培训内容能够准确反映自身的:
公司政策;
工作流程;
技术文档;
官方术语;
产品与服务;
合规要求;
运营规范;
品牌及沟通标准。
Mexty 利用企业选定的权威资料(Sources of Truth),帮助 AI 在生成学习内容时始终建立在组织认可的信息基础之上。
这使企业能够清晰地区分:
依赖通用 AI 模型根据公开知识自动生成课程;
使用 AI 原生学习平台,根据企业授权资料创建互动学习体验。
当然,即使采用 Source of Truth,也不能完全取代人工审核。
因为源文件本身也可能:
已经过时;
内容不完整;
存在相互矛盾之处。
但这种方式能够为作者和审核人员提供更加可靠的验证基础,从而维护培训内容的完整性和一致性。
同时,它还能让内容更新更加容易管理。
当企业政策或流程发生变化时,组织能够快速识别:
哪些课程依赖这些资料;
哪些学习内容需要重新审核。
AI 操作、模型与内容变更的可追溯性
负责任地使用 AI,不仅意味着知道 AI 曾参与内容生成。
企业通常还需要了解:
使用了哪一种 AI 功能;
使用了哪一个模型或供应商;
涉及哪些源资料;
操作发生的时间;
AI 生成了哪些输出;
后续进行了哪些人工修改;
最终由谁审核并批准。
因此,Mexty 将可追溯性(Traceability)、**版本历史(Version History)以及审计日志(Audit Trail)**作为平台设计的重要组成部分。
完善的可追溯机制能够同时实现多个目标。
它能够帮助:
作者了解内容如何逐步演变;
审核人员获得更完整的审核背景;
管理员调查和定位问题;
持续优化学习内容;
为组织提供真正落实 AI 治理的证据,而不仅依赖非正式流程。
一款真正面向企业的 AI 创作平台,不应将 AI 生成过程视为一个不可见的事件。
相反,它应将 AI 辅助创作纳入整个内容生命周期,实现完整、透明、可追责的管理。
AI 素养必须成为组织的运营能力
《欧盟人工智能法案》关于 AI 素养(AI Literacy)的要求,对于学习与发展团队具有特别重要的意义。
AI 素养绝不仅仅是向员工发送一份关于人工智能定义的简短介绍。
不同岗位需要获得符合其职责的指导。
例如:
创建合规培训课程的作者,与使用 AI 学习导师的学习者,需要掌握不同的知识;
配置工作空间的管理员,与审核 AI 生成媒体内容的审核人员,也承担着不同的责任。
有效的 AI 素养培训通常应帮助员工理解:
AI 能够做什么、不能做什么;
为什么会出现幻觉(Hallucination)等错误;
为什么必须验证 AI 输出;
如何正确使用经过批准的权威资料(Sources of Truth);
哪些个人信息或机密信息不应输入 AI;
如何识别误导性或不适当内容;
如何报告问题;
在哪些情况下必须由人类判断优先于 AI 建议。
欧盟委员会已经发布了大量关于 AI 素养的实践指南和示例,以帮助 AI 提供者和部署者建立符合比例原则的培训机制。
Mexty的方法不仅包括针对课程作者、管理员以及内部团队的指导,更致力于让负责任地使用 AI 成为日常工作方式,而不仅仅停留在共享文件夹中的一份政策文件。
保护学习者:评估与学习分析
当人工智能参与学习评估、学习分析或影响个人的重要决策时,会带来特殊的风险。
AI 可以帮助课程作者:
起草测验题目;
提出反馈建议;
生成不同的学习情境;
识别学习活动中的规律。
然而,这些 AI 生成的结果不应自动决定学习者是否:
具备相应能力;
获得某项资格;
获得某项机会;
或受到任何重大决策的影响。
AI 生成的评估题目应经过人工审核,以确保:
内容准确无误;
与学习目标保持一致;
表述清晰、无歧义;
不存在无意偏见;
难度适当;
提供高质量反馈;
真正能够衡量学习者的实际能力。
学习分析(Learning Analytics)同样需要结合具体背景进行解释。
课程完成率、测试成绩及学习行为数据虽然能够为决策提供参考,但它们通常无法全面反映学习者的知识水平或真实能力。
因此,Mexty 在学习评估、学习分析以及可能影响个人的重要决策中建立了多重安全保障。
无论任何情况下,**人类责任(Human Accountability)**始终应保持核心地位,特别是在结果可能对学习者或员工产生重大影响时。
学习 AI Agent 的目标,应是支持学习、促进思考,而不是对个人作出缺乏依据的判断。
审核 AI 生成的媒体内容
关于透明度的讨论通常集中在文本内容上。
然而,由 AI 生成或修改的媒体还包括:
图片;
插图;
图表;
配音;
音频;
视频;
数字化虚拟形象(Avatar);
动画;
字幕;
转录文本;
缩略图。
所有这些资源都应经过审核,以确保:
内容准确;
使用得当;
满足无障碍要求;
符合版权许可;
不存在潜在偏见;
不会误导学习者。
尤其是高度逼真的媒体,更需要谨慎处理。
例如:
AI 合成语音;
高仿真数字人;
AI 生成的工作场景。
即使它们描述的是虚构人物或虚构情境,学习者也可能误认为是真实内容。
欧盟已经发布了与部分 AI 生成内容披露相关的可选图标和官方指南。
欧盟委员会同时指出:
仅使用图标本身并不能证明已经符合法律要求。
相关披露仍必须满足《欧盟人工智能法案》第 50 条规定的透明度要求。
对于 Mexty 而言,媒体审核并不是一个独立的合规步骤,而是整个学习内容发布流程的重要组成部分。
报告并纠正学习者发现的问题
即使建立了完善的控制机制,问题仍然可能发生。
例如,学习者可能遇到:
不准确的解释;
不恰当的图片;
具有误导性的 AI 回复;
无法正常运行的互动内容;
与官方资料不一致的测评题目。
一个值得信赖、安全的互动学习平台,应当建立完整的问题处理流程,包括:
接收问题报告;
记录相关背景信息;
调查相关内容或 AI 交互;
查明问题根源;
修正或撤回相关内容;
检查是否还有其他相关内容受到影响;
记录整个处理过程及最终解决方案。
这一流程能够建立学习者、课程作者、审核人员以及管理员之间的持续反馈机制。
它也意味着:
AI 治理并不会随着课程发布而结束。
真正负责任的 AI,应贯穿整个学习生命周期。
将治理与互动学习结合起来
合规并不意味着企业必须重新回到传统、静态、以文档为主的培训模式。
一个治理完善的学习环境,同样可以:
富有创造力;
自适应;
高度互动;
具有良好的学习体验。
Mexty 使团队能够:
无需编程即可创建互动课程;
构建学习场景与测评;
在兼容 SCORM 的学习环境中发布课程;
同时保持:
人工审核;
全程可追溯;
基于权威资料(Sources of Truth)的内容生成。
作为 AI 原生 LMS 与课程创作平台,Mexty 将以下环节连接为统一的学习生态:
内容创作;
内容审核;
学习交付;
AI 学习支持;
学习分析;
持续改进。
这至关重要,因为 AI 治理必须贯穿内容的整个生命周期。
即使课程已经发布或分配给学习者,相关控制措施仍应持续发挥作用。
我们的目标不是降低学习团队的效率。
恰恰相反,我们希望:
在简化教学设计流程的同时,让整个学习内容的创建过程更加透明、更易控制、更值得信赖。
从合规迈向信任
2026 年 8 月 2 日这一重要时间节点,将促使大量组织重新审视:
AI 系统;
透明度实践;
内部文档;
治理流程。
然而,这一机遇远不止于满足法规要求。
建立受控的 AI 工作流程,还能够帮助组织:
提高学习内容的可靠性;
保护个人信息与企业数据;
增强组织责任;
更高效地回应学习者反馈;
更一致地更新培训内容;
提高课程作者、管理员及学习者对 AI 的信任;
在保持人工监督的前提下,大规模推广 AI。
对于 Mexty 而言,我们的目标不仅仅是帮助企业宣称自己符合《欧盟人工智能法案》。
我们的真正目标,是帮助组织构建:
值得信赖、透明且始终由人类掌控的 AI 学习体系。
创新(Innovation)与治理(Governance)并不是彼此竞争的关系。
当两者从平台架构设计阶段就紧密结合时,企业便能够更加安心地使用人工智能,同时持续保护:
学习者;
个人数据;
内容完整性;
人类责任。
这正是 AI 学习发展的下一阶段。
Mexty 已准备好帮助各类组织迈向这一未来。
免责声明
本文仅提供一般性信息,不构成任何法律意见或法律建议。
各组织应根据自身的 AI 系统、实际角色及具体应用场景,评估《欧盟人工智能法案》对其适用的具体要求。
| 如果你喜欢这篇文章,你一定也会喜欢我们接下来的内容。 Mexty V3 正式发布:面向未来企业学习的 AI 原生安全学习基础设施 |
