Mexty와 EU AI 법: 설계 단계부터 신뢰할 수 있는 AI 기반 학습 구축

교육용 AI의 미래는 혁신만으로는 충분하지 않습니다. Mexty와 함께 규정 준수, 투명성, 혁신, 그리고 신뢰를 모두 실현하는 방법을 알아보세요.
Mexty와 EU AI 법: 설계 단계부터 신뢰할 수 있는 AI 기반 학습 구축
2026년 8월 2일부터 유럽연합(EU) AI 법(EU AI Act)의 중요한 조항이 적용되기 시작했습니다. 여기에는 특정 AI 시스템과 특정 범주의 AI 생성 또는 AI 수정 콘텐츠에 대한 **제50조(투명성 의무)**가 포함됩니다. 이러한 규정은 사람들이 AI 시스템과 상호작용하고 있는지 또는 합성되거나 조작된 콘텐츠를 접하고 있는지를 명확히 인식할 수 있도록 하기 위한 것입니다.
AI 리터러시 요구사항은 새로운 것이 아닙니다. AI 법 제4조는 이미 2025년 2월 2일부터 적용되고 있으며, AI 시스템의 제공자와 배포자는 직원과 자신을 대신하여 AI 시스템을 사용하는 사람들이 적절한 AI 리터러시를 갖출 수 있도록 필요한 조치를 취해야 합니다. 이러한 조치는 사용자의 지식, 경험, 교육 수준과 AI 기술이 활용되는 환경을 반영해야 합니다.
학습 및 개발(Learning & Development) 팀에게 이는 매우 중요한 전환점입니다.
AI는 조직이 교육 과정을 설계하고, 학습자를 지원하며, 지식을 평가하고, 정보를 배포하는 방식을 빠르게 변화시키고 있습니다. 그러나 책임 있는 AI 도입은 단순히 문서에 "AI 생성" 이라는 표시를 추가하거나 일반적인 AI 정책을 게시하는 것만으로는 충분하지 않습니다.
이를 위해서는 완전하고 통제된 워크플로우가 필요합니다.
**Mexty**에서는 이러한 원칙을 기반으로 AI-Native Secure Learning Infrastructure를 설계했습니다. 혁신과 거버넌스는 서로 경쟁하는 목표가 아니라, 처음부터 함께 설계되어야 하는 요소입니다.
학습 플랫폼에서 EU AI 법이 중요한 이유
학습 플랫폼은 AI와 점점 더 긴밀하게 연결되고 있습니다.
L&D를 위한 AI 저작 도구는 교육 과정의 구조, 시나리오, 문제, 설명 및 피드백을 생성하는 데 도움을 줄 수 있습니다. 또한 AI 어시스턴트는 과정 개발 중 저자를 지원하거나 학습 활동을 수행하는 학습자를 도울 수 있습니다. AI는 정책, 제품 문서 및 교육 자료를 보다 이해하기 쉬운 학습 경험으로 전환하는 데에도 활용될 수 있습니다.
이러한 기능은 상당한 가치를 제공합니다. 예를 들어 다음과 같은 이점을 제공합니다.
교육 과정 개발 속도 향상
기존 지식의 재활용
다양한 학습 활동 생성
보다 상황에 맞는 지원 제공
접근성과 현지화 개선
업데이트 간소화
더욱 풍부한 실습 기회 제공
2부 — 한국어 번역
그러나 이러한 기능은 새로운 질문도 함께 제기합니다.
콘텐츠가 AI에 의해 생성되었거나 상당 부분 수정되었는가?
어떤 AI 모델이 사용되었는가?
모델에 어떤 정보가 입력되었는가?
결과물이 승인된 출처(Source of Truth)를 기반으로 생성되었는가?
자격을 갖춘 담당자가 이를 검토했는가?
조직은 버전 간 변경 사항을 추적할 수 있는가?
결과물이 학습자를 오도할 가능성이 있는가?
AI와의 상호작용임이 명확하게 표시되는가?
이러한 질문은 단순히 법률적인 문제가 아닙니다. 이는 교수설계(Instructional Design)의 품질, 조직의 책임성, 그리고 학습자의 신뢰와 직결되는 문제입니다.
EU AI 법은 이러한 우려 사항 중 일부를 보다 명확하게 규정하고 있지만, 특정 투명성 의무가 적용되지 않는 경우에도 책임 있는 학습 설계는 이러한 원칙을 반영해야 합니다.
투명성은 단순한 라벨 그 이상입니다
제50조는 AI의 도움을 받아 제작된 모든 콘텐츠에 동일한 표시 의무를 부과하지 않습니다. 의무의 범위는 사용된 AI 시스템, 제공자 또는 배포자의 역할, 그리고 해당 콘텐츠의 유형과 사용 맥락에 따라 달라집니다.
예를 들어, 규정은 다음과 같은 상황을 다룹니다.
특정 AI 시스템과 직접 상호작용하는 경우 사용자에게 이를 알리는 의무
관련 AI 제공자가 AI 생성 또는 AI 조작 결과물에 기계가 읽을 수 있는 표시(machine-readable marking)를 부여하는 의무
딥페이크(deepfake) 및 공공의 이익과 관련된 AI 생성 또는 AI 조작 텍스트에 대한 공개 의무
학습 플랫폼의 관점에서 핵심 메시지는 분명합니다.
조직은 AI가 어디에서 사용되고 있는지 정확히 파악하고, 그 사용 사실을 적절하게 설명할 수 있어야 합니다.
**Mexty**는 AI의 지원을 받은 콘텐츠와 AI 상호작용을 명확하게 식별할 수 있도록 지원함으로써 이러한 접근 방식을 구현합니다.
예를 들어 다음과 같은 구분이 가능합니다.
사람이 처음부터 끝까지 작성한 콘텐츠
AI가 초안을 생성하고 사람이 검토한 콘텐츠
기존 콘텐츠를 AI의 도움으로 수정한 콘텐츠
학습자가 AI 에이전트와 상호작용하는 경우
AI가 생성한 이미지, 오디오, 비디오 및 기타 미디어
AI가 지원한 평가 또는 피드백
투명성의 목적은 사용자가 자신이 경험하는 학습 환경의 성격을 이해하도록 돕는 것입니다. 이는 단순히 형식적인 배지를 붙이는 것이 아니라, 의미 있는 AI 거버넌스를 구현하기 위한 핵심 요소여야 합니다.
게시 전 인간의 검토는 반드시 포함되어야 합니다
AI는 매우 짧은 시간 안에 설득력 있는 콘텐츠를 생성할 수 있습니다.
그러나 동시에 다음과 같은 문제도 발생할 수 있습니다.
사실 오류
중요한 맥락의 누락
원본 문서의 잘못된 해석
실제 근거보다 지나치게 확신에 찬 표현
이는 특히 기업 교육(Workplace Learning)에서 매우 중요한 문제입니다.
잘못된 콘텐츠는 다음과 같은 영역에 영향을 줄 수 있습니다.
안전 절차
규제 준수
고객 대응
인사 운영
제품 사용
중요한 비즈니스 의사결정
바로 이러한 이유 때문에 **Mexty**는 자율적으로 콘텐츠를 게시하는 AI 엔진이 아니라 신뢰할 수 있는 AI 저작(Trusted AI Authoring) 플랫폼으로 설계되었습니다.
AI가 생성한 콘텐츠는 책임 있는 담당자의 검토와 승인이 완료되기 전까지는 초안(draft) 으로 간주되어야 합니다.
저자와 검토자는 항상 다음을 수행할 수 있어야 합니다.
생성된 결과 검토
승인된 원본(Source of Truth)과 비교
오류 수정
불명확한 내용 재작성
부적절한 콘텐츠 삭제
학습 활동 및 평가 수정
게시 전에 최종 학습 경험 승인
전체 내용을 자유롭게 수동 편집할 수 있는 기능은 필수적입니다.
인간의 감독(Human Oversight)은 단순히 전체 과정을 승인하거나 거부하는 것이 아니라, 실제로 결과물을 자유롭게 수정하고 통제할 수 있을 때 비로소 의미를 갖습니다.
따라서 책임 있는 Secure AI Authoring Platform은 자동화와 실질적인 편집 통제권을 함께 제공해야 합니다.
3부 — 승인된 Sources of Truth를 기반으로 AI를 운영하기
일반적인 AI 모델은 방대한 양의 공개 정보를 학습하여 만들어집니다. 이는 일반적인 지식 제공, 아이디어 발상(브레인스토밍), 언어 지원에는 유용할 수 있지만, 기업 교육에서는 보다 엄격하게 관리되는 접근 방식이 필요합니다.
조직은 교육 콘텐츠가 다음과 같은 자사의 공식 자료를 정확하게 반영하기를 원합니다.
정책(Policies)
절차(Procedures)
기술 문서(Technical Documentation)
승인된 용어(Terminology)
제품 및 서비스
규정 준수 규칙(Compliance Rules)
운영 절차(Operational Practices)
브랜드 및 커뮤니케이션 기준
**Mexty**는 조직이 승인한 Sources of Truth를 활용하여 AI가 생성하는 학습 콘텐츠가 신뢰할 수 있는 공식 자료를 기반으로 생성되도록 지원합니다.
이는 일반적인 AI 모델이 자체 지식을 바탕으로 교육 과정을 생성하는 것과, AI-Native 플랫폼이 조직에서 승인한 자료를 기반으로 인터랙티브 학습 콘텐츠를 제작하는 것 사이의 중요한 차이를 만들어냅니다.
물론 Sources of Truth를 사용한다고 해서 인간의 검토가 불필요해지는 것은 아닙니다. 원본 문서 자체가 오래되었거나, 불완전하거나, 서로 상충되는 내용을 포함할 수도 있기 때문입니다.
그러나 이러한 접근 방식은 저자와 검토자가 결과물을 보다 쉽게 검증하고 콘텐츠의 무결성을 유지할 수 있도록 보다 명확한 기준을 제공합니다.
또한 정책이나 절차가 변경될 경우 어떤 교육 콘텐츠가 해당 자료에 의존하고 있는지 쉽게 파악할 수 있으므로, 필요한 콘텐츠를 효율적으로 검토하고 업데이트할 수 있습니다.
AI 작업, 모델 및 변경 이력의 추적성(Traceability)
책임 있는 AI 활용은 단순히 "AI가 사용되었다"는 사실만 아는 것으로 충분하지 않습니다.
조직은 다음 사항을 파악할 필요가 있을 수 있습니다.
어떤 AI 기능이 사용되었는가?
어떤 AI 모델 또는 제공자가 사용되었는가?
어떤 원본 자료가 활용되었는가?
언제 해당 작업이 수행되었는가?
어떤 결과물이 생성되었는가?
이후 어떤 수정이 이루어졌는가?
누가 콘텐츠를 검토하고 승인했는가?
바로 이러한 이유 때문에 추적성(Traceability), 버전 관리(Version History) 및 감사 기록(Audit Trail) 은 Mexty 플랫폼의 핵심 요소입니다.
추적성은 여러 가지 목적을 동시에 지원합니다.
저자가 콘텐츠가 어떻게 발전해 왔는지 이해할 수 있도록 지원
검토자가 검증 과정에서 충분한 맥락을 확보하도록 지원
관리자가 문제 발생 시 원인을 조사할 수 있도록 지원
지속적인 개선(Continuous Improvement)을 가능하게 함
조직이 비공식적인 방식이 아니라 실제 거버넌스를 운영하고 있음을 입증할 수 있도록 지원
기업용 AI 저작 도구(Enterprise-ready AI Authoring Tool)는 AI 생성을 보이지 않는 과정으로 취급해서는 안 됩니다.
오히려 AI 기반 콘텐츠 생성은 책임성과 추적성을 갖춘 콘텐츠 라이프사이클의 일부가 되어야 합니다.
AI 리터러시는 조직의 운영 역량이 되어야 합니다
AI 법(AI Act)의 AI 리터러시 요구사항은 학습 및 개발(L&D) 팀에게 특히 중요합니다.
AI 리터러시는 단순히 직원들에게 AI의 정의를 설명하는 것으로 충족되지 않습니다.
사람들은 자신의 역할과 사용하는 AI 시스템에 맞는 적절한 교육과 지침을 받아야 합니다.
예를 들어,
컴플라이언스 교육을 설계하는 저자
AI 튜터를 사용하는 학습자
작업 공간을 설정하는 관리자
AI가 생성한 콘텐츠를 승인하는 검토자
이들은 서로 다른 책임과 필요한 역량을 가지고 있습니다.
효과적인 AI 리터러시에는 다음과 같은 이해가 포함될 수 있습니다.
AI 시스템이 할 수 있는 일과 할 수 없는 일
환각(Hallucination) 및 기타 오류가 발생하는 이유
결과물을 반드시 검증해야 하는 이유
승인된 Sources of Truth를 활용하는 방법
개인정보 또는 기밀 정보를 입력해서는 안 되는 상황
부적절하거나 오해를 일으킬 수 있는 콘텐츠를 식별하는 방법
문제를 보고하는 절차
AI의 제안보다 인간의 판단이 우선되어야 하는 상황
유럽연합 집행위원회(European Commission)는 제공자와 배포자가 적절한 AI 리터러시 프로그램을 구축할 수 있도록 다양한 실무 가이드와 사례를 공개하고 있습니다.
**Mexty**는 저자, 관리자 및 내부 팀을 위한 지침을 제공하여, 책임 있는 AI 활용이 단순히 공유 폴더에 저장된 정책 문서가 아니라 일상적인 업무 방식의 일부가 되도록 지원합니다.
4부 — 학습 평가와 분석에서 학습자 보호
AI는 평가, 학습자 분석 또는 개인에게 영향을 미치는 의사결정에 활용될 때 특별한 위험을 초래할 수 있습니다.
AI는 저자가 평가 문제를 작성하고, 피드백을 제안하며, 다양한 시나리오를 생성하는 데 도움을 줄 수 있습니다. 또한 학습 활동에서 나타나는 패턴을 분석하는 데에도 활용될 수 있습니다.
그러나 이러한 결과만으로 학습자의 역량, 특정 기회의 자격 여부 또는 중요한 의사결정을 자동으로 판단해서는 안 됩니다.
AI가 생성한 평가 문항은 다음 사항을 반드시 검토해야 합니다.
사실의 정확성
학습 목표와의 관련성
모호한 표현 여부
의도하지 않은 편향(Bias)
적절한 난이도
피드백의 품질
평가가 실제 역량을 올바르게 측정하는지 여부
학습자 분석(Learner Analytics) 역시 충분한 맥락이 필요합니다.
학습 완료율, 점수 및 활동 데이터는 의사결정에 도움이 될 수 있지만, 개인의 지식이나 실제 업무 수행 능력을 완전히 보여주지는 않습니다.
따라서 **Mexty**는 평가, 학습 분석 및 중요한 의사결정 과정에 다양한 안전장치를 적용합니다.
특히 결과가 학습자 또는 직원에게 중대한 영향을 미칠 수 있는 경우에는 인간의 책임(Human Accountability) 이 항상 중심이 되어야 합니다.
학습을 위한 AI 에이전트(AI Agent for Learning)의 목적은 사람을 대신하여 판단을 내리는 것이 아니라, 학습과 성찰을 지원하는 것이어야 합니다.
AI가 생성한 미디어 검토
AI 투명성에 대한 논의는 종종 텍스트 콘텐츠에 집중되지만, AI가 생성하거나 수정한 미디어도 매우 중요합니다.
여기에는 다음과 같은 요소가 포함될 수 있습니다.
이미지
일러스트레이션
다이어그램
음성 내레이션(Voice-over)
오디오
비디오
아바타
애니메이션
자막(Captions)
대본(Transcripts)
썸네일
이러한 미디어는 다음 사항을 기준으로 검토해야 합니다.
정확성
적절성
접근성
라이선스
잠재적인 편향
학습자를 오도할 위험
특히 사실적으로 제작된 미디어는 더욱 신중하게 검토해야 합니다.
합성 음성, 사실적인 AI 아바타 또는 AI가 생성한 업무 장면은 실제 인물이나 실제 상황이 아님에도 불구하고 학습자에게 실제처럼 인식될 수 있기 때문입니다.
유럽연합(EU)은 특정 AI 생성 콘텐츠의 공개를 지원하기 위해 선택적으로 사용할 수 있는 아이콘과 관련 지침도 발표했습니다.
다만 유럽연합 집행위원회는 아이콘만 사용한다고 해서 AI 법 제50조의 법적 의무를 자동으로 충족하는 것은 아니며, 필요한 공개 의무는 별도로 충족되어야 한다고 설명하고 있습니다.
**Mexty**에서는 미디어 검토를 단순한 규정 준수 절차가 아니라 전체 콘텐츠 게시 워크플로우의 핵심 단계로 간주합니다.
학습자가 발견한 문제의 보고 및 수정
아무리 강력한 관리 체계를 갖추고 있더라도 문제가 발생할 가능성은 존재합니다.
예를 들어 학습자는 다음과 같은 문제를 발견할 수 있습니다.
부정확한 설명
부적절한 이미지
오해를 일으킬 수 있는 AI 응답
정상적으로 동작하지 않는 인터랙션
승인된 원본(Source of Truth)을 반영하지 않는 평가 문항
신뢰할 수 있는 Secure Interactive Learning Platform은 다음과 같은 절차를 제공해야 합니다.
문제 보고
관련 상황(Context) 기록
콘텐츠 또는 AI 상호작용 조사
문제의 원인 식별
문제가 있는 콘텐츠 수정 또는 게시 중단
관련된 다른 콘텐츠에도 동일한 문제가 있는지 확인
해결 과정 및 결과 문서화
이러한 절차는 학습자, 저자, 검토자 및 관리자 간의 실질적인 피드백 순환 구조를 형성합니다.
또한 거버넌스를 일회성 작업이 아닌 지속적인 운영 프로세스로 만들어 줍니다.
책임 있는 AI는 콘텐츠가 게시되는 순간 끝나는 것이 아니라, 학습 콘텐츠의 전체 생명주기(Lifecycle) 동안 계속 유지되어야 합니다.
5부 — 거버넌스와 인터랙티브 학습의 결합
규정 준수(Compliance)가 조직을 다시 정적인 문서 중심의 교육 방식으로 되돌려서는 안 됩니다.
적절하게 관리되는 학습 환경은 충분히 창의적이고, 적응형이며, 몰입감 있는 학습 경험을 제공할 수 있습니다.
**Mexty**는 팀이 다음과 같은 작업을 수행할 수 있도록 지원합니다.
코딩 없이 인터랙티브 교육 과정 제작
시나리오 및 평가 설계
SCORM 호환 학습 환경에서 콘텐츠 제공
인간의 검토(Human Review) 유지
변경 이력 및 추적성 확보
승인된 Sources of Truth를 기반으로 한 콘텐츠 생성
AI-Native LMS이자 AI 기반 저작 플랫폼인 **Mexty**는 다음 요소들을 하나의 통합된 플랫폼 안에서 연결합니다.
콘텐츠 제작(Creation)
검토(Review)
배포(Delivery)
학습자 지원(Learner Support)
학습 분석(Learning Analytics)
지속적인 개선(Continuous Improvement)
이는 매우 중요한 의미를 가집니다.
AI 거버넌스는 콘텐츠가 생성되는 순간에만 적용되어서는 안 되며, 콘텐츠의 전체 라이프사이클(Lifecycle) 을 따라 지속적으로 유지되어야 합니다.
콘텐츠가 내보내지거나(export) 학습자에게 배정된 이후에도 관리 체계와 통제는 계속 유지되어야 합니다.
목표는 학습 및 개발(L&D) 팀의 업무 속도를 늦추는 것이 아닙니다.
오히려 교수설계(Instructional Design) 워크플로우를 단순화하면서도 전체 프로세스를 더욱 투명하고, 관리 가능하며, 신뢰할 수 있는 체계로 만드는 것입니다.
규정 준수에서 신뢰(Confidence)로
2026년 8월 2일이라는 중요한 시점을 맞아 많은 조직이 자사의 AI 시스템, 투명성 정책 및 관련 문서를 검토하게 될 것입니다.
그러나 이것은 단순히 법적 규정을 충족하는 것 이상의 의미를 가집니다.
체계적으로 관리되는 AI 워크플로우는 조직이 다음과 같은 목표를 달성하도록 지원할 수 있습니다.
학습 콘텐츠의 신뢰성 향상
개인정보 및 조직 정보 보호
책임성(Accountability) 강화
학습자의 문제 제기에 보다 효과적으로 대응
교육 콘텐츠를 보다 일관성 있게 업데이트
저자, 관리자 및 학습자의 신뢰 향상
인간의 감독을 유지하면서 AI 활용을 확장
**Mexty**의 목표는 단순히 조직이 EU AI 법을 준수한다고 주장하도록 돕는 것이 아닙니다.
우리의 목표는 조직이 신뢰할 수 있고, 투명하며, 인간이 통제하는 AI 기반 학습 환경을 구축하도록 지원하는 것입니다.
혁신(Innovation)과 거버넌스(Governance)는 서로 경쟁하는 개념이 되어서는 안 됩니다.
두 요소가 동일한 인프라 안에서 함께 설계될 때 조직은
AI를 더욱 자신 있게 활용할 수 있으며,
학습자를 보호하고,
개인정보를 보호하며,
콘텐츠의 무결성을 유지하고,
인간의 책임성을 지속적으로 보장할 수 있습니다.
이것이 바로 AI 기반 학습의 다음 단계이며,
**Mexty**는 그 여정을 함께할 준비가 되어 있습니다.
면책 조항
본 문서는 일반적인 정보를 제공하기 위한 것이며 법률 자문(Legal Advice) 을 구성하지 않습니다.
각 조직은 자사의 AI 시스템, 역할 및 실제 사용 사례를 기준으로 EU AI 법(EU AI Act) 의 적용 요건을 자체적으로 검토하고 평가해야 합니다.
이 글을 즐기셨다면, 다음 기사들도 분명 좋아하실 것입니다.
|
