如今，AI教育大模型以其强大的语义理解、知识推理和内容生成能力，打破了传统教育边界、拓展了教学内容广度、加深了知识理解深度，推动教学向智能化、专业化和个性化方向转型。与此同时，AI教育大模型训练使用的原始数据样本存在着“数据污染”的安全隐患，这不仅削弱了生成内容的可靠性，更影响到学生认知观念的塑造甚至威胁国家安全，这就需要采取多维举措应对AI教育大模型“数据污染”的风险。

AI教育大模型中的“数据污染”现象早已存在，具体而言体现在三个层面：一是部分AI教育大模型训练数据存在错误，这些事实错误包括训练数据含有噪声、重复、陈旧或无关数据，甚至是标注错误等现象，损害了输出的教学相关内容质量，影响教学效果和学生认知。特别是由于大模型技术的知识跨学科属性，更加大了师生辨别输出内容真伪的难度。二是初始数据来源存在偏见、歧视等情况。AI教育大模型的训练依赖大量数据，但这些数据来源于特定的时间、群体和地区，容易生成区域性的歧视内容。三是不法机构利用AI教育大模型散播有毒数据。一些不法分子在部分AI教育大模型的训练中故意散布错误知识点或传播具有政治倾向的内容，影响特定学科领域的内容输出。例如，在AI教育大模型的训练阶段，通过在预训练数据中植入少量错误信息即可污染原始数据，导致模型输出特定错误观点的概率大幅度提升。

AI教育大模型使用受污染的数据将导致多维度、深层次的系统性风险。将失真的大模型引入教学环节，不仅影响了模型技术性能，更通过教学应用对教学安全乃至社会认知产生连锁的安全威胁。具体危害表现为三个方面：一是教学过程存在“权威性谬误”导致知识传递失真。AI教育大模型将训练数据中的错误信息以高度专业化的形态输出，就会生成看似科学实则有害的“知识毒药”和文不对题的“权威性谬误”。特别是当前网络空间存在着大量谣言，这些未经证实的内容被AI教育大模型学习后输出为歪曲的科学概念和历史时间线内容，加之数字时代师生过度依赖AI大模型技术，更加难辨真伪。二是数据中的隐形偏见和文化歧视。AI教育大模型经过不断学习可能会强化特定群体和地域的负面形象。AI教育大模型被投喂倾向性数据后会出现生成内容偏差，并不断强化错误认知。例如，由于大模型原始数据被污染，包含种族、性别等刻板印象的例句被反复生成，将影响学生学习内容的科学性。三是认知安全威胁。更值得警惕的是，AI教育大模型如被不法分子操纵生成仇恨言论或政治宣传内容，通过“数据投毒”持续诱导模型输出特定虚假信息，意图篡改历史、传播谣言，将严重危害国家安全。

作为知识传播的新载体，AI教育大模型的数据质量直接关乎教学过程中学生的认知安全，面对训练数据泄露、恶意投毒、隐性偏见等多重污染风险，须构建覆盖数据全生命周期的防御体系，从教育数据搜集、管理和教育多主体协同等维度进行应对。一是重视AI教育大模型初始数据的选择，构建可信数据溯源系统，为每个训练样本标注来源、版本和审核状态；建立教育专用数据采集标准，优先使用权威教育资源，如采用权威教材、学科标准、学术论文等结构化知识资源，而非开放的网络爬取数据。二是开发动态教学数据安全监测系统并提升技术水平。构建AI教育大模型检测平台，持续扫描训练集中的过时和错误内容，设置教育领域“污染指数”预警阈值。采用应用场景的流程管控，构建起“生成—验证—使用”的教育标准流程，并提升关键技术能力。三是构建制度与伦理保障框架，做好认知安全威胁的防范工作。明确各学科知识的准确性标准，建立第三方认证制度。同时，对AI教育大模型实施全生命周期备案监管机制，包括数据采集、模型训练、教学应用等环节。此外，组建跨学科AI教育伦理委员会，开展教师AI素养培训，重点培养教师识别数据污染、纠正模型偏差的能力。

在AI教育大模型赋能教学的过程中，我们既要强调开放性又要重视安全的模型生态塑造。只有通过技术创新、制度设计和教育实践协同，构建起涵盖技术标准、行政监管、法律约束的立体化治理体系，才能有效守护知识传播的科学性，建立超越“技术崇拜”的发展范式，实现技术赋能教育的初心使命。

（作者系中国人民公安大学国家安全学院讲师）

《中国教师报》2026年01月21日第14版

作者：苗争鸣