来源：期刊VIP网 时间：
作者：翟岩;李小波;
单位：中国人民公安大学治安学院/首都社会安全研究基地;
摘要：“数据投毒”作为针对人工智能模型的新型对抗性攻击手段，其本质是通过恶意污染训练数据集以破坏模型决策逻辑与输出可靠性，已成为当前人工智能安全治理的核心挑战。数据投毒主要包含分割视图投毒、标签标注投毒等机制类型，并具备攻击动机恶意性、攻击阶段源头性、攻击方式隐蔽性、损害结果不可逆性等核心特征，从而区别于一般意义上的“数据污染”。数据投毒对人工智能生态构成的从技术基础到国家安全的层级化威胁表现为：在基础模型层，数据投毒攻击直接破坏模型可用性，并通过参数传导机制导致下游领域模型出现性能缺陷；在知识生态层，污染数据信息增殖导致知识生产同质化与虚假化；在社会系统层，数据投毒行为引发公共决策偏差，侵蚀治理效能与公众信任；在国家安全层，数据投毒行为演变为认知空间攻击“武器”，操纵信息生态，威胁认知安全。对此，应构建覆盖预处理、模型训练与缺陷阻断的全链条技术防御机制，提高基础模型免疫力；建立全生命周期的数据质量管理制度，从源头净化知识生态；构建场景化、差异化的“人机协同”验证网络，提升公共决策系统韧性；加强技术监测、完善法律规制、提升公众认知素养，筑牢认知安全防线，由此形成针对数据投毒风险的系统性治理方案。
关键词：人工智能安全;;数据投毒;;层级风险;;数据质量;;技术治理
基金资助：国家社会科学基金重点项目“‘算法政治推送’对我国意识形态安全的威胁与应对”（22AZZ011）
