来源:期刊VIP网 时间:
作者:张文杰;
单位:清华大学经济管理学院;广西中烟工业有限责任公司互联网研究中心;
摘要:随着DeepSeek等国产大模型技术的快速发展,“提示词—响应”的人工智能生成内容(AIGC)已成为继用户创作(UGC)和专业创作(PGC)之后的新一代内容生成模式。然而,技术的应用与模式的变革也引发了数据隐私、内容准确性以及应用伦理等方面的风险与挑战。本文从人机交互的关键环节——提示词出发,提出了“提示词治理”的概念,旨在通过优化提示词提升DeepSeek等国产大模型的内容生成能力,以降低其在实际应用中可能产生的风险。提示词治理包含三个核心逻辑:提示词结构化、反向提示词和提示词工程化。具体而言,提示词结构化将提示词组织为遵循特定规则的结构;反向提示词通过明确限制条件,增强大模型内容生成的准确性和可靠性;提示词工程化则将高质量的提示词集成到大模型系统中,以确保技术应用的稳定性与高效性。本文进一步分析了提示词治理所需的多方参与生态系统,涵盖技术研发企业、用户、监管部门及其他利益相关者。治理路径包括创新推动与规范制动两条互补方向:一方面,鼓励构建开源的技术创新生态,支持应用探索与尝试;另一方面,建立必要的标准与规范,并通过工程化方式将其集成到DeepSeek等国产大模型系统中,以实现技术的规范化发展与风险控制。
关键词:提示词治理;;DeepSeek;;大语言模型;;生成式人工智能;;人机协同
基金资助:2025年度广西高校中青年教师科研基础能力提升项目“大模型背景下广西高校人文社科教师数智素养发展研究”(项目编号:2025KY1166);; 广西教育科学“十四五”规划2025年度课题“生成式人工智能技术在广西高等教育阶段学生学习中的应用研究”(项目编号:2025C490)的阶段性成果