来源：期刊VIP网 时间：
作者：陈夕朦;屈彦璋;周鹏鹏;马文保;
单位：西安交通大学哲学系;加州大学伯克利分校CSTMS研究中心;中国民航科学技术研究院;
摘要：“人在环路”是机器学习的一种方法，近年来逐渐演变为一种技术理念并广泛应用于多技术领域。它旨在将人的经验更好地融合于机器学习的过程中，从而解决传统方法无法兼顾数据标注的效率和质量，以及非技术专家和AI专家因知识背景不同难以协作开发的难题，提升机器学习模型的准确性。本文基于“人在环路”方法的技术优势，从工程进路提出将该方法应用于AI价值对齐的全过程；并以特定的方式将“人”与模型“环路”联结起来，以便机器能够在环路中学习人类的道德知识和道德经验，以最小代价训练出最优化的道德决策模型。最终为AI伦理的真正落地提供一种全新的可能性，以及一种“以技术的方式解决技术伦理问题”的思想进路。
关键词：人工智能;;“人在环路”;;道德决策;;价值对齐
基金资助：国家社会科学基金西部项目“自然主义信息哲学的逻辑基础”(24XZX007);; 中央级公益性科研院所中国民航科学技术研究院基本科研业务费专项资金“民航旅客服务大数据资产权属标识与质量评估方法研究”(xxx262060302026015);; 2022年国家公派高级研究学者、访问学者、博士后项目
