来源：期刊VIP网 时间：
作者：闫宏秀;
单位：上海交通大学科学史与科学文化研究院;
摘要：以人工智能性能为主和以人机关系为主的两种人工智能等级划分方式，均印证了超级智能出现的逻辑合理性，而这种划分的本质均指向价值对齐，即确保人工智能系统行为与人类意图和价值观保持一致。然而，因超级智能具有人类无法完全预见的特性，价值对齐面临三重现实困境：目标不确定性引发的“价值对齐无用论”之惑，工具性目标趋同性导致的“价值对齐失败”之惑，以及由超级对齐引发的“价值对齐迷失”之惑。为破解这些困境，需重新审视不确定性的积极价值，构建以人类为中心的人机协同机制，从而锚定技术伦理方向，守护科技向善的愿景，筑牢人类文明存续根基。
关键词：超级智能;;价值对齐;;人工智能;;人类未来
基金资助：教育部哲学社会科学研究重大课题攻关项目“数字化未来与数据伦理的哲学基础研究”的阶段性成果，项目编号：23JZD005
