我们的服务符合学术规范和道德
专业 高端让您使用时没有后顾之忧

郑州大学学报(理学版)2025年第04期:“可预测的”非凸在线点对学习的遗憾界

来源:期刊VIP网 时间:


作者:郎璇聪;王梅;刘勇;李春生;

单位:东北石油大学计算机与信息技术学院;东北石油大学黑龙江省石油大数据与智能分析重点实验室;中国人民大学高瓴人工智能学院;中国人民大学大数据管理与分析方法研究北京市重点实验室;

摘要:在线点对学习是指损失函数依赖于一对实例的在线学习模式,泛化性是在线点对学习理论研究的重要内容。大多数关于在线点对学习使用对抗性损失函数且假设凸性,然而凸性并不符合通常的实际应用场景。针对非凸在线点对学习,给出基于稳定性分析的具有“可预测的”损失函数的在线点对学习遗憾界,作出相应的稳定性分析。通过稳定性和度量在线点对学习泛化能力的常用方式——遗憾之间的关系,建立“可预测的”非凸损失函数下的遗憾界。证明当学习者(leaner)能够获得离线神谕(oracle)时,“可预测的”非凸广义在线点对学习达到遗憾界O(T~(-3/2))。该结论丰富了非凸在线点对学习的理论研究,且优于现有理论保证。

关键词:在线点对学习;;非凸;;稳定性;;遗憾界;;离线神谕

基金资助:国家自然科学基金项目(51774090,62076234);; 黑龙江省博士后科研启动金资助项目(LBH-Q20080);; 黑龙江省研究生精品课程建设项目(15141220103)