我们的服务符合学术规范和道德
专业 高端让您使用时没有后顾之忧

中兴通讯技术2024年第02期:大模型关键技术与应用

来源:期刊VIP网 时间:


作者:韩炳涛;刘涛;

单位:中兴通讯股份有限公司;移动网络和移动多媒体技术国家重点实验室;

摘要:介绍了自ChatGPT发布以来,大模型关键技术和应用的主要进展。在大模型设计方面,模型规模不断增加,但已有放缓趋势,更长的上下文以及多模态已经成为主流,计算效率明显提升;在模型训练方面,从单纯追求数据数量逐渐转变为关注数据的多样性和质量,特别是如何使用合成数据训练大模型成为主流探索方向,这是迈向通用人工智能(AGI)的关键;在模型推理方面,模型量化和推理引擎优化极大降低了模型使用成本,诸如投机采样等新兴算法逐渐成熟。在应用层,Agent技术获得了重大进展,在克服大模型固有缺陷方面发挥了不可替代的作用。越来越多的企业开始规划、研发以及使用大模型,企业级大模型应用架构日益成熟完善,并以场景、技术、算法三要素为抓手加速大模型商业价值闭环。

关键词:大模型;;模型训练;;推理加速;;大模型安全;;智能体