来源:期刊VIP网 时间:
作者:刘辰尧;樊思琦;余华龙;许文俊;张平;
单位:北京邮电大学网络与交换技术全国重点实验室;北京邮电大学未来学院;
摘要:随着具身智能、智能无人系统、虚拟现实等新型应用的快速发展,通信需求正从感知数据的直接传输演进为基于认知的语义智能交互。语义通信通过挖掘信息内涵,在提升传输效率和鲁棒性方面展现出显著优势,大模型技术的快速演进为多模态数据协同理解提供了解决思路。现有多模态大模型(Large Multimodal Model, LMM)已经用于语义信息的精准表达与高效压缩,但针对有噪信道下可靠传输问题的相关研究较为匮乏。针对图像与文本模态传输需求差异,构建了一种LMM赋能的图像语义双层传输框架,实现了图像与文本语义信息的跨模态对齐与高效传输。实例分析表明,该框架在有噪传输条件下,能够显著提升图像重建质量并保持良好的语义一致性。
关键词:语义通信;;多模态;;多模态大模型;;大模型
基金资助:国家自然科学基金(62293485)~~