English
当前您的位置: 当前位置: 首页 > 新闻动态 > 正文

我院向路平老师课题组在多模态通感一体化领域取得新进展

发布日期:2026-11-12 浏览量:

近日,我院杨鲲教授、向路平助理教授团队联合东南大学刘凡教授团队、英国伦敦大学学院Christos Masouros教授团队、南京航空航天大学吴启晖教授团队以及新加坡科技设计大学Tony Q. S. Quek教授团队,在无线通信领域顶级综述期刊《IEEE Communications Surveys & Tutorials》(中科院1区top期刊,最新影响因子:50.6)发表综述论文“A Survey of Multimodal Integrated Sensing and Communication: From a Closed-Loop Perspective”。南京大学彭于波博士生为论文第一作者,南京大学向路平助理教授为论文通讯作者。

通感一体化(Integrated Sensing and Communication, ISAC)作为6G网络的重要技术方向,通过共享频谱、硬件和信号处理资源,实现无线通信与环境感知的深度融合。然而,现有ISAC系统主要依赖信道状态信息(CSI)、雷达回波等射频信号,在复杂动态环境中容易受到遮挡、多径传播和非视距条件的影响,难以满足未来智能网络对环境理解、状态预测和自主决策的需求。多模态通感一体化(Multimodal ISAC, MMISAC)通过融合射频、视觉、雷达、激光雷达及环境先验等异构信息,为无线网络提供更加全面的环境认知能力。然而,多模态融合并非简单增加传感器数量,如何实现异构信息的有效表征、动态预测、智能决策与反馈优化,仍是推动相关技术走向实际应用的关键挑战。

该论文围绕多模态通感一体化技术进行了系统梳理与总结,创新性地从闭环视角建立了“观测-表征-预测-决策-反馈”的统一分析框架,系统讨论了多模态表征学习与融合、信道及环境预测、智能通信决策、反馈驱动的跨阶段自适应等关键技术。同时,论文进一步总结了系统级性能评估方法、典型应用场景及未来研究方向,为理解AI原生通感一体化的发展脉络提供了较为完整的参考框架。

图1 论文主要组织架构

与已有主要聚焦ISAC信号设计、信道建模、资源分配或单一学习技术的综述不同,该论文并未将多模态感知、通信预测和资源优化视为相互独立的研究问题,而是重点关注不同阶段之间的信息交互与协同关系。论文将MMISAC建模为一个动态闭环系统:首先通过射频、视觉及其他传感器获取异构环境观测,并利用多模态表征学习构建统一的潜在状态;随后结合时序模型、空间图模型及生成式世界模型预测未来信道和环境变化;进一步利用强化学习、多智能体协同及学习与优化相结合的方法,将预测信息转化为波束选择、资源分配和协同控制等通信决策;最后,通过通信质量、预测误差及任务执行结果等反馈信息,持续调整系统模型与决策策略。

图2 多模态通感一体化闭环系统框架

其中,多模态表征学习的核心在于解决异构信息的时空对齐、语义关联及高效融合问题,使不同传感器获取的信息能够共同服务于通信优化。预测学习则进一步利用环境动态和无线传播之间的关联,实现对信道演化、链路遮挡、用户运动及网络状态的前瞻性预测,推动无线网络从被动响应转向主动决策。智能决策通过综合考虑预测结果、任务目标与资源约束,实现通信、感知及协同控制的联合优化。反馈自适应则进一步解决动态环境下模型失配和性能退化等问题,使系统能够根据实际运行结果持续调整。上述技术共同构成了从环境感知到智能控制的完整闭环,为AI原生ISAC系统提供了统一的分析视角。

论文进一步指出,多模态通感一体化的研究不能仅停留在感知精度或预测误差等单一指标层面,而应从系统级视角综合考察通信、感知与最终任务性能之间的关系。为此,论文建立了覆盖模块级、链路级和任务级的评测体系,并强调通信开销、计算时延、能耗及环境动态变化等因素对实际部署的重要影响。同时,论文结合智能车联网、低空自主系统、智能工厂及扩展现实等典型场景,分析了多模态信息如何支撑预测驱动的波束管理、协同感知、资源调度和任务优化。例如,在车联网场景中,基站可结合视觉、雷达及CSI信息提前预测车辆运动和链路遮挡风险,主动调整通信波束与资源配置,并根据实际链路性能反馈持续优化决策。

图3 车联网场景下的多模态闭环预测波束控制示例

总体来看,该综述从闭环视角系统梳理了多模态通感一体化的关键技术与发展趋势,进一步指出了跨阶段联合优化、统一潜在表征与世界模型、不确定性感知、反馈自适应、资源受限部署及标准化评测等值得关注的研究方向。在6G时代,无线网络将不再局限于传统的信息传输与环境感知,而是逐步向具备环境理解、未来预测、自主决策和持续学习能力的智能系统演进。未来通感一体化的发展,也将不仅取决于单一感知或通信模块的性能提升,更取决于多模态信息、人工智能与无线资源在完整闭环中的高效协同能力。

论文信息:Yubo Peng, Luping Xiang, Fan Liu, Christos Masouros, Qihui Wu, Tony Q. S. Quek, and Kun Yang, “A Survey of Multimodal Integrated Sensing and Communication: From a Closed-Loop Perspective,” IEEE Communications Surveys & Tutorials, 2026. DOI: 10.1109/COMST.2026.3751094.

欢迎对该研究工作感兴趣的学术同行来信交流:luping.xiang@nju.edu.cn。

苏州校区

地址:苏州市太湖大道 1520 号

邮编:215163    邮箱:ise@nju.edu.cn

版权所有:南京大学智能软件与工程学院Copyright © All Rights Reserverd

网站制作:南京大学智能软件与工程学院