面向6G的多任务无线原生基座模型

RISTA前沿大讲堂

Multi-Task Wireless-Native Foundation Model for 6G

面向6G的多任务无线原生基座模型

无线基座大模型通过在大规模数据集上进行预训练，以形成对无线传播环境的通用表征，并基于多样化的任务头适配各种通信感知下游任务，实现“一模多用”，从而形成AI-Native 6G网络的智能底座。尽管大语言模型（LLMs）已在NLP、计算机视觉、代码生成等多种任务中表现优异，但其模型结构并不完全适配通信问题。为此，需要在Transformer架构的基础上充分融入通信机理，设计无线专属的基座大模型。本报告提出Channel Transformer这一全新设计，主要包括如下创新：1）引入自适应干扰/噪声抑制模块，解决开放环境下Transformer难以准确表征信道特征的问题；2）改造self-attention核心组件，将物理相关性和样本相似性相结合，更准确地捕获信道本质规律；3）设计信道一致性驱动的轻量化计算机制，在保障性能不下降的同时大幅降低推理时延；4）设计基于门控网络的多任务泛化机制，解决统一表征难于适配多种任务的难题。此外，报告还将介绍基于无线基座大模型的原型验证结果，展示模型在信道估计、信道预测等下游任务上的性能优势。

孙黎，鹏城国家实验室研究员（正高级）、鲲鹏拔尖人才、国家科技重大专项项目负责人。曾任华为公司高级技术专家、西安交通大学教授。研究方向为：AI与通信网络的融合技术、无线基础大模型、无线空口安全。主持国家科技重大专项项目/课题、国家重点研发计划课题、国家自然科学基金项目等国家级项目/课题十余项；发表论文170余篇（SCI检索70余篇）；申请发明专利160余项，其中85项已授权，近20项专利被标准采纳或实现转化。现任中国通信学会信息通信及安全数学理论专委会委员、CCF网络与系统安全专委会执行委员、IEEE通信大模型技术委员会创始成员及Online Content Chair、AI Edge联盟TG4主席、IEEE Trans. Dependable and Secure Computing、IEEE Wireless Communications、IEEE Network等6种SCI期刊Associate Editor/Guest Editor。两次入选斯坦福大学“全球Top 2%顶尖科学家榜单”，获得中国通信最佳论文奖、陕西省自然科学优秀论文奖、中国电子学会优秀硕士学位论文指导教师、陕西省教学成果一等奖、全国高等学校电子信息类专业青年教师授课竞赛一等奖、华为创新先锋一等奖，主讲的《信号与系统》入选国家级一流本科课程。

RISTA前沿大讲堂