学术预告

粮食和物资储备学院学术创新年学术报告预告:高效公平的联邦大语言模型

来源:粮食和物资储备学院 2025-11-07 14:54 浏览:
演讲者 演讲时间
地点 分类
职位 摄影
审核 审校
主要负责 联系学院
事记时间

为进一步深化学科交叉融合,赋能学校优势学科领域方向创新发展,特邀请西安交通大学曾锦山教授来校开展学术报告交流,信息如下。

时间:2025年11月11日(星期二) 下午 14:30

地点:40号楼202会议室

报告摘要:

联邦学习因其可以在不分享原始数据的前提下实现多客户端协同训练,从而为大数据应用中广泛存在的“数据孤岛”问题提供潜在求解范式。然而,联邦学习在应对数据异质性挑战时,常陷入全局模型与局部模型性能权衡的困境。针对该挑战,本报告深入探讨两种典型的数据异质性:统计异质性与模态异构性,并分别提出基于交替方向乘子法(ADMM)的模型解耦与部分模型个性化算法框架并建立相应的收敛理论。针对统计异质性,我们首先利用Moreau Envelope实现全模型个性化,之后在本地客户引入全局模型镜像实现全局与局部个性化模型解耦,以协调全局共识与局部特异性。针对模态异构性,我们设计了一种部分模型个性化联邦学习算法,将模型分解为全局共享层与局部个性化层,从而有效处理模态异构性带来的挑战。实验结果表明,与传统联邦学习及主流个性化方法相比,本文所提的两种算法框架在相应数据异质性场景下,均能实现更优的全局-局部性能权衡,显著提升了模型性能与鲁棒性。

报告人简介:

曾锦山,西安交通大学管理学院青拔A类教授,博士生导师。主持国家自然科学基金和江西省重大人才计划、省杰青等项目6项,在IEEE TPAMI/TIP/ TSP、JMLR和ICML等相关领域高水平期刊或会议上发表论文80余篇,其中ESI高被引论文3篇,一篇论文入选“中国数学领域热点论文榜单前十”,单篇论文最高引用1500余次。荣获2025年国际基础科学大会前沿科学奖、2018和2020年世界华人数学家大会最佳论文奖、江西省自然科学奖二等奖等多项重要学术奖励。受邀在国际基础科学大会和数届世界华人数学家大会上作60分钟大会特邀报告或45分钟邀请报告。受邀担任国内外高水平学术会议副主席或论坛主席10余次。授权发明专利20余项,获批江西省教学成果奖青年培育项目1项,指导学生获得“挑战杯”国家特等奖等国家级学科竞赛奖励30余项。主要研究方向是人工智能中优化算法理论及其应用。

欢迎广大师生参加!

粮食和物资储备学院
2025年11月7日

(责任编辑:李翰)