科学研究
学术报告
面向大模型的大规模分布式系统
邀请人:梁汉营
发布时间:2024-05-15浏览次数:

题目:面向大模型的大规模分布式系统

报告人:荆炳义 教授 (南方科技大学)

地点:致远楼101室

时间:2024年5月20日 星期一 19:00-20:00

摘要:随着模型规模和上下文长度需求的迅速增长,目前的大规模深度学习算法,无论是LLM还是多模态的LVLM的算法创新极大程度上依赖于分布式系统的基础设施。从流式数据传输到模型的多维度并行到后续部署阶段的推理,分布式系统在整个模型的生命周期中无处不在。我们面向整个模型的生命周期,阐述一个优秀的面向大模型的分布式系统的设计。

简介:荆炳义,南方科技大学统计与数据科学系讲席教授,国家特聘专家,国家自然科学奖二等奖, 教育部长江学者讲座教授,教育部高等学校自然科学奖二等奖,美国统计学会会士 (ASA Fellow),数理统计学会会士 (IMS Fellow),国际统计学会当选会士 (ISI Elected Member)。担任中国现场统计学会多元分析委员会理事长,并先后担任Ann. Appl. Probab., JBES, 《中国科学》等七家国际学术期刊副主编。研究兴趣包括:概率统计、数据科学,人工智能,大模型等领域。在 Ann. Statist., Ann. Probab., JASA, JRSSB, Biometrika, J of Econometrics, JBES, Bioinformatics,JMLR,《中国科学》,NeurIPS等顶级期刊及顶会发表论文110余篇。

欢迎广大师生前来参加