时 间：2026年10月22日（周四）11：00 - 12：00
地 点：普陀校区理科大楼A614室
报告人：刘方辉 上海交通大学副教授
邀请人：章迎莹 华东师范大学统计学院
摘 要：
In this talk, I will discuss how a proxy model can precise predict the performance of LLM training under learning rate and batch size schedules. We firstly show that the prediction risk of a proxy model can be characterized by Volterra recursion under two coordinates (an instrinsic time and the batch-size/learning rate ratio) via deterministic equivalence in random matrix theory. Then we provide a sufficient and necessary condition of the origin of scaling laws (partially) and identify which regimes LLM falls into. Controlled 300M nanoGPT experiments can sucessfully predict loss across schedule. This work is joint with Yichen Wang and Yudong Chen. https://arxiv.org/abs/2609.40148
报告人简介：
刘方辉，上海交通大学自然科学研究院与数学科学学院副教授，数学学院与人工智能学院博士生导师，之前在英国华威大学担任助理教授。研究方向为机器学习数学理论与大模型机理分析。其主要研究工作包括函数空间视角下的机器学习理论、尺度扩展下的泛化理论，并进一步推动理论指导实践的研究范式。2023年入选国家高层次人才青年项目，2024年获得AAAI新教师奖，2025年入选TUM全球访问教授计划，2026年获得美国美国数学与统计创新研究所（IMSI）长期访问学者资助项目。研究获得基金委面上项目、英国皇家学会、谷歌的资助。主办 NeurIPS‘24，’26研讨会，担任IJCV专刊客座编辑，在 ICASSP’23、CVPR’23、ISIT’24 等国际顶级会议上主讲tutorial。担任NeurIPS、ICLR、AISTATS等会议领域主席。