跨尺度WSD学习率调度迁移：μP下的几何与预测
指导教师：刘方辉教授 · 2026年7月至今
我研究学习率调度在不同网络宽度和训练预算之间迁移的数学基础，重点关注优化动力学、尺度扩展规律以及μP在其中的作用。
冯思远Siyuan Feng
英国华威大学
数学系本科生英国华威大学
我是英国华威大学数学系本科生，研究方向聚焦于机器学习数学理论。我主要关注机器学习模型背后的严格数学性质，包括神经网络理论、优化动力学、无限宽极限、超参数迁移与尺度扩展规律。
目前，我是刘方辉教授研究组的成员，主要研究μP下学习率调度的跨尺度迁移。同时，我也开始在Ranko Lazić教授的指导下，探索模型检查点平均（checkpoint averaging）与学习率衰减之间的数学关系。
在教学方面，我受聘于华威大学数学学院，担任数学系助教，通过小组数学指导课和学术辅导参与本科数学教学。
我关注神经网络训练的非线性动力学与尺度极限，结合谱分析、扰动理论与渐近方法，研究优化轨迹的稳定性，以及网络宽度、训练步数和学习率策略对训练过程的影响。我的研究兴趣还包括随机过程、布朗运动及相关随机微分方程，尤其关注随机扰动对训练动力学与优化行为的影响。
Education
University of Warwick, BSc Mathematics
Research
Machine Learning Theory
Teaching
数学系助教
研究导师
刘方辉
·
Ranko Lazić
研究兴趣
神经网络理论
研究学习模型背后的严格数学性质，包括优化、泛化、渐近极限与尺度扩展规律。
优化轨迹与训练动力学
从动力系统、谱分析与随机过程的角度，研究训练轨迹、优化稳定性，以及不同学习率策略之间的联系。
无限宽极限与 μP
关注参数化、特征学习、无限宽极限、确定性极限以及超参数的跨宽度稳定性。
超参数迁移与尺度扩展规律
研究学习率调度及其最优参数在不同网络宽度与训练步数之间的迁移规律。
研究经历
从数学出发，理解神经网络如何训练，以及学习率如何跨尺度迁移。
模型检查点平均与学习率衰减
指导教师：Ranko Lazić 教授 · 2026年10月至今
我正在探索模型检查点平均（checkpoint averaging）与学习率衰减之间的数学联系，重点关注其对训练动力学与学习率选择的影响。
两步μP网络中的最优学习率几何
指导教师：刘方辉教授 · 2026年5月至2026年7月
研究两步深度线性μP网络中最优学习率的全局几何，证明其泛型唯一性，构造具有三个不同全局最优点的满秩例外情形，并建立扰动下的稳定性结果。
教学经历
数学系助教
2026 年 10 月至今英国华威大学数学学院
负责为MORSE专业一年级本科生开展每周小组数学指导课（supervisions），组织数学问题讨论、讲解基础理论与解题方法，并批改书面作业、提供针对性学术反馈。
个人兴趣
四阶魔方速拧
我是一名四阶魔方速拧选手，参加过WCA官方比赛。我的官方成绩包括四阶单次34.22秒、平均41.46秒。魔方主页见这里。
在Warwick Winter 2025校内魔方比赛中，我以四阶魔方平均36.95秒获得冠军，在该项目中取得全校第一名。
复原视频与比赛照片1 个视频 · 2 张照片展开收起
致谢
我衷心感谢华威大学的 Damiano Testa 教授。他在我本科前两年担任我的个人导师（Personal Tutor），其指导、鼓励和富有启发性的建议对我的学术成长产生了重要影响。我尤其珍视我们围绕数学、科学研究及未来学术发展方向展开的交流，也十分感谢他在我的学术道路上始终给予的支持与鼓励。
简历与联系
简历
联系方式
Email： eric_feng2006@outlook.com