期末来啦~
在学期结束前
俱乐部又为大家努力筹备了干货满满的讲座
本学期最后一次讲座来袭!
主讲人介绍
邵文琪,香港中文大学电子工程学系一年级在读博士(EE PhD),指导老师为王晓刚教授和罗平教授。主要研究方向为深度神经网络优化方法和深度学习理论,包括神经网络归一化方法及其理论分析。
2017年本科毕业于电子科技大学数学科学系(GPA:3.92/4.0,rank 1/40)。本科期间获国家奖学金并多次在大学生数学竞赛、数学建模竞赛中获重要奖项,其中全国大学生数学建模竞赛的后续研究成果受邀在2016年中国工业与应用数学学会(CSIAM)报告。2017年6月至今在商汤研究院实习。
讲座简介
深度学习中的归一化技术对模型性能的提升贡献巨大,针对特定的任务,研究者们提出了各种各样的归一化方法,如Batch Normalization(BN)和Instance Normalization(IN)等。
本次讲座将首先引入用于分析归一化方法的基本知识,介绍当前一些流行的正则化方法并结合Fisher Information Matrix(FIM)分析这些方法如何提升模型的性能,最后理论地解释BN中的正则效果并针对其正则效果的缺陷给出相应的解决方案。
扫一扫下图二维码 / 点击阅读原文
即可报名参加讲座
微信扫一扫
关注该公众号