cover_image

讲座预告|Deeply Understand Deep Learning

中大HCP实验室 2018年06月19日 14:30

期末来啦~

在学期结束前

俱乐部又为大家努力筹备了干货满满的讲座

本学期最后一次讲座来袭!


图片


Deeply Understand Deep Learning I:

 Normalization is Regularization


图片


主讲人:邵文琪


讲座时间:6月22日(周五)16:20

讲座地点:中山大学东校园南实验楼E403



主讲人介绍


邵文琪,香港中文大学电子工程学系一年级在读博士(EE PhD),指导老师为王晓刚教授和罗平教授。主要研究方向为深度神经网络优化方法和深度学习理论,包括神经网络归一化方法及其理论分析。


2017年本科毕业于电子科技大学数学科学系(GPA:3.92/4.0,rank 1/40)。本科期间获国家奖学金并多次在大学生数学竞赛、数学建模竞赛中获重要奖项,其中全国大学生数学建模竞赛的后续研究成果受邀在2016年中国工业与应用数学学会(CSIAM)报告。2017年6月至今在商汤研究院实习。


讲座简介


深度学习中的归一化技术对模型性能的提升贡献巨大,针对特定的任务,研究者们提出了各种各样的归一化方法,如Batch Normalization(BN)和Instance Normalization(IN)等。


本次讲座将首先引入用于分析归一化方法的基本知识,介绍当前一些流行的正则化方法并结合Fisher Information Matrix(FIM)分析这些方法如何提升模型的性能,最后理论地解释BN中的正则效果并针对其正则效果的缺陷给出相应的解决方案。



图片


扫一扫下图二维码 / 点击阅读原文 

即可报名参加讲座

图片

图片

微信扫一扫
关注该公众号

继续滑动看下一个
中大HCP实验室
向上滑动看下一个