Adam优化算法中的指数移动平均

时间: 2023-07-11 admin 互联网

Adam优化算法中的指数移动平均

Adam优化算法中的指数移动平均

机器学习经典算法(三)--指数加权平均

机器学习经典算法(三)–指数加权平均

       指数加权平均(Exponentially Weighted Averages)是一些改进梯度下降法重要理论,如上篇博文梯度下降法(2)提到的动量梯度下降法,RMSprop、Adam等都用到了指数加权平均。也叫指数加权移动平均(Exponentially Weighted Moving Averages);那么到底什么是指数加权平均呢?

基础概念 
       话说有这么一个例子,如下图,横轴表示天数ii,纵轴表示某地每天对应的温度θiθi,这是1年的数据,现在我们想计算一下,这一年温度变化的趋势 

       这个变化趋势也就是局部平均或移动平均,怎么做呢? 
       我们用vivi表示这个平均值,引入一个  参数,且令v0=0v0=0, 
vi=β∗vi−1+(1−β)∗θi
vi=β∗vi−1+(1−β)∗θi

       这样一个式子表达了相当于,当天的温度平均值约等于前TT天温度数据加权平均,T≈11−βT≈11−β。 
       例如:β=0.9β=0.9时,T=10T=10天,效果如图: 

       例如:β=0.98β=0.98时,T=50T=50天,效果如图: 

       例如:β=0.5β=0.5时,T=2T=2天,效果如图: 

       从上述3种情况对比看,该数据平均前10天较为符合我们期望;前50天曲线太平滑,有点偏离数据;前2天与数据较为贴合,但同时存在噪声。

进一步理解 
       我们将上式展开,这里用第100个平均值,β=0.9β=0.9为例: 
v100v99v98⋯===0.9∗v99+0.1∗θ1000.9∗v98+0.1∗θ990.9∗v97+0.1∗θ98
v100=0.9∗v99+0.1∗θ100v99=0.9∗v98+0.1∗θ99v98=0.9∗v97+0.1∗θ98⋯

       则: 
v100⋯====0.1∗θ100+0.9∗v990.1∗θ100+0.9(0.1∗θ99+0.9∗v98)0.1∗θ100+0.9(0.1∗θ99+0.9(0.1∗θ98+0.9∗v97)0.1∗θ100+0.1∗0.9θ99+0.1∗0.92θ98+0.1∗0.93∗θ97+⋯+0.1∗0.999θ1
v100=0.1∗θ100+0.9∗v99=0.1∗θ100+0.9(0.1∗θ99+0.9∗v98)=0.1∗θ100+0.9(0.1∗θ99+0.9(0.1∗θ98+0.9∗v97)⋯=0.1∗θ100+0.1∗0.9θ99+0.1∗0.92θ98+0.1∗0.93∗θ97+⋯+0.1∗0.999θ1

       从上式可以看出第100天的平均值是由前100天数据加权平均的,但是看它们的权重系数,是符合一个指数级衰减函数,当T=10T=10时,0.910≈1/e0.910≈1/e,当小于1/e1/e的权重其影响已经非常小了,所以相当于前10天的数据加权平均;同理当θ=0.98θ=0.98时,0.9850≈1/e0.9850≈1/e,所以相当于前50天数据加权平均。
偏差修正(bias correction) 
       上面讲述了指数加权平均原理,但还存在一个问题,就是开始时,我们算法的天数不到TT天时,怎么办呢?如下图 

       图中红色曲线还是β=0.9β=0.9的曲线,绿色是我们上面提到的β=0.98β=0.98的曲线;但是,按照上面公式去计算,呈现的β=0.98β=0.98的曲线应该是紫色曲线,注意到它起步阶段与理想绿色曲线是偏小的。 
       这时误差修正就上场了: 
vt=vt1−βt
vt=vt1−βt

       在tt较小时,将会修正平均值,随着tt曾大,其修正作用减小,因为这时也不需要修正了。 
       当然了再机器学习中,很多人不在意起步阶段偏小问题,而愿意熬过这个阶段,所以这个误差修正,也常常被忽略,如动量梯度下降法和RMSprop中就没有加入误差修正,在Adam算法中加入了误差修正。
参考文献: 
【1】吴恩达DeepLearning.ai课程:.htm