momentum

一、动量（momentum） 　可以给优化器加上一个动量，可以有效缓解局部最优问题。 　原理上就是让优化过程从 　　W = W – lr * dW 　变成 　　V = …