商城网站开发真实费用百度号注册官网

a. 有序调整：等间隔调整(Step)，按需调整学习率(MultiStep)，指数衰减调整(Exponential)和 余弦退火CosineAnnealing。
b. 自适应调整：自适应调整学习率 ReduceLROnPlateau。
c. 自定义调整：自定义调整学习率 LambdaLR。

#得到当前学习率
lr = next(iter(optimizer.param_groups))['lr'] 
#multiple learning rates for different layers.
all_lr = []