a. 有序调整:等间隔调整(Step),按需调整学习率(MultiStep),指数衰减调整(Exponential)和 余弦退火CosineAnnealing。
b. 自适应调整:自适应调整学习率 ReduceLROnPlateau。
c. 自定义调整:自定义调整学习率 LambdaLR。
#得到当前学习率
lr =next(iter(optimizer.param_groups))['lr']#multiple learning rates for different layers.
all_lr =[]
版权归原作者 路途… 所有, 如有侵权,请联系我们删除。