Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式
更新時間：2020年01月06日 09:27:31 作者：木有感情的機器人
今天小編就為大家分享一篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧
使用model.named_parameters()可以輕松搞定，
model.cuda()
# ######################################## Froze some layers to fine-turn the model ########################
for name, param in model.named_parameters(): # 帶有參數(shù)名的模型的各個層包含的參數(shù)遍歷
if 'out' or 'merge' or 'before_regress' in name: # 判斷參數(shù)名字符串中是否包含某些關(guān)鍵字
continue
param.requires_grad = False
# #############################################################################################################
optimizer = optim.SGD(filter(lambda p: p.requires_grad, model.parameters()),
lr=opt.learning_rate * args.world_size, momentum=0.9, weight_decay=5e-4)
以上這篇Pytorch根據(jù)layers的name凍結(jié)訓(xùn)練方式就是小編分享給大家的全部內(nèi)容了，希望能給大家一個參考，也希望大家多多支持腳本之家。
相關(guān)文章
這篇文章主要介紹了快速查詢Python文檔方法分享，具有一定借鑒價值,需要的朋友可以參考下2017-12-12
大家好，本篇文章主要講的是python實現(xiàn)pptx批量向PPT中插入圖片，感興趣的同學(xué)趕快來看一看吧，對你有幫助的話記得收藏一下2022-02-02
這篇文章主要為大家詳細介紹了python傅里葉變換FFT繪制頻譜圖，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-07-07
今天小編就為大家分享一篇pytorch 模型可視化的例子，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2019-08-08
pytorch如何凍結(jié)某層參數(shù)的實現(xiàn)
這篇文章主要介紹了pytorch如何凍結(jié)某層參數(shù)的實現(xiàn)，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
基于Python的A*算法解決八數(shù)碼問題實現(xiàn)步驟
這篇文章主要給大家介紹了關(guān)于如何基于Python的A*算法解決八數(shù)碼問題的實現(xiàn)步驟,文中介紹了八數(shù)碼問題及其求解方法,通過啟發(fā)式搜索算法,特別是A*算法,可以有效地解決八數(shù)碼問題,,需要的朋友可以參考下2024-11-11
這篇文章主要介紹了Python中的XML庫4Suite Server,來自于IBM官方網(wǎng)站,需要的朋友可以參考下2015-04-04
python 實現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法
今天小編就為大家分享一篇python 實現(xiàn)批量xls文件轉(zhuǎn)csv文件的方法，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-10-10
正在學(xué)習(xí)python而且自己一直在用金山快盤，所以就寫來個簽到的功能，每天定時跑2013-01-01
這篇文章主要介紹了python 如何利用zmail庫發(fā)送郵件，幫助大家更好的理解和學(xué)習(xí)python，感興趣的朋友可以了解下2020-09-09