對TensorFlow中的variables_to_restore函數(shù)詳解
variables_to_restore函數(shù),是TensorFlow為滑動平均值提供。之前,也介紹過通過使用滑動平均值可以讓神經(jīng)網(wǎng)絡(luò)模型更加的健壯。我們也知道,其實在TensorFlow中,變量的滑動平均值都是由影子變量所維護的,如果你想要獲取變量的滑動平均值需要獲取的是影子變量而不是變量本身。
1、滑動平均值模型文件的保存
import tensorflow as tf if __name__ == "__main__": v = tf.Variable(0.,name="v") #設(shè)置滑動平均模型的系數(shù) ema = tf.train.ExponentialMovingAverage(0.99) #設(shè)置變量v使用滑動平均模型,tf.all_variables()設(shè)置所有變量 op = ema.apply([v]) #獲取變量v的名字 print(v.name) #v:0 #創(chuàng)建一個保存模型的對象 save = tf.train.Saver() sess = tf.Session() #初始化所有變量 init = tf.initialize_all_variables() sess.run(init) #給變量v重新賦值 sess.run(tf.assign(v,10)) #應(yīng)用平均滑動設(shè)置 sess.run(op) #保存模型文件 save.save(sess,"./model.ckpt") #輸出變量v之前的值和使用滑動平均模型之后的值 print(sess.run([v,ema.average(v)])) #[10.0, 0.099999905]
上面的代碼,是如何來保存一個滑動平均值的模型文件,之前有介紹過滑動平均值和模型文件的保存,所以這里就不再重復(fù)了。
2、滑動平均值模型文件的讀取
v = tf.Variable(1.,name="v")
#定義模型對象
saver = tf.train.Saver({"v/ExponentialMovingAverage":v})
sess = tf.Session()
saver.restore(sess,"./model.ckpt")
print(sess.run(v))
#0.0999999
對于模型文件的讀取,在上一篇博客中有介紹過,這里特別需要注意的一個地方就是,在使用tf.train.Saver函數(shù)中,所傳遞的模型參數(shù)是{"v/ExponentialMovingAverage":v}而不是{"v":v},如果你使用的是后面的參數(shù),那么你得到的結(jié)果將是10而不是0.09,那是因為后者獲取的是變量本身而不是影子變量。是不是感覺使用這種方式來讀取模型文件的時候,還需要輸入一大串的變量名稱。
3、variables_to_restore函數(shù)的使用
v = tf.Variable(1.,name="v")
#滑動模型的參數(shù)的大小并不會影響v的值
ema = tf.train.ExponentialMovingAverage(0.99)
print(ema.variables_to_restore())
#{'v/ExponentialMovingAverage': <tf.Variable 'v:0' shape=() dtype=float32_ref>}
sess = tf.Session()
saver = tf.train.Saver(ema.variables_to_restore())
saver.restore(sess,"./model.ckpt")
print(sess.run(v))
#0.0999999
通過使用variables_to_restore函數(shù),可以使在加載模型的時候?qū)⒂白幼兞恐苯佑成涞阶兞康谋旧?,所以我們在獲取變量的滑動平均值的時候只需要獲取到變量的本身值而不需要去獲取影子變量。
以上這篇對TensorFlow中的variables_to_restore函數(shù)詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
全網(wǎng)最新用python實現(xiàn)各種文件類型轉(zhuǎn)換的方法
這篇文章主要介紹了用python實現(xiàn)各種文件類型轉(zhuǎn)換的方法,包括word轉(zhuǎn)pdf,excel轉(zhuǎn)pdf,ppt轉(zhuǎn)pdf,本文通過實例代碼給大家介紹的非常詳細,需要的朋友可以參考下2023-05-05
python代碼 if not x: 和 if x is not None: 和 if not x is None:使用
這篇文章主要介紹了python代碼 if not x: 和 if x is not None: 和 if not x is None:使用介紹,需要的朋友可以參考下2016-09-09
對python特殊函數(shù) __call__()的使用詳解
今天小編就為大家分享一篇對python特殊函數(shù) __call__()的使用詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
pytorch之pytorch?hook和關(guān)于pytorch?backward過程問題
這篇文章主要介紹了pytorch之pytorch?hook和關(guān)于pytorch?backward過程問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2023-09-09
如何基于Python Matplotlib實現(xiàn)網(wǎng)格動畫
這篇文章主要介紹了如何基于Python Matplotlib實現(xiàn)網(wǎng)格動畫,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-07-07
Python調(diào)用系統(tǒng)命令os.system()和os.popen()的實現(xiàn)
這篇文章主要介紹了Python調(diào)用系統(tǒng)命令os.system()和os.popen()的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-12-12

