對Tensorflow中的變量初始化函數(shù)詳解
Tensorflow 提供了7種不同的初始化函數(shù):
tf.constant_initializer(value) #將變量初始化為給定的常量,初始化一切所提供的值。
假設(shè)在卷積層中,設(shè)置偏執(zhí)項b為0,則寫法為: 1. bias_initializer=tf.constant_initializer(0) 2. bias_initializer=tf.zeros_initializer(0)
tf.random_normal_initializer(mean,stddev) #功能是將變量初始化為滿足正太分布的隨機值,主要參數(shù)(正太分布的均值和標(biāo)準(zhǔn)差),用所給的均值和標(biāo)準(zhǔn)差初始化均勻分布
tf.truncated_normal_initializer(mean,stddev,seed,dtype) #功能:將變量初始化為滿足正太分布的隨機值,但如果隨機出來的值偏離平均值超過2個標(biāo)準(zhǔn)差,那么這個數(shù)將會被重新隨機
mean:用于指定均值;stddev用于指定標(biāo)準(zhǔn)差;seed:用于指定隨機數(shù)種子;dtype:用于指定隨機數(shù)的數(shù)據(jù)類型。 通常只需要設(shè)定一個標(biāo)準(zhǔn)差stddev這一個參數(shù)就可以。
tf.random_uniform_initializer(a,b,seed,dtype) #從a到b均勻初始化,將變量初始化為滿足平均分布的隨機值,主要參數(shù)(最大值,最小值)
tf.uniform_unit_scaling_initializer(factor,seed,dtypr) #將變量初始化為滿足平均分布但不影響輸出數(shù)量級的隨機值
max_val=math.sqrt(3/input_size)*factor; input_size指輸入數(shù)據(jù)的維數(shù),假設(shè)輸入為x,計算為x*w,則input_size=w.shape[0]. 其分布區(qū)間為[-max_val,max_val]
tf.zeros_initializer() #將變量設(shè)置為全0;也可以簡寫為tf.Zeros()
tf.ones_initializer() #將變量設(shè)置為全1;可簡寫為tf.Ones()
以上這篇對Tensorflow中的變量初始化函數(shù)詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
TensorFlow實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò)
這篇文章主要為大家詳細(xì)介紹了TensorFlow實現(xiàn)卷積神經(jīng)網(wǎng)絡(luò),具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-05-05
DataFrame 將某列數(shù)據(jù)轉(zhuǎn)為數(shù)組的方法
下面小編就為大家分享一篇DataFrame 將某列數(shù)據(jù)轉(zhuǎn)為數(shù)組的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04
Python 識別12306圖片驗證碼物品的實現(xiàn)示例
這篇文章主要介紹了Python 識別12306圖片驗證碼物品的實現(xiàn)示例,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-01-01
解決python遞歸函數(shù)及遞歸次數(shù)受到限制的問題
這篇文章主要介紹了解決python遞歸函數(shù)及遞歸次數(shù)受到限制的問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教2022-06-06

