對Python中g(shù)ensim庫word2vec的使用詳解
pip install gensim安裝好庫后,即可導(dǎo)入使用:
1、訓(xùn)練模型定義
from gensim.models import Word2Vec model = Word2Vec(sentences, sg=1, size=100, window=5, min_count=5, negative=3, sample=0.001, hs=1, workers=4)
參數(shù)解釋:
1.sg=1是skip-gram算法,對低頻詞敏感;默認(rèn)sg=0為CBOW算法。
2.size是輸出詞向量的維數(shù),值太小會導(dǎo)致詞映射因為沖突而影響結(jié)果,值太大則會耗內(nèi)存并使算法計算變慢,一般值取為100到200之間。
3.window是句子中當(dāng)前詞與目標(biāo)詞之間的最大距離,3表示在目標(biāo)詞前看3-b個詞,后面看b個詞(b在0-3之間隨機)。
4.min_count是對詞進(jìn)行過濾,頻率小于min-count的單詞則會被忽視,默認(rèn)值為5。
5.negative和sample可根據(jù)訓(xùn)練結(jié)果進(jìn)行微調(diào),sample表示更高頻率的詞被隨機下采樣到所設(shè)置的閾值,默認(rèn)值為1e-3。
6.hs=1表示層級softmax將會被使用,默認(rèn)hs=0且negative不為0,則負(fù)采樣將會被選擇使用。
7.workers控制訓(xùn)練的并行,此參數(shù)只有在安裝了Cpython后才有效,否則只能使用單核。
詳細(xì)參數(shù)說明可查看word2vec源代碼。
2、訓(xùn)練后的模型保存與加載
model.save(fname) model = Word2Vec.load(fname)
3、模型使用(詞語相似度計算等)
model.most_similar(positive=['woman', 'king'], negative=['man'])
#輸出[('queen', 0.50882536), ...]
model.doesnt_match("breakfast cereal dinner lunch".split())
#輸出'cereal'
model.similarity('woman', 'man')
#輸出0.73723527
model['computer'] # raw numpy vector of a word
#輸出array([-0.00449447, -0.00310097, 0.02421786, ...], dtype=float32)
其它內(nèi)容不再贅述,詳細(xì)請參考gensim的word2vec的官方說明,里面講的很詳細(xì)。
以上這篇對Python中g(shù)ensim庫word2vec的使用詳解就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
django settings.py配置文件的詳細(xì)介紹
本文主要介紹了django settings.py配置文件的詳細(xì)介紹,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2022-04-04
Python實現(xiàn)Web應(yīng)用國際化i18n的示例詳解
這篇文章主要為大家詳細(xì)介紹了如何基于Python的gettext模塊,實現(xiàn)一個靈活、可擴展的多語言支持系統(tǒng),文中的示例代碼講解詳細(xì),有需要的可以參考下2025-02-02
對TensorFlow中的variables_to_restore函數(shù)詳解
今天小編就為大家分享一篇對TensorFlow中的variables_to_restore函數(shù)詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-07-07
利用python實現(xiàn)平穩(wěn)時間序列的建模方式
這篇文章主要介紹了利用python實現(xiàn)平穩(wěn)時間序列的建模方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
如何用python 操作MongoDB數(shù)據(jù)庫
這篇文章主要介紹了如何用python 操作MongoDB數(shù)據(jù)庫,幫助大家更好的理解和學(xué)習(xí)使用python,感興趣的朋友可以了解下2021-04-04
pyqt遠(yuǎn)程批量執(zhí)行Linux命令程序的方法
今天小編就為大家分享一篇pyqt遠(yuǎn)程批量執(zhí)行Linux命令程序的方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-02-02

