Pytorch如何切換 cpu和gpu的使用詳解
前言,在pytorch中,當服務(wù)器上的gpu被占用時,很多時候我們想先用cpu調(diào)試下代碼,那么就需要進行g(shù)pu和cpu的切換。
方法1:x.to(device)
把 device 作為一個可變參數(shù),推薦使用argparse進行加載:
使用gpu時:
device='cuda' x.to(device) # x是一個tensor,傳到cuda上去
使用cpu時:
device='cpu' x.to(device)
方法2:使用x.cuda()+CUDA_VISIBLE_DEVICES
很多貼子中說,使用x.cuda() 和x.to('cuda') 雖然是等效的,但是x.cuda() 的缺點是無法動態(tài)切換cpu。然而,其實配合命令行參數(shù)CUDA_VISIBLE_DEVICES 是可以進行切換的。
在服務(wù)器上創(chuàng)建一個python腳本 t.py:
import torch print(torch.cuda.device_count()) # 可用gpu數(shù)量 print(torch.cuda.is_available()) # 是否可用gpu
首先先看一下,正常運行的情況:
- 執(zhí)行命令:python t.py
- 輸出結(jié)果:因為服務(wù)器上有兩個gpu,所以是我們想要的結(jié)果。
2
True
如果想要只使用某一塊gpu,只需要在執(zhí)行前加一個參數(shù):
- CUDA_VISIBLE_DEVICES=0 python t.py,例如,我們要使用gpu 0
- 接下來看看輸出什么:是的!程序中確實只可見了一塊gpu~
1
True
下面,如果我們想使用cpu呢?
- CUDA_VISIBLE_DEVICES="" python t.py
- 輸出結(jié)果:可以看到,雖然服務(wù)器上有2塊cpu,通過我們設(shè)置執(zhí)行參數(shù),程序中也成功看不到了!
0
False
因此,回歸正題,當我們使用x.cuda()進行分配gpu時,只需要使用torch.cuda.is_available()加一個判斷即可,當想使用cpu的時候在執(zhí)行程序的命令行參數(shù)進行控制:
if torch.cuda.is_available(): x= x.cuda()
到此這篇關(guān)于Pytorch如何切換 cpu和gpu的使用詳解的文章就介紹到這了,更多相關(guān)Pytorch切換cpu和gpu內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
python?tkinter實現(xiàn)學生信息管理系統(tǒng)
這篇文章主要為大家詳細介紹了python?tkinter實現(xiàn)學生信息管理系統(tǒng),文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2022-02-02
Pycharm打開.py文件和項目的幾種實現(xiàn)方式
這篇文章主要介紹了Pycharm打開.py文件和項目的幾種實現(xiàn)方式,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2025-04-04
用Python實現(xiàn)2024年春晚劉謙魔術(shù)
昨晚春晚上劉謙的兩個魔術(shù)表演都非常精彩,忍不住用編程去模擬一下這個過程,所以本文給大家用Python實現(xiàn)2024年春晚劉謙魔術(shù),文中通過代碼示例給大家介紹的非常詳細,需要的朋友可以參考下2024-02-02
PyQt中使用QtSql連接MySql數(shù)據(jù)庫的方法
這篇文章主要介紹了PyQt中使用QtSql連接MySql數(shù)據(jù)庫的方法,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-07-07
利用Python封裝MySQLHelper類實現(xiàn)數(shù)據(jù)庫的增刪改查功能
Python 連接 MySQL 的方法有很多,常用的有 pymysql 和 mysql-connector-python 兩種庫,本文主要介紹了如何封裝一個MySQLHelper類,實現(xiàn)對數(shù)據(jù)庫的增刪改查功能,感興趣的可以了解一下2023-06-06

