Pytorch 多維數(shù)組運算過程的索引處理方式
背景:對 python 不熟悉,能看懂代碼,也能實現(xiàn)一些簡單的功能,但是對 python 的核心思想和編程技巧不熟,所以使 Pytorch 寫 loss 的時候遇到很多麻煩,尤其是在 batch_size > 1 的時候,做矩陣乘法之類的運算會覺得特別不順手。
所幸,在邊查邊寫的過程中,理解了 python 中多維運算的實現(xiàn)規(guī)則。
1、python 的基本索引規(guī)則
從 0 開始
對于給定的范圍,如 b = a[m:n], 那么 b 為由 (n-m)個數(shù)據(jù)組成的新數(shù)組,由 a[m],a[m+1],...,a[n-1] 構(gòu)成。(若 n<m, 得到空)
2、單個 tensor 運算,使用 dim 參數(shù)
torch 中對 tensor 的操作方法,若不加 dim 參數(shù)表示對整體的 tensr 進(jìn)行操作,若增加 dim 參則表示按維操作。
例:
a = [[1,2],[3,4],[5,6]] (torch.tensor) torch.mean(a) => 3.5 torch.mean(a,dim=0) => [1.5, 3.5, 5.5] torch.mean(a,dim=1) => [[3],[4]] torch.mean(a,dim=0) => [3,4] torch.mean(a,dim=1) => [1.5, 3.5, 5.5]
注: torch.mean() 是一個降維的操作,所以不會出現(xiàn)在取均值后保持跟原 Tensor 同維的情況。 dim 參數(shù)存在時降一維,不存在時得到的是整個 Tensor 的均值。
3、兩個 tensor 運算,構(gòu)造對應(yīng)形狀
以乘法為例:
3.1 矩陣乘向量
a = [[1,2],[3,4],[5,6]] b = [1,1]
計算乘法 c = a@b
若 a 拓展為 (N,3,2) N 為 batch_size, 計算 c2 = a@b
若 a,b 同時拓展, 變成(N, 2),那么需要做一個變換 b = b.view(N,2,1),計算 c3 = a@b
3.2 矩陣乘矩陣
a = [[1,2],[3,4],[5,6]] b =[ [1,1],[1,1]]
計算乘法 c = a@b
若 a 拓展為 (N,3,2) N 為 batch_size, 計算 c2 = a@b
若 a,b 同時拓展, 變成(N, 2, 2),計算 c3 = a@b
以上這篇Pytorch 多維數(shù)組運算過程的索引處理方式就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
Python畫圖工具M(jìn)atplotlib庫常用命令簡述
這篇文章主要介紹了Python畫圖Matplotlib庫常用命令簡述總結(jié),文中包含詳細(xì)的圖文示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助2021-09-09
使用Flink與Python進(jìn)行實時數(shù)據(jù)處理的基本步驟
Apache Flink是一個流處理框架,用于實時處理和分析數(shù)據(jù)流,PyFlink是Apache Flink的Python API,它允許用戶使用Python語言來編寫Flink作業(yè),進(jìn)行實時數(shù)據(jù)處理,以下是如何使用Flink與Python進(jìn)行實時數(shù)據(jù)處理的基本步驟,需要的朋友可以參考下2024-09-09
Django集成Redis數(shù)據(jù)庫的操作指南
本文將詳細(xì)介紹如何在 Django 項目中集成 Redis 數(shù)據(jù)庫,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2025-03-03
Python采集股票數(shù)據(jù)并制作可視化柱狀圖
這篇文章主要介紹了如何利用Python采集股票數(shù)據(jù)并制作可視化柱狀圖,文中的示例代碼講解詳細(xì),快來跟上小編一起動手嘗試一下吧2022-04-04
使用Python通過win32 COM實現(xiàn)Word文檔的寫入與保存方法
今天小編就為大家分享一篇使用Python通過win32 COM實現(xiàn)Word文檔的寫入與保存方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-05-05

