python中mpi4py的所有基礎(chǔ)使用案例詳解
python中mpi4py的基礎(chǔ)使用
大多數(shù) MPI 程序都可以使用命令 mpiexec 運行。在實踐中,運行 Python 程序如下所示:
$ mpiexec -n 4 python script.py
案例1:測試comm.send 和comm.recv函數(shù),代碼如下
from mpi4py import MPI
comm = MPI.COMM_WORLD
rank = comm.Get_rank()
if rank == 0:
? ? data = {'a': 7, 'b': 3.14}
? ? comm.send(data, dest=1, tag=11)
elif rank == 1:
? ? data = comm.recv(source=0, tag=11)rank代表進程編號,其總數(shù)是mpiexec -n中的n的個數(shù),最大的n受到電腦cpu內(nèi)核數(shù)的限制
dest代表發(fā)送的目標,tag是一個標志位可以忽略,source為數(shù)據(jù)來源rank標志
案例2:具有非阻塞通訊的python對象
from mpi4py import MPI
comm = MPI.COMM_WORLD
rank = comm.Get_rank()
if rank == 0:
? ? data = {'a': 7, 'b': 3.14}
? ? req = comm.isend(data, dest=1, tag=11)
? ? req.wait()
elif rank == 1:
? ? req = comm.irecv(source=0, tag=11)
? ? data = req.wait()案例3: 快速發(fā)送實例
這里的Send和Recv都是大寫,用于numpy數(shù)據(jù)的傳輸
from mpi4py import MPI import numpy comm = MPI.COMM_WORLD rank = comm.Get_rank() # passing MPI datatypes explicitly if rank == 0: ? ? data = numpy.arange(1000, dtype='i') ? ? comm.Send([data, MPI.INT], dest=1, tag=77) elif rank == 1: ? ? data = numpy.empty(1000, dtype='i') ? ? comm.Recv([data, MPI.INT], source=0, tag=77) # automatic MPI datatype discovery if rank == 0: ? ? data = numpy.arange(100, dtype=numpy.float64) ? ? comm.Send(data, dest=1, tag=13) elif rank == 1: ? ? data = numpy.empty(100, dtype=numpy.float64) ? ? comm.Recv(data, source=0, tag=13)
案例4:集體通訊,廣播機制
廣播機制就是將當(dāng)前root=0端口下的所有信息發(fā)送到任何一個進程
from mpi4py import MPI
comm = MPI.COMM_WORLD
rank = comm.Get_rank()
if rank == 0:
? ? data = {'key1' : [7, 2.72, 2+3j],
? ? ? ? ? ? 'key2' : ( 'abc', 'xyz')}
else:
? ? data = None
data = comm.bcast(data, root=0)案例5:scatter,將root=0下的數(shù)據(jù)一次分發(fā)到各個rank下
from mpi4py import MPI comm = MPI.COMM_WORLD size = comm.Get_size() rank = comm.Get_rank() if rank == 0: ? ? data = [(i+1)**2 for i in range(size)] else: ? ? data = None data = comm.scatter(data, root=0) assert data == (rank+1)**2
案例6:gather,將所有rank下的數(shù)據(jù)收集到root下
from mpi4py import MPI comm = MPI.COMM_WORLD size = comm.Get_size() rank = comm.Get_rank() data = (rank+1)**2 data = comm.gather(data, root=0) if rank == 0: ? ? for i in range(size): ? ? ? ? assert data[i] == (i+1)**2 else: ? ? assert data is None
案例7,numpy的廣播機制
與之前一樣都是大寫
from mpi4py import MPI import numpy as np comm = MPI.COMM_WORLD rank = comm.Get_rank() if rank == 0: ? ? data = np.arange(100, dtype='i') else: ? ? data = np.empty(100, dtype='i') comm.Bcast(data, root=0) for i in range(100): ? ? assert data[i] == i
案例8:numpy的Scatter機制
from mpi4py import MPI import numpy as np comm = MPI.COMM_WORLD size = comm.Get_size() rank = comm.Get_rank() sendbuf = None if rank == 0: ? ? sendbuf = np.empty([size, 100], dtype='i') ? ? sendbuf.T[:,:] = range(size) recvbuf = np.empty(100, dtype='i') comm.Scatter(sendbuf, recvbuf, root=0) assert np.allclose(recvbuf, rank)
案例9:numpy的Gather機制
from mpi4py import MPI import numpy as np comm = MPI.COMM_WORLD size = comm.Get_size() rank = comm.Get_rank() sendbuf = np.zeros(100, dtype='i') + rank recvbuf = None if rank == 0: ? ? recvbuf = np.empty([size, 100], dtype='i') comm.Gather(sendbuf, recvbuf, root=0) if rank == 0: ? ? for i in range(size): ? ? ? ? assert np.allclose(recvbuf[i,:], i)
案例10 :allgather機制
allgather就是 scatter 加上廣播機制。
rank0 = a
rank1 = b
rank2 = c
allgather后結(jié)果為
rank0 = a,b,c
rank1 = a,b,c
rank2 = a,b,c
from mpi4py import MPI import numpy def matvec(comm, A, x): ? ? m = A.shape[0] # local rows ? ? p = comm.Get_size() ? ? xg = numpy.zeros(m*p, dtype='d') ? ? comm.Allgather([x, ?MPI.DOUBLE], ? ? ? ? ? ? ? ? ? ?[xg, MPI.DOUBLE]) ? ? y = numpy.dot(A, xg) ? ? return y
到此這篇關(guān)于一文讀懂python中mpi4py的所有基礎(chǔ)使用的文章就介紹到這了,更多相關(guān)python mpi4py使用內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python?Asyncio庫之a(chǎn)syncio.task常用函數(shù)詳解
Asyncio在經(jīng)過一段時間的發(fā)展以及獲取Curio等第三方庫的經(jīng)驗來提供更多的功能,目前高級功能也基本完善。本文主要介紹了Asyncio庫中asyncio.task常用函數(shù)的使用,需要的可以參考一下2023-03-03
使用Python實現(xiàn)將圖片轉(zhuǎn)線條圖
這篇文章主要為大家詳細介紹了如何使用Python實現(xiàn)將圖片轉(zhuǎn)線條圖,可以讓圖片看起來更加的有意思,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2025-02-02
如何在windows下安裝Pycham2020軟件(方法步驟詳解)
這篇文章主要介紹了在windows下安裝Pycham2020軟件方法,本文通過圖文并茂的形式給大家介紹的非常詳細,對大家的學(xué)習(xí)或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-05-05
一文帶你了解Python列表生成式應(yīng)用的八重境界
在Python中有非常多且好用的技巧,其中使用最多的是列表生成式,往往可以將復(fù)雜的邏輯用簡單的語言來實現(xiàn),本文重點介紹列表生成式應(yīng)用的八重境界2022-09-09
Python 獲取windows桌面路徑的5種方法小結(jié)
今天小編就為大家分享一篇Python 獲取windows桌面路徑的5種方法小結(jié),具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2019-07-07
pytorch中torch.topk()函數(shù)的快速理解
我們在做分類算法時,時常見到@acc1和@acc5的情況,@acc1比較容易實現(xiàn),但是一直苦于@acc5算法的實現(xiàn),在此為大家提供一種@topk的實現(xiàn)方法,這篇文章主要給大家介紹了關(guān)于pytorch中torch.topk()函數(shù)的快速理解,需要的朋友可以參考下2022-02-02
使用Python創(chuàng)建一個視頻管理器并實現(xiàn)視頻截圖功能
在這篇博客中,我將向大家展示如何使用 wxPython 創(chuàng)建一個簡單的圖形用戶界面 (GUI) 應(yīng)用程序,該應(yīng)用程序可以管理視頻文件列表、播放視頻,并生成視頻截圖,我們將逐步實現(xiàn)這些功能,并確保代碼易于理解和擴展,感興趣的小伙伴跟著小編一起來看看吧2024-08-08

