詳解Python中的數(shù)據(jù)精度問題
一、python運(yùn)算時精度問題
1.運(yùn)行時精度問題
在Python中（其他語言中也存在這個問題，這是計算機(jī)采用二進(jìn)制導(dǎo)致的），有時候由于二進(jìn)制和十進(jìn)制之間對應(yīng)問題會導(dǎo)致數(shù)值的精度問題，比如無法用有限個二進(jìn)制位完整地表示0.1，因為0.1轉(zhuǎn)化為二進(jìn)制之后位一個無限循環(huán)小數(shù)
print(1.1*2.2)
查看運(yùn)行結(jié)果：
2.解決方案：添加方法
需要將整數(shù)部分與小數(shù)部分單獨(dú)做處理可以解決
def multiple(m1, m2):
r=''
## 若存在浮點(diǎn)型，則先轉(zhuǎn)化為整數(shù)
if type( m1 )==float or type( m2 )==float:
print( "存在浮點(diǎn)數(shù)" )
len_m1=len( str( m1 ).split( "." )[1] )
len_m2=len( str( m2 ).split( "." )[1] )
print( "m1的小數(shù)位：", len_m1 )
print( "m2的小數(shù)位：", len_m2 )
m1=int( 10**len_m1*m1 )
m2=int( 10**len_m2*m2 )
print( "m1化為整數(shù)：", m1 )
print( "m2化為整數(shù)：", m2 )
r=str( m1*m2 )
print( "r：", r )
l=len_m1+len_m2
print( "l的總長度：", l )
if l<len( r ):
r_front=r[:-l]
r_last=r[-l:]
print( r_front, "-", r_last )
r=r_front+"."+r_last
else:
r="0."+(l-len( r ))*"0"+r
else:
print( "不存在浮點(diǎn)數(shù)" )
r=m1*m2
return r
res = multiple(1.1,2.2)
print(res)查看運(yùn)行結(jié)果：
二、python四舍五入時精度問題
1.使用round與浮點(diǎn)數(shù)格式化時候的精度問題
歸根結(jié)底是計算機(jī)存儲浮點(diǎn)數(shù)的問題
a1 = 0.235 a2 = round(a1,2) a3 = '%.2f' % a1 print(a2) print(a3)
查看運(yùn)行結(jié)果：
2.解決方案，使用Decimal函數(shù)
需要將float轉(zhuǎn)換為Decimal，該類可以通過接受字符串（務(wù)必是字符串）形式的浮點(diǎn)數(shù)實(shí)現(xiàn)相對精確的小數(shù)計算（減緩了精度誤差，但沒有消滅）
from decimal import Decimal
a1 = 0.235
a2 = Decimal(str(a1)).quantize(Decimal("0.00"))
a3 = '{:.2f}'.format(Decimal(str(a1)))
print(a2)
print(a3)查看運(yùn)行結(jié)果：
到此這篇關(guān)于詳解Python中的數(shù)據(jù)精度問題的文章就介紹到這了,更多相關(guān)Python數(shù)據(jù)精度問題內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
淺談numpy中l(wèi)inspace的用法 (等差數(shù)列創(chuàng)建函數(shù))
下面小編就為大家?guī)硪黄獪\談numpy中l(wèi)inspace的用法 (等差數(shù)列創(chuàng)建函數(shù))。小編覺得挺不錯的，現(xiàn)在就分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-06-06
Python實(shí)現(xiàn)在某個數(shù)組中查找一個值的算法示例
今天小編就為大家分享一篇Python實(shí)現(xiàn)在某個數(shù)組中查找一個值的算法示例，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2018-06-06
這篇文章主要介紹了Python使用matplotlib繪制三維圖形,結(jié)合實(shí)例形式分析了Python基于matplotlib庫繪制三維圖形的相關(guān)操作技巧與注意事項,需要的朋友可以參考下2018-08-08
同事最近有個需求,需要批量修改文件的名稱,這篇文章主要給大家介紹了關(guān)于python批量修改文件名的三種方法,文中通過實(shí)例代碼介紹的非常詳細(xì),需要的朋友可以參考下2022-05-05
python+pyqt5實(shí)現(xiàn)KFC點(diǎn)餐收銀系統(tǒng)
這篇文章主要為大家詳細(xì)介紹了python+pyqt5實(shí)現(xiàn)KFC點(diǎn)餐收銀系統(tǒng)，具有一定的參考價值，感興趣的小伙伴們可以參考一下2019-01-01
這篇文章主要介紹了Python 迭代器與生成器的相關(guān)資料，文中示例代碼非常詳細(xì)，幫助大家更好的理解和學(xué)習(xí)，感興趣的朋友可以了解下2020-07-07
基于Keras中Conv1D和Conv2D的區(qū)別說明
這篇文章主要介紹了基于Keras中Conv1D和Conv2D的區(qū)別說明，具有很好的參考價值，希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
關(guān)于python的編碼與解碼decode()方法及zip()函數(shù)
這篇文章主要介紹了關(guān)于python的編碼與解碼decode()方法及zip()函數(shù),encode0?方法是字符串對象內(nèi)置的一個實(shí)現(xiàn)方法用于實(shí)現(xiàn)編碼操作,需要的朋友可以參考下2023-04-04
在本篇文章里小編給大家整理了關(guān)于python深淺拷貝區(qū)別的相關(guān)知識點(diǎn)總結(jié)，有興趣的朋友們可以參考下。2019-06-06
基于PyTorch實(shí)現(xiàn)EdgeCNN的實(shí)戰(zhàn)教程
本文我們將使用PyTorch來簡易實(shí)現(xiàn)一個EdgeCNN，不使用PyG庫，讓新手可以理解如何PyTorch來搭建一個簡易的圖網(wǎng)絡(luò)實(shí)例demo，感興趣的朋友跟隨小編一起看看吧2023-02-02