Javascript 浮點運算精度問題分析與解決
分析
JavaScript 只有一種數(shù)字類型 Number ，而且在Javascript中所有的數(shù)字都是以IEEE-754標準格式表示的。 浮點數(shù)的精度問題不是JavaScript特有的，因為有些小數(shù)以二進制表示位數(shù)是無窮的：
十進制 二進制
0.1 0.0001 1001 1001 1001 ...
0.2 0.0011 0011 0011 0011 ...
0.3 0.0100 1100 1100 1100 ...
0.4 0.0110 0110 0110 0110 ...
0.5 0.1
0.6 0.1001 1001 1001 1001 ...
所以比如 1.1 ，其程序?qū)嶋H上無法真正的表示 ‘1.1'，而只能做到一定程度上的準確,這是無法避免的精度丟失：
1.09999999999999999
在JavaScript中問題還要復雜些，這里只給一些在Chrome中測試數(shù)據(jù)：
輸入 輸出
1.0-0.9 == 0.1 False
1.0-0.8 == 0.2 False
1.0-0.7 == 0.3 False
1.0-0.6 == 0.4 True
1.0-0.5 == 0.5 True
1.0-0.4 == 0.6 True
1.0-0.3 == 0.7 True
1.0-0.2 == 0.8 True
1.0-0.1 == 0.9 True
解決
那如何來避免這類 1.0-0.9 != 0.1 的非bug型問題發(fā)生呢？下面給出一種目前用的比較多的解決方案, 在判斷浮點運算結(jié)果前對計算結(jié)果進行精度縮小，因為在精度縮小的過程總會自動四舍五入:
(1.0-0.9).toFixed(digits) // toFixed() 精度參數(shù)須在 0 與20 之間
parseFloat((1.0-0.9).toFixed(10)) === 0.1 // 結(jié)果為True
parseFloat((1.0-0.8).toFixed(10)) === 0.2 // 結(jié)果為True
parseFloat((1.0-0.7).toFixed(10)) === 0.3 // 結(jié)果為True
parseFloat((11.0-11.8).toFixed(10)) === -0.8 // 結(jié)果為True
方法提煉
// 通過isEqual工具方法判斷數(shù)值是否相等
function isEqual(number1, number2, digits){
digits = digits == undefined? 10: digits; // 默認精度為10
return number1.toFixed(digits) === number2.toFixed(digits);
}
isEqual(1.0-0.7, 0.3); // return true
// 原生擴展方式，更喜歡面向?qū)ο蟮娘L格
Number.prototype.isEqual = function(number, digits){
digits = digits == undefined? 10: digits; // 默認精度為10
return this.toFixed(digits) === number.toFixed(digits);
}
(1.0-0.7).isEqual(0.3); // return true
相關文章
讓光標默認停留在INPUT框中，用focus方法可以實現(xiàn)，下面有個示例代碼，需要的朋友可以參考下2014-07-07
這篇文章主要給大家分享了24個實用JavaScript?的開發(fā)技巧，文章圍繞JavaScript?的開發(fā)技巧講解展開全文，具有一定的參考價值,需要的朋友可以參考一下，希望對你有所幫助2021-12-12
這篇文章主要介紹了JS兩種類型的表單提交方法,結(jié)合實例形式分析了2種常用的表單提交驗證的實現(xiàn)技巧,具有一定參考借鑒價值,需要的朋友可以參考下2016-11-11
HTML標簽中的select在使用過程中很頻繁，在本文將為大家介紹下使用js是如何操作的，下面有個不錯的示例，感興趣的朋友不要錯過2013-10-10
這篇文章主要為大家詳細介紹了js實現(xiàn)表單校驗功能，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-08-08
這篇文章主要為大家詳細介紹了圖片懶加載imgLazyLoading.js的使用方法，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2018-01-01
use jscript with List Proxy Server Information
use jscript with List Proxy Server Information...2007-06-06
這篇文章主要為大家詳細介紹了原生JS實現(xiàn)文件上傳，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2022-07-07
這篇文章主要為大家詳細介紹了js實現(xiàn)簡單放大鏡特效，文中示例代碼介紹的非常詳細，具有一定的參考價值，感興趣的小伙伴們可以參考一下2021-03-03
本篇文章主要介紹了詳解tween.js的使用方法，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-09-09