JavaScript 浮點(diǎn)數(shù)運(yùn)算 精度問題
<script type="text/javascript" language="javascript">
alert(1/3);//彈出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
</script>
<script type="text/javascript" language="javascript">
alert(1/3);//彈出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
</script>
[code]
按正常計(jì)算的話,除第一行外(因?yàn)槠浔旧砭筒荒艹M),其他都應(yīng)該要得到精確的結(jié)果,從彈出的結(jié)果我們卻發(fā)現(xiàn)不是我們想要的正確結(jié)果。為了解決浮點(diǎn)數(shù)運(yùn)算不準(zhǔn)確的問題,在運(yùn)算前我們把參加運(yùn)算的數(shù)先升級(jí)(10的X的次方)到整數(shù),等運(yùn)算完后再降級(jí)(0.1的X的次方)。現(xiàn)收集并整理貼于此,以備后用。
加法
Js代碼
[code]
//說明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。
//調(diào)用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結(jié)果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number類型增加一個(gè)add方法,調(diào)用起來更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
//說明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。
//調(diào)用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結(jié)果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number類型增加一個(gè)add方法,調(diào)用起來更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
減法
Js代碼
[code]
//說明:javascript的減法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的減法結(jié)果。
//調(diào)用:accSub(arg1,arg2)
//返回值:arg1減上arg2的精確結(jié)果
function accSub(arg1,arg2){
return accAdd(arg1,-arg2);
}
//給Number類型增加一個(gè)sub方法,調(diào)用起來更加方便。
Number.prototype.sub = function (arg){
return accSub(this,arg);
}
//說明:javascript的減法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的減法結(jié)果。
//調(diào)用:accSub(arg1,arg2)
//返回值:arg1減上arg2的精確結(jié)果
function accSub(arg1,arg2){
return accAdd(arg1,-arg2);
}
//給Number類型增加一個(gè)sub方法,調(diào)用起來更加方便。
Number.prototype.sub = function (arg){
return accSub(this,arg);
}
乘法
Js代碼
//說明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。
//調(diào)用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結(jié)果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number類型增加一個(gè)mul方法,調(diào)用起來更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//說明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。
//調(diào)用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結(jié)果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number類型增加一個(gè)mul方法,調(diào)用起來更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
} 除法
Js代碼
//說明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。
//調(diào)用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結(jié)果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number類型增加一個(gè)div方法,調(diào)用起來更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//說明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。
//調(diào)用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結(jié)果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number類型增加一個(gè)div方法,調(diào)用起來更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
測(cè)試一把
Js代碼
<script type="text/javascript" language="javascript">
/*
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
*/
alert(0.09999999.add(0.00000001));//彈出: 0.1
alert(-0.09999999.sub(0.00000001));//彈出: -0.09999998
alert(0.012345.mul(0.000001));//彈出: 1.2345e-8
alert(0.000001.div(0.0001));//彈出: 0.01
</script>
相關(guān)文章
JavaScript中關(guān)于字符串替換與截取的知識(shí)點(diǎn)匯總
在日常開發(fā)中,經(jīng)常遇到針對(duì)字符串的替換、截取,知識(shí)點(diǎn)比較碎容易混淆,所以本文為大家整理了一下相關(guān)的知識(shí)點(diǎn),希望對(duì)大家有所幫助2023-05-05
自己編寫的支持Ajax驗(yàn)證的JS表單驗(yàn)證插件
創(chuàng)建一個(gè)JavaScript表單驗(yàn)證插件,可以說是一個(gè)繁瑣的過程,涉及到初期設(shè)計(jì)、開發(fā)與測(cè)試等等環(huán)節(jié)。實(shí)際上一個(gè)優(yōu)秀的程序員不僅是技術(shù)高手,也應(yīng)該是善假于外物的。本文介紹的這個(gè)不錯(cuò)的JavaScript表單驗(yàn)證插件,支持ajax驗(yàn)證,有需要的小伙伴可以參考下2015-05-05
Bootstrap table右鍵功能實(shí)現(xiàn)方法
這篇文章主要為大家詳細(xì)介紹了Bootstrap table右鍵功能的實(shí)現(xiàn)代碼,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-02-02
js利用for in循環(huán)獲取 一個(gè)對(duì)象的所有屬性以及值的實(shí)例
下面小編就為大家?guī)硪黄猨s利用for in循環(huán)獲取 一個(gè)對(duì)象的所有屬性以及值的實(shí)例。小編覺得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧2017-03-03
JavaScript實(shí)現(xiàn)隱藏省略文字效果的方法
這篇文章主要介紹了JavaScript實(shí)現(xiàn)隱藏省略文字效果的方法,涉及javascript基于事件響應(yīng)實(shí)現(xiàn)頁面字符串元素的獲取、截取、設(shè)置等相關(guān)操作技巧,需要的朋友可以參考下2017-04-04
JavaScript實(shí)現(xiàn)父子dom同時(shí)綁定兩個(gè)點(diǎn)擊事件,一個(gè)用捕獲,一個(gè)用冒泡時(shí)執(zhí)行順序的方法
這篇文章主要介紹了JavaScript實(shí)現(xiàn)父子dom同時(shí)綁定兩個(gè)點(diǎn)擊事件,一個(gè)用捕獲,一個(gè)用冒泡時(shí)執(zhí)行順序的方法,涉及javascript事件的觸發(fā)與執(zhí)行原理及相關(guān)操作技巧,需要的朋友可以參考下2017-03-03
Javascript中浮點(diǎn)數(shù)相乘的一個(gè)解決方法
這篇文章主要介紹了Javascript中浮點(diǎn)數(shù)相乘的一個(gè)解決方法,需要的朋友可以參考下2014-06-06
JavaScript實(shí)現(xiàn)拖拽元素對(duì)齊到網(wǎng)格(每次移動(dòng)固定距離)
最近在做一個(gè)拖拽元素的附加功能,就是對(duì)齊到網(wǎng)格,實(shí)際上就是確定好元素的初始位置,然后拖拽元素時(shí),每次移動(dòng)固定的距離。讓元素都可以在網(wǎng)格內(nèi)對(duì)齊2016-11-11
JS簡(jiǎn)單添加元素新節(jié)點(diǎn)的方法示例
這篇文章主要介紹了JS簡(jiǎn)單添加元素新節(jié)點(diǎn)的方法,結(jié)合實(shí)例形式分析了javascript針對(duì)頁面元素節(jié)點(diǎn)的創(chuàng)建、添加、克隆等相關(guān)操作技巧,需要的朋友可以參考下2018-02-02

