淺談sqlserver下float的不確定性
很多時(shí)候,大家都知道,浮點(diǎn)型這個(gè)東西,本身存儲(chǔ)就是一個(gè)不確定的數(shù)值,你永遠(yuǎn)無(wú)法知道,它是 0 = 0.00000000000000123 還是 0 = 0.00000000000999這樣的東西。也許一開(kāi)始使用的時(shí)候沒(méi)有問(wèn)題,但是有時(shí)候做統(tǒng)計(jì)的時(shí)候,就會(huì)看出端倪
簡(jiǎn)單的舉個(gè)例子,就知道統(tǒng)計(jì)的時(shí)候,有可能出現(xiàn)意外的效果,導(dǎo)致可能需要存儲(chǔ)過(guò)程或者接收程序的代碼左額外的取舍數(shù)位的處理,所以在此其實(shí)我是推薦使用Numeric來(lái)替代float進(jìn)行一個(gè)替代使用,避免一個(gè)sum ,然后明明明細(xì)看每一條數(shù)據(jù)都是正常的2,3位小數(shù),一匯總就變成了8,9位的樣子
CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)
CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))
--分開(kāi)執(zhí)行-------------------------------------------------
INSERT INTO #T
( Va )
VALUES ( 0.60000000)
INSERT INTO #T1
( Va )
VALUES ( 0.60000000)
GO 100
SELECT SUM(Va) FROM #T
SELECT SUM(Va) FROM #T1
----------------------
60.0000000000001
(1 行受影響)
---------------------------------------
60.000000000
(1 行受影響)
總結(jié)
以上就是本文關(guān)于淺談sqlserver下float的不確定性的全部?jī)?nèi)容,希望對(duì)大家有所幫助。感興趣的朋友可以參閱本站:簡(jiǎn)述Redis和MySQL的區(qū)別、ORACLE SQL語(yǔ)句優(yōu)化技術(shù)要點(diǎn)解析、MYSQL子查詢和嵌套查詢優(yōu)化實(shí)例解析等,有什么問(wèn)題可以隨時(shí)留言,小編會(huì)及時(shí)回復(fù)大家。感謝各位對(duì)腳本之家的支持!
相關(guān)文章
sql server 自定義分割月功能詳解及實(shí)現(xiàn)代碼
這篇文章主要介紹了sql server 自定義分割月功能詳解及實(shí)現(xiàn)代碼的相關(guān)資料,需要的朋友可以參考下2016-10-10
case?when?then?else?end語(yǔ)句的用法(附demo)
本文主要介紹了case?when?then?else?end語(yǔ)句的用法,主要介紹了兩種格式,簡(jiǎn)單case函數(shù)和case搜索函數(shù),具有一定的參考價(jià)值,感興趣的可以了解一下2023-10-10
SQL?Server只取年月日和獲取月初月末簡(jiǎn)單舉例
這篇文章主要給大家介紹了關(guān)于SQL?Server只取年月日和獲取月初月末的相關(guān)資料,在SQL?Server中截取日期中的年月可以通過(guò)內(nèi)置函數(shù)來(lái)實(shí)現(xiàn),文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2024-01-01
SQL?Server數(shù)據(jù)庫(kù)之表的高級(jí)查詢
這篇文章主要給大家介紹了關(guān)于SQL?Server數(shù)據(jù)庫(kù)之表的高級(jí)查詢的相關(guān)資料,高級(jí)查詢?cè)跀?shù)據(jù)庫(kù)中用得是最頻繁的,也是應(yīng)用最廣泛的,文中通過(guò)代碼介紹的非常詳細(xì),需要的朋友可以參考下2023-08-08
SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法
這篇文章主要介紹了SQL Server中避免觸發(fā)鏡像SUSPEND的N種方法,需要的朋友可以參考下2016-01-01
SQL SERVER 數(shù)據(jù)庫(kù)備份代碼實(shí)例
這篇文章主要介紹了SQL SERVER數(shù)據(jù)庫(kù)備份,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2019-03-03

