博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
float 的不确定性
阅读量:4613 次
发布时间:2019-06-09

本文共 731 字,大约阅读时间需要 2 分钟。

很多时候,大家都知道,浮点型这个东西,本身存储就是一个不确定的数值,你永远无法知道,它是 0 = 0.00000000000000123 还是 0 = 0.00000000000999这样的东西。也许一开始使用的时候没有问题,但是有时候做统计的时候,就会看出端倪

简单的举个例子,就知道统计的时候,有可能出现意外的效果,导致可能需要存储过程或者接收程序的代码左额外的取舍数位的处理,所以在此其实我是推荐使用Numeric来替代float进行一个替代使用,避免一个sum ,然后明明明细看每一条数据都是正常的2,3位小数,一汇总就变成了8,9位的样子

CREATE TABLE #T (ID INT IDENTITY,Va FLOAT)CREATE TABLE #T1 (ID INT IDENTITY,Va NUMERIC(15,9))--分开执行-------------------------------------------------INSERT INTO #T        ( Va )VALUES  ( 0.60000000)INSERT INTO #T1        ( Va )VALUES  ( 0.60000000)GO 100SELECT SUM(Va) FROM #TSELECT SUM(Va) FROM #T1----------------------60.0000000000001(1 行受影响)---------------------------------------60.000000000(1 行受影响)

 

转载于:https://www.cnblogs.com/Gin-23333/p/7227988.html

你可能感兴趣的文章
CSS——水平/垂直居中
查看>>
Eclipse连接mysql数据库jdbc下载(图文)
查看>>
Python中Selenium的使用方法
查看>>
三月23日测试Fiddler
查看>>
20171013_数据库新环境后期操作
查看>>
poj 1654 && poj 1675
查看>>
运维派 企业面试题1 监控MySQL主从同步是否异常
查看>>
Docker 版本
查看>>
poj 1753 Flip Game
查看>>
在深信服实习是怎样的体验(研发测试岗)
查看>>
Linux免密码登陆
查看>>
SpringMVC中文件的上传(上传到服务器)和下载问题(二)--------下载
查看>>
Socket & TCP &HTTP
查看>>
osip及eXosip的编译方法
查看>>
Hibernate composite key
查看>>
[CF Round #294 div2] D. A and B and Interesting Substrings 【Map】
查看>>
keepalived+nginx安装配置
查看>>
我的2015---找寻真实的自己
查看>>
android编译遇到问题修改
查看>>
解决Ubuntu18.04.2远程桌面Xrdp登录蓝屏问题
查看>>