首页 新闻 搜索 专区 学院

double - int 转换时的一个奇怪问题

0
悬赏园豆:10 [已解决问题] 解决于 2012-11-26 11:04

碰到一个奇怪的BUG,如下代码

double a =0.58 ;
int b = (int)(a * 100);

结果是b=57,
因为a*100 = 57.9999993

为什么?实在想不通。(目前只发现57,58存在这个问题)

C#
Müller的主页 Müller | 初学一级 | 园豆:122
提问于:2012-11-22 10:25
< >
分享
最佳答案
0

http://www.cnblogs.com/HarryHuang/archive/2010/03/21/1690910.html

浮点数的表示法问题。

可以换成 decimal 来避免此问题。

收获园豆:7
Launcher | 高人七级 |园豆:45045 | 2012-11-22 10:59

谢谢,解决倒是很容易,就是不知道为什么。而且不是每个数都这样。

Müller | 园豆:122 (初学一级) | 2012-11-23 09:34

@Müller: 这个问题说起来比较复杂,涉及到浮点数的二进制表示法,如果你有时间的话,可以转成二进制后再来计算,你就会发现问题了。顺便提一句,结果和第一位小数是 5 相关。

Launcher | 园豆:45045 (高人七级) | 2012-11-23 10:11
其他回答(2)
1

不仅是在C#中有这样的问题,在java中也会存在这样的问题,这是double的精度丢失问题

http://www.cnblogs.com/hongten/archive/2012/11/22/java_double.html

希望大家多多交流:hongtenzone@foxmail.com

收获园豆:1
Hongten | 园豆:1768 (小虾三级) | 2012-11-22 11:11
0

double a =0.58 ;

这个在计算机中可能表示为0.58000000000

也有可能是 0.579999999999

收获园豆:1
chenping2008 | 园豆:9836 (大侠五级) | 2012-11-22 13:06
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册