首页 新闻 会员 周边

菜鸟提的问题，看看啊

0
[待解决问题]

Math.Abs(a- b) < 1E-8

 

这句代码  具体是什么意思呢  a，b都是数字

竹子的梦想在路上的主页 竹子的梦想在路上 | 初学一级 | 园豆：76
提问于：2012-08-13 15:48
< >
分享
所有回答(2)
0

浮点数的比较是很难精确的。有精度的误差。并不是我们简单的笔算。

 

a-b的差的绝对值

跟

0.00000001

进行小于的比较

chenping2008 | 园豆：9836 (大侠五级) | 2012-08-13 16:02

我还以为是a和b进行比较

支持(0) 反对(0) 竹子的梦想在路上 | 园豆：76 (初学一级) | 2012-08-13 16:07

我还以为是a和b进行比较    1E-8是不是可以看成0了？

支持(0) 反对(0) 竹子的梦想在路上 | 园豆：76 (初学一级) | 2012-08-13 16:10

@鱼翠: 

这个怎么说呢，也可以算是吧，所以浮点数的比较是没有精确可言的。

支持(0) 反对(0) chenping2008 | 园豆：9836 (大侠五级) | 2012-08-13 16:42
0

判断a-b的绝对值是否小于1乘以10的-8次方

DoTop-DoIT | 园豆：208 (菜鸟二级) | 2012-08-13 16:05

我还以为是a和b进行比较

支持(0) 反对(0) 竹子的梦想在路上 | 园豆：76 (初学一级) | 2012-08-13 16:07

我还以为是a和b进行比较    1E-8是不是可以看成0了？

支持(0) 反对(0) 竹子的梦想在路上 | 园豆：76 (初学一级) | 2012-08-13 16:10
清除回答草稿
   您需要登录以后才能回答，未注册用户请先注册。