首页 新闻 会员 周边

VS的Bug?

0
悬赏园豆：5 [已解决问题] 解决于 2011-04-26 09:24

0.8-0.08=0.7200000****8?

问题补充： 不明白楼上的意思！
angtianqiang的主页 angtianqiang | 初学一级 | 园豆：110
提问于：2011-03-31 15:28
< >
分享
最佳答案
0

去找找浮点数在内存中的存储方式看看就明白了，主要是由于十进制转换二进制后存储到内存中有一些位的强制性舍去造成的

Kanone | 初学一级 |园豆：150 | 2011-03-31 23:51
其他回答(1)
0

浮点数精度问题，一切IEEE标准的浮点数都有这问题，不是任何IDE或者语言层面的事

收获园豆：5
Gray Zhang | 园豆：17610 (专家六级) | 2011-03-31 15:54
不明白
支持(0) 反对(0) angtianqiang | 园豆：110 (初学一级) | 2011-03-31 21:30
清除回答草稿
   您需要登录以后才能回答，未注册用户请先注册。