首页新闻找找看学习计划

如何处理java的Math.pow()计算的误差

0
悬赏园豆:10 [已解决问题] 解决于 2013-02-22 15:33

Java中12*Math.pow(10, -1)的计算结果是1.2000000000000002,怎样让幂计算得出正确的结果,项目中有大量类似的幂计算。

灿飞屋的主页 灿飞屋 | 初学一级 | 园豆:5
提问于:2013-02-19 16:11
< >
分享
最佳答案
1

我记得用Math.pow参数必须为正,所以最好判断一下是否为正数,如果为负数,可以先转为分数计算,如:Math.pow(10, -2)应该写为Math.pow(1/10, 2)

收获园豆:10
IT职涯 | 菜鸟二级 |园豆:223 | 2013-02-19 18:45
其他回答(1)
0

不知道java有没有像c#一样的decimal类型

chenping2008 | 园豆:9836 (大侠五级) | 2013-02-20 09:59
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册