首页 新闻 搜索 专区 学院

解决javascript的Math.pow()误差问题

0
悬赏园豆:10 [已解决问题] 解决于 2013-02-22 15:34

发现javascript的Math.pow()的计算结果存在误差,比如12*Math.pow(10, -1)的输出结果是1.2000000000000002,怎样才能让Math.pow()输出精确的结果,需要用Math.pow()进行大量计算,求帮忙!

灿飞屋的主页 灿飞屋 | 初学一级 | 园豆:5
提问于:2013-02-19 14:12
< >
分享
最佳答案
0
var n = 12 * Math.pow(10, -1);
        alert(FormatFloat(n, 1));

        function FormatFloat(f, d) {
            var m = Math.pow(10, d);
            return parseInt(f * m, 10) / m;
        }
收获园豆:10
Rich.T | 老鸟四级 |园豆:3440 | 2013-02-19 14:30
其他回答(1)
0

toPrecision

Yu | 园豆:12950 (专家六级) | 2013-02-19 14:36
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册