• 闪存
• 博客
• 发言 小组
• 投递 新闻
• 提问 博问
• 添加 收藏
• 文库

解决javascript的Math.pow()误差问题

0

悬赏园豆：10 [已解决问题] 解决于 2013-02-22 15:34

发现javascript的Math.pow()的计算结果存在误差，比如12*Math.pow(10, -1)的输出结果是1.2000000000000002，怎样才能让Math.pow()输出精确的结果，需要用Math.pow()进行大量计算，求帮忙！

Javascript 误差 精度 Math.pow()

灿飞屋 | 初学一级 | 园豆：5
提问于：2013-02-19 14:12

显示帮助

使用"Ctrl+Enter"可进行快捷提交，评论支持部分 Markdown 语法：[link](http://example.com) _italic_ **bold** `code`。

< >

分享

分享您的问题

var n = 12 * Math.pow(10, -1);
        alert(FormatFloat(n, 1));

        function FormatFloat(f, d) {
            var m = Math.pow(10, d);
            return parseInt(f * m, 10) / m;
        }