首页新闻找找看学习计划

如何清除四舍五入带来的误差

0
悬赏园豆:50 [待解决问题]

用四舍五入的方式计算 第三行的差额不等于第一行减第二行 有什么办法可以清除误差 

IT界的小菜菜的主页 IT界的小菜菜 | 初学一级 | 园豆:112
提问于:2018-04-21 09:38
< >
分享
所有回答(6)
0

在计算之前四舍五入

吴瑞祥 | 园豆:28515 (高人七级) | 2018-04-21 09:45

  这样子误差不会更大吗

支持(0) 反对(0) IT界的小菜菜 | 园豆:112 (初学一级) | 2018-04-21 09:47

@IT界的小菜菜: 误差是1个数和另一个数的区别.你会有一个基准数.

和基准数的不一样.才叫误差.如果基准数变得一样了.自然就没有误差了.

支持(0) 反对(0) 吴瑞祥 | 园豆:28515 (高人七级) | 2018-04-21 15:43
0

这么说吧,如果你想按照找错误的方法做软件,可以保证你永远能有一大堆的错误能找到。

所以问题还是,你接受哪一种错误,错误是在你控制之内还是不受控。

楼上说的方法就是受控的错误。

比如说,金额,打折,总是可能会出现小于分的数字,要么你向下舍位,要么向上,要么四舍五入。

爱编程的大叔 | 园豆:29550 (高人七级) | 2018-04-21 10:05

向下舍位,要么向上,要么四舍五入?能详细说明吗?

支持(0) 反对(0) IT界的小菜菜 | 园豆:112 (初学一级) | 2018-04-21 10:08
0

首先你要明确精确度,乘以精确度,化为整数运算就不会有这种问题

TCG2008 | 园豆:1140 (小虾三级) | 2018-04-21 11:00
0

先计算在化简呗

猝不及防 | 园豆:1153 (小虾三级) | 2018-04-23 08:31
0

先计算,到最后在进行四舍五入吧

华临天下 | 园豆:1151 (小虾三级) | 2018-04-23 09:16
0

个人在做收费类型的时候,都是采用4位,每一个数据在计算之前都进行保留4位,这样算出来的误差会小,也能接受;如果像楼上说的先进行计算再四舍五入,在计算报表时,把费用的数据分摊到每一项时,误差就很大了。

beggar_ | 园豆:18 (初学一级) | 2018-04-23 10:36

这其实还是得看 具体项目的精度 要求。。差额是无法避免的

支持(0) 反对(0) Постой! | 园豆:809 (小虾三级) | 2018-08-09 10:56
清除回答草稿
   您需要登录以后才能回答,未注册用户请先注册