在计算之前四舍五入
这样子误差不会更大吗
@IT界的小菜菜: 误差是1个数和另一个数的区别.你会有一个基准数.
和基准数的不一样.才叫误差.如果基准数变得一样了.自然就没有误差了.
这么说吧,如果你想按照找错误的方法做软件,可以保证你永远能有一大堆的错误能找到。
所以问题还是,你接受哪一种错误,错误是在你控制之内还是不受控。
楼上说的方法就是受控的错误。
比如说,金额,打折,总是可能会出现小于分的数字,要么你向下舍位,要么向上,要么四舍五入。
向下舍位,要么向上,要么四舍五入?能详细说明吗?
首先你要明确精确度,乘以精确度,化为整数运算就不会有这种问题
先计算在化简呗
先计算,到最后在进行四舍五入吧
个人在做收费类型的时候,都是采用4位,每一个数据在计算之前都进行保留4位,这样算出来的误差会小,也能接受;如果像楼上说的先进行计算再四舍五入,在计算报表时,把费用的数据分摊到每一项时,误差就很大了。
这其实还是得看 具体项目的精度 要求。。差额是无法避免的