最近在看《C#本质论》,上面讲输出1.618033988749895就会1.61803398874989,最后一位会丢失。然后又Ronud-Trip格式化,讲了一个例子,代码如下:
const double num = 1.618033988749895;
double re;
string te;
te = string.Format("{0}", num);
re = double.Parse(te);
System.Console.WriteLine("{0}: re != num", re != num);
te = string.Format("{0:R}", num);
re = double.Parse(te);
System.Console.WriteLine("{0}: re = num",re == num);
运行结果:True:re !=num
True: re== num
我就有疑问了,num被赋值后,输出时会丢失一位,即丢失5,那,num的值在存入计算机中时,是按15位的存的还是16位存的,也就是最后一位5有没有被存入?假如存入了5,那么是不是在一般情况下使用num的值时不包括5啊,比如输出num值时输出的数不包括5。
使用“{0:R}”时,会与原来数值相比较,原来的数是指存入的数还是还是代码中的数啊?
存进去了,只是读的时候没读出来
你也说了,只有在输出的时候才少一位。那在内存中还是1.618033988749895,比的时候自然相等。
添加
Console.WriteLine("num={0:R}", num);
Console.WriteLine("te={0}", te);
Console.WriteLine("re={0:R}", re);
True: re != num
num=1.6180339887498949
te=1.61803398874989
re=1.61803398874989
True: re = num
num=1.6180339887498949
te=1.6180339887498949
re=1.6180339887498949
可以看出,从num.ToString()的时候精度丢失了, 但是num.ToString("R")的时候没有丢失后面的两位。msdn:
http://msdn.microsoft.com/zh-cn/library/kfsatb94(VS.95).aspx
默认情况下,返回值只包含 15 位精度,但内部维护的最大精度是 17 位。如果此实例的值超过 15 位,则 ToString 返回 PositiveInfinitySymbol 或 NegativeInfinitySymbol,而不是预期的数字。如果要求更高的精度,请用"G17"或"R"格式规范指定 format;前一种格式总是返回 17 位精度;而后一种格式在数字可以用 15 位精度表示时返回 15 位精度,在数字只能用最大精度表示时返回 17 位精度。
我想默认显示15位的原因是:一般来说,第17位是不可靠的,但第16位是可靠的,但是17位的不确定性进位会造成16位也不可靠,所以显示第15位