为什么会有这样的误差？

wulingaoshou · 发表于 2005-4-16 14:57:02

我的系统是debian linux,内核为Linux debian 2.6.8-1-i386,gcc版本为3.3.5，CPU为P4 1.8A。我用gcc编译了一个计算123.59-30的C程序，运行结果为93.589996，但正确的应当是93.59，为什么会出现这种偏差？

masterdemon · 发表于 2005-4-16 16:57:26

你应该用了float。对float来说123.59 == 123.589996。这是单精度浮点数的精度造成的。你用double就没事了。

其实，不管什么精度的浮点数，都不度应该直接去比较大小。应该设一个epsilon。只要abs(a - b)<=epsilon就认为是相等了。

wulingaoshou · 发表于 2005-4-16 18:51:02

的确是float的问题。感谢你指点，我差点就不想用gcc了。

艾斯尼勒 · 发表于 2005-4-17 03:58:13

啊!深奥,长知识!头一次听说,看来数字逻辑白学了

soloforce · 发表于 2005-4-17 07:54:19

计算机里头任何精度都是有限的。

acguy · 发表于 2005-4-17 09:51:02

这是10进制与二进制小数转换的问题。
改成double也一样，只不过更接近而已。

		自动登录	找回密码
密码			注册