[算表] 数字加总应等于零却不等于零 wplinwp PTT批踢踢实业坊

楼主: wplinwp (阿绿) 2016-07-29 17:07:56

软件:EXCEL
版本:2007
我刚刚发现一个奇妙的问题。。。

我这一串数字加总之后应该会等于零，但我把数字拉开以后，
发现加总并不是等于零，而是0.00000000026
然后我重新把数字手动输入一遍，
每一个数字都只到小数后两位，这样应该要等于零了吧~~
结果金额不但不是零，还差更多

我新开一个活页簿再输入一次数字也是一样。。。
这到底是怎么回事。。。
(但不要跟我说用ROUND函数就好。。。因为这些数字原本加总就应该等于零才对)

作者: soyoso (我是耀宗) 2016-07-29 17:12:00

应是浮点数的问题，想到的是round来排除，但原文不要用写不要用

楼主: wplinwp (阿绿) 2016-07-29 17:16:00

理论上应该不需要round，其他的我就不太清楚感谢soyoso大师

作者: soyoso (我是耀宗) 2016-07-29 17:21:00

假设这是浮点数的问题，https://goo.gl/HHPxHP，微软支援在修正精确度错误上方法1写到的是round函数

楼主: wplinwp (阿绿) 2016-07-30 09:34:00

但soyoso大师，我这一串数字并不复杂，都只到小数后两位，后面那些零是我后来拉开的感觉不复杂的东西，应该不至于会有运算上的问题

作者: soyoso (我是耀宗) 2016-07-30 09:49:00

那看看版上先进是否有其他解决的方式可提供给原po了

作者: wxtab019 (天霜凝月) 2016-07-30 20:57:00

上面每格看值看看? 刚刚试了打一堆也没这问题

继续阅读