[请问] excel会有奇怪的计算结果

楼主: andy90498 (枫情)   2019-06-09 09:15:28
用VBA写了一个计算分数的东西
原本看起来没什么问题
但是有几格会多出很多莫名的小数点后好多位数
非常突兀
而且省略小数点或是无条件进位都不是我要的结果
所以我特地把最后加总的分数拆开来
并用msgbox表现出来
总共分三节
xxxx1 = 前半段
xxxx2 = 剩余的后半段
xxxx3 = 把前面两段加总起来
如图
https://i.imgur.com/Icq5s0O.png
得到xxxx1的结果为
https://i.imgur.com/X5UvpgY.png
得到xxxx2的结果为
https://i.imgur.com/Z0ZKoUR.png
得到xxxx3的结果为
https://i.imgur.com/lQtfRMQ.png
求救
请问-15+15要怎么样才能得到1.4多的结果.......
作者: OrzOGC (洞八达人.拖哨天王)   2019-06-09 09:27:00
1.4x10的-14次方,应该是精度问题
作者: sa12e3   2019-06-09 10:21:00
office板或许会比较容易得到 您要的答案。个人认为也是精准度的设定造成了误差。
作者: KEKEKUO   2019-06-09 11:02:00
><
作者: newacc (XD)   2019-06-09 11:15:00
google浮点误差是电脑二进制造成的问题,目前没有完美解决方案,可以用“小数点后n位四舍五入”做处理
作者: sa12e3   2019-06-09 11:44:00
解决方案应该是用一个字段来处理浮点数且需要搭配回圈使用。
作者: wray (Rayf)   2019-06-09 20:41:00
这是正常的。你最后得到的数也是极为接近0的数。或许如楼上所说,加个四舍五入之类的来处理吧。

Links booklink

Contact Us: admin [ a t ] ucptt.com