[算表] IF数值判断错误 hnjm8596 PTT批踢踢实业坊

[算表] IF数值判断错误

楼主: hnjm8596 (帅帅a淫虫) 2022-05-26 19:17:56

软件: Excel
版本:365
利用IF进行数值的判断，数值比较大的到时候就会显示错误，如同下面两张图。
当利用500.1-500 会显示Fail但是利用200.1-200时又会显示pass,请问要怎么解决这个问题
呢？
https://i.imgur.com/Zjze3vs.jpg
https://i.imgur.com/bO98htR.jpg

作者: kinomon (奇诺 Monster) 2022-05-26 19:52:00

B1的500.10是否为显示进位后的结果?或A1是否为显示舍去后的结果即C1真的是0.1吗?

楼主: hnjm8596 (帅帅a淫虫) 2022-05-26 19:58:00

k大因为500和500.1是自己手动输入上去的，所以应该不是显示进位的问题。

作者: kinomon (奇诺 Monster) 2022-05-26 20:38:00

噢是<=的关系不对我搞错应该是excel计算精度的关系你可以用round函数舍去浮点数

作者: newacc (XD) 2022-05-26 21:20:00

猜浮点误差，用ROUND试试看

作者: suaveness (éœå¤) 2022-05-26 21:20:00

同上，这是 Numeric precision 的问题，某种程度上算是Excel 的一个 bug，请用 round 处理掉你可以用评估公式，应该会看到两个值实际上都不是 0.1

作者: mddc62 (多笨多健康) 2022-05-26 23:34:00

不只是excel 很多数据库都有类似问题

作者: suaveness (éœå¤) 2022-05-27 00:03:00

毕竟是国际标准，基本上都会有这个问题

楼主: hnjm8596 (帅帅a淫虫) 2022-05-27 06:35:00

了解，感谢以上各位的回答！

继续阅读

征求 office 365 家庭版成员gaea0127 诚征office 365序号TylerBeer [算表] excel大写数字一转小写数字1tezn [问题] excel 用储存格名称存盘kihg [问题] VBA串接reurl缩址的APIrj5871224 [算表] 微软官网的Excel公式和函数教学好用吗？afsmart [问题] EXCEL CTRL+V贴上了奇怪的方框mosquiton [问题] excel 抓取多个档案之数值mayur820323 [问题] 累加不月份的数值h02158 [文件] 急 ppt已存盘该如何恢复以前版本？TimYu930218