[讨论] FIX计算

楼主: lenend (END)   2016-11-21 12:38:57
各位安安
想请教我有一个值3.12
我想取小数点第二位的值
所以我用FIX计算
A = (z*10-fix((z*10)))/10; 这是我的写法
计算出来是显示A = 0.020000
但是我用0.02-A后 出来的值是 -2.8449e-16
为什么不会是等于0 原因为何? 请各位大大赐教 谢谢
作者: mingyan0211 (抓绵羊)   2016-11-27 00:39:00
format long

Links booklink

Contact Us: admin [ a t ] ucptt.com