[算表] VBA数字比大小问题

楼主: jamhuang (扣武桑)   2016-06-16 08:58:28
软件:EXCEL
版本:2010
直接附图
http://i.imgur.com/HTOLN3I.jpg
为啥1000会大于1000啊@@
是跟资料的类型有关吗?
C是double
D是intenger
所以C会有未知的小数点跑出来这样吗@@
有请大大开示
作者: soyoso (我是耀宗)   2016-06-16 09:25:00
应是浮点数问题,可设msgbox c-dhttps://imgur.com/tkL2Wlt如取整数,可将变量c宣告为integer或long或以int(取整数)、round(四舍六入)、worksheetfunction.round(四舍五入)宣告为integer或long如遇小数位,进位方式同上述rounddouble类型的资料不一定都会有小数位的出现例如宣告变量c为double,指定为值1000时,就无小数位https://imgur.com/rW6JTLm无宣告时,如有小数位时vba则会判断为double测试上可加上msgbox ab=2.4,会看到这里已产生浮点数错误https://imgur.com/cm4tcwV不正确的结果,就从此处产生

Links booklink

Contact Us: admin [ a t ] ucptt.com