[问题] Javascript 诡异的计算问题

楼主: anawak (...)   2013-12-08 06:37:02
刚发现表单数值有一个诡异的数字: 0.35000000000000003
后来发现竟然是 350 * 0.001 算出来的结果。
多试了几组数字:
340*0.001=0.34
341*0.001=0.341
342*0.001=0.342
343*0.001=0.343
344*0.001=0.34400000000000003
345*0.001=0.34500000000000003
346*0.001=0.34600000000000003
347*0.001=0.34700000000000003
348*0.001=0.34800000000000003
349*0.001=0.34900000000000003
350*0.001=0.35000000000000003
351*0.001=0.35100000000000003
352*0.001=0.352
353*0.001=0.353
354*0.001=0.354
355*0.001=0.355
为什么 344 到 351 之间的数字,乘上 0.001 会跑出那样的结果?
跟二进制近似值什么的有关吗?
IE, Firefox, Chrome 都一样。
有没有什么规律?该怎么去掉小数点尾巴那个 3 ?
程式码
<script>
cal=340*0.001; document.write('340*0.001='+cal+'<BR>');
cal=341*0.001; document.write('341*0.001='+cal+'<BR>');
cal=342*0.001; document.write('342*0.001='+cal+'<BR>');
cal=343*0.001; document.write('343*0.001='+cal+'<BR>');
cal=344*0.001; document.write('344*0.001='+cal+'<BR>');
cal=345*0.001; document.write('345*0.001='+cal+'<BR>');
cal=346*0.001; document.write('346*0.001='+cal+'<BR>');
cal=347*0.001; document.write('347*0.001='+cal+'<BR>');
cal=348*0.001; document.write('348*0.001='+cal+'<BR>');
cal=349*0.001; document.write('349*0.001='+cal+'<BR>');
cal=351*0.001; document.write('351*0.001='+cal+'<BR>');
cal=352*0.001; document.write('352*0.001='+cal+'<BR>');
cal=353*0.001; document.write('353*0.001='+cal+'<BR>');
cal=354*0.001; document.write('354*0.001='+cal+'<BR>');
cal=355*0.001; document.write('355*0.001='+cal+'<BR>');
</script>
作者: juicyroach (发呆过生活)   2013-02-08 10:36:00
个人猜测是rounding error
作者: CaptainH (Cannon)   2013-02-08 11:25:00
浮点数会有精度问题 所有语言都一样
作者: mrbigmouth (大嘴先生)   2013-02-08 12:26:00
运算前先化为整数即可
作者: danny8376 (钓到一只猴子@_@)   2013-02-08 12:39:00
楼上... 这边就是小数运算 化整数要算啥啊...总之上面都有推到了 可以的话你改 /1000 就没这问题了
作者: TonyQ (自立而后立人。)   2013-02-08 13:37:00
这问题标准解之一是转整数运算没错。只是要运算的话,抓一下你精度要到小数几位处理就好。
作者: dlikeayu (太阳拳vs野球拳)   2013-02-08 14:00:00
用整数算 +1
作者: OnlyRD (里巷人)   2013-02-17 03:35:00
Q format.

Links booklink

Contact Us: admin [ a t ] ucptt.com