1. PTT
  2. MATLAB

[问题] 浮点数运算问题

楼主: pw1212321 (小狼)   2015-09-16 20:19:19
请问在做浮点数运算的时候，
我将 0.600001 - 0.6 应该要得到 0.000001
但是使用format short 和 format long 所得到的答案不同
作者: sunev (Veritas)   2015-09-16 20:20:00
format 只影响显示方式。
楼主: pw1212321 (小狼)   2015-09-16 20:30:00
请问s大，最后面出现的28756是什么原因造成的？
作者: tn00364361 (小氵斿)   2015-09-16 20:42:00
因为电脑是二进制的系统
作者: celestialgod (天)   2015-09-16 20:51:00
而且储存位数有限
继续阅读
[其他]MATLAB与iPhone/Android整合直播研讨会jaycinta[问题] 噪声如何模拟产生wayne78117[问题] 修改座标不跑图?organ63521[问题] 转换平面图?organ63521[讨论] rc电路der5353[问题]撷取txt档资料vincihihi[问题]档案救援后程式码变乱码 linjin81117[讨论] 请问如何省略某些程式码randysuen[安装] win 8.1安装R2015a错误ts03396208[问题]关于分水岭切割 loveworld705

Links booklink

Contact Us: admin [ a t ] ucptt.com