1. PTT
  2. Grad-ProbAsk

[理工] 计组 上册 P.234

楼主: ddd23236 (James)   2017-10-14 14:53:34
请问一下(d)将整数用浮点数表示
为什么会lose precision ?
http://i.imgur.com/eUaeaqK.jpg
作者: king8313   2017-10-14 15:23:00
把32bit二进制整数先平移成左边只留下一个1，就会发现你的mantissa可能不够表示小数点后的位数。应该是这样
楼主: ddd23236 (James)   2017-10-14 15:45:00
了解 题目应该写成...may lose precision比较好xD谢谢king8313
继续阅读
[征求]征圣经本:资料结构,作业系统,计组,算法a5204860[理工] 计组 split cache/combined cache观念clonsey1314Re: [理工] 104清大离散 分堆Honor1984[理工] 104清大离散 分堆king8313[离散］［图论］6-141第81题awilliea[理工] 计组 第四章的问题b4824583[理工] 计组-下册P.23练习nihonn714[理工] 离散 证明 (0，1)是不可数集sooge[理工] 离散 同余qwer911[理工] [电磁学]-传输线tyo1232000

Links booklink

Contact Us: admin [ a t ] ucptt.com