1. PTT
  2. C_Sharp

[问题] 乘法溢位问题

楼主: wugymcu (Michael)   2016-08-26 22:31:10
我今天把0.05*423
结果等于21.150000000000002
而不是21.15
请问各位大神为什么会有这个问题？
另外我现在是土法炼钢的使用Math.Round()解决，
请问有更正确的做法吗？
感恩
作者: testPtt (测试)   2016-08-26 22:47:00
我试了没问题
作者: james732 (好人超)   2016-08-26 23:38:00
或许可以查一下IEEE754
作者: wezmag (wezmag)   2016-08-27 00:25:00
用decimal
作者: O187 (187cm)   2016-08-27 11:24:00
用double或float都会有误差
继续阅读
[问题] C# UI设计一问jackwei0117[问题] 关于Lambda语法areyo[问题] 如何修改档案内容的详细资讯HCatPTT[问题] 控件FileUpload的问题kisha024Re: [问题] CssClass 和 classLaluth[问题] 请教asp.net的观念skitty[问题] CssClass 和 classkisha024[问题] C# ++运算子ts00139161[问题] 请教安装程式结束后，显示讯息areyo[问题] 征求 Necrobot(Pokemon Go) 原始码bear0729

Links booklink

Contact Us: admin [ a t ] ucptt.com