Re: [请益] 请教AutoCAD 1.255问题

楼主: sjgau (sjgau)   2016-05-25 10:10:51
分享个人的经验
整数的运算结果,绝对没有误差。
浮点数的运算结果,一定会有误差。
double x= 123.456;
储存在 x 里面的二进制表示,分别为
一个bit, 表示x的 +/-
11 个bits, 表示x 的二进制次方的数量级
52个bits , 表示 x 的 0.5 - 1.0 的精确度部分
也就是说, 123.456
作者: comelin99 (jason)   2016-06-07 12:54:00
感谢大大~这边高手好的

Links booklink

Contact Us: admin [ a t ] ucptt.com