PTT
Submit
Submit
选择语言
正體中文
简体中文
PTT
Cad_Cae
Re: [请益] 请教AutoCAD 1.255问题
楼主:
sjgau
(sjgau)
2016-05-25 10:10:51
分享个人的经验
整数的运算结果,绝对没有误差。
浮点数的运算结果,一定会有误差。
double x= 123.456;
储存在 x 里面的二进制表示,分别为
一个bit, 表示x的 +/-
11 个bits, 表示x 的二进制次方的数量级
52个bits , 表示 x 的 0.5 - 1.0 的精确度部分
也就是说, 123.456
作者:
comelin99
(jason)
2016-06-07 12:54:00
感谢大大~这边高手好的
继续阅读
Re: [请益] 请教AutoCAD 1.255问题
ottoli
[请益] 请教AutoCAD 1.255问题
comelin99
[请益] 直接下载连接器3D网站
minhua
Re: [请益] CAE 不建议?
gomi
[请益] CAE 不建议?
euser1777
[请益] tqc pro/e wildfire 5.0 考试题型
sshelly
Fw: [资讯] 机构设计+产业趋势+面试技巧免(免费课程)
youth123
[请益] FLUENT做网格独立
QOO0838
[请益] AutoCAD 标注 乱跑
erasermyself
[请益] ansys后处理问题请益
jacksas83
Links
booklink
Contact Us: admin [ a t ] ucptt.com