[理工] 计组单精度浮点数 shinle14 PTT批踢踢实业坊

[理工] 计组单精度浮点数

楼主: shinle14 2019-09-11 16:12:32

http://i.imgur.com/DvHo3Hx.jpg
请问这题d为什么对呀？

作者: zuchang (chang) 2019-09-11 16:22:00

只有2的倍数可以表达 0.33这种数只能取相似1/3你没办法精确表示 1/2.1/4这种可以

作者: mathtsai (mathtsai) 2019-09-11 16:37:00

楼上 integer variable？

作者: ok8752665 (dd8752665) 2019-09-11 17:05:00

fraction只有23bit 例如你是30个连续1 后面有一段会被砍掉?

作者: zuchang (chang) 2019-09-11 17:17:00

https://i.imgur.com/qyuwPJm.jpg

楼主: shinle14 2019-09-11 17:39:00

感谢大大回复了解

继续阅读

离散 3-72题zxc2179vbnm [理工] 离散决策树mistel [理工] 算法mistel [理工] 线代第五章是非题mistel [理工] 线性映射shinle14 [理工] 线代题库5-4！Aa841018 [理工] 算法图论 diameterouskit 离散 3-46题zxc2179vbnm [理工] 鸽笼shinle14 [理工] 线代_关于方阵多项式fmtshk

Contact Us: admin [ a t ] ucptt.com