各位前辈大大好,小弟新手遇到floating point转fixed point问题
拜读先前学长留下资料 fixed_point=(fix(d*2^k))/2^k ; % k为小数点位数
倘若小数点预计取三位,下面范例运算完结果 -1.125~=110.110 (-1.125=110.111)
想请教各位前辈为什么结果二边不相等呢?
ex. Decimal Binary
-1.135456 110.1101110101........
x2^3 x1000
-9.083648 110110.1110101........
fix(-9.083648)=-9 fix(110110.1110101........)=110110
/2^3 /1000
-1.125 110.110