[问题] 浮点数 round-off error

楼主: SahsB (SahsB)   2014-11-17 19:56:53
用8-bit form 当例子(not IEEE standard)
假设对下面两个浮点数进行加法
1 110 1011 <- a (-11/4)
+) 0 100 1101 <- b (13/16)
_____________
那在把 b 的指数对齐 a 的过程中
会得到 0 110 0011 还是 0 110 001101?
#即 round-off error 会发生在运算的过程中吗?
#还是运算不受 mantissa 只有四位的限制?
假如是前面的 那算出来会是 -2.0
如果后面就变成 (-15/8)
这样答案就不一样了
请问实际上会是哪一种
有跟浮点数比较熟的板友可以帮忙一下下吗QQ?
先谢谢了~

Links booklink

Contact Us: admin [ a t ] ucptt.com