最近在读计概
有一块地方我不是很清楚
那就是"舍位误差"(truncation error)
比如说0.3好了(十进制)
0.01001
用定点数来看
假设8bit的数字
bit4~7表示小数
得小数部分0.1001 (二进制)
但因超过4digit( 8 digit 代表正负)
经过舍位 变成 0100
而这里就是我想问的
第五位是1 为什么不可以进位成0101
而是 0100 呢?
感谢回答!