各位大大
关于float的精度问题
课本上说float的精度在小数点后六位,也就是说最小可以表示到0.000001(10^-6)
但IEEE754的格式,最小的正数如下
0 00000000 00000000000000000000000
既为1*2^-127
其结果化成10进位为2^-127,比10^-6小那么多
是我对精度的理解错了吗
因为课本上写是因为IEEE格式小数占了23bit,
2^23=8388608,比10^6还小,但比10^7大
麻烦各位!