我理解为什么float会有误差值
但是今天朋友讨论一件事情
if (float_var == 1.0f) 这样写到底有什么错(我认知是 这样写 变量的值要完全跟1.0
四个byte的memcmp要一样)
1. 在误差范围内 (https://en.cppreference.com/w/cpp/types/numeric_limits/epsilo
n)
如果是趋近于1的数字 我这样判断会失败 导致逻辑错误? 所以因为这样条件太严苛
对于经过运算后的float数值 很可能有一点点误差产生就不成立了?
2. 如果是要完全的相等 , 我能把一个float 一个byte一个byte判断是否相等来判断是不
是等值吗?
例如
typedef union
{
float value;
unsigned char bytes[4];
} IEEE754;
IEEE754 one;
one.value = 1.0f;
IEEE754 target;
target.value = input;
然后memcmp 两者的bytes
还是 float 的== 实作上就是byte compare?
3. 浮点数运算出现误差,可以理解成 当除不尽 或是 除完小数点超过二进制小数 23位
无法表示
就会产生误差?
4. 因为看不懂std::numeric_limits<T>::epsilon 的那个almost_equal在干嘛 所以找了
一下
https://stackoverflow.com/a/17341/588477
这篇的方法好像是有道理但是请看以下测试
https://ideone.com/MH6jJW
我看VC直接写
#define FLT_EPSILON 1.192092896e-07F // smallest such that 1.0+FLT
_EPSILON != 1.0
GCC我用gcc -E -dM 去dump (我不知道为什么找不到定义???怎么解释 https://tinyurl.
com/y8heekq8 )
#define __FLT_EPSILON__ 1.19209289550781250000e-7F
奇怪为什么会是这样
a. stackoverflow的作法错了?
b. 为什么会把差值当成相等?
c. 到底这个epsilon 最应该用在哪里呢?
d. 是不是把almost_equal当成一个正解 才是正确的浮点数比较相等呢?
我用以下tool 把 epsilon 看他hex form 反推一下
他是2^-23 = 0.00000011920928955078125f乍看之下跟gcc定义一致
https://www.h-schmidt.net/FloatConverter/IEEE754.html
观念上有些错误
请大家修正一下
谢谢