[问题] 浮点数错误 iread PTT批踢踢实业坊

[问题] 浮点数错误

楼主: iread (初夏预言) 2020-11-02 15:53:21

我刚才在 Spyder 的 iPython console 做简单的加法，会出现浮点数错误。
请问这个计算误差要如何避开或消除？谢谢。
In [5]: 0.86 + 3.2
Out[5]: 4.0600000000000005
In [6]: 3.86 + 0.2
Out[6]: 4.06
https://imgur.com/XpcRrka

作者: oToToT (å±å©) 2020-11-02 16:13:00

改用decimal?

作者: aidansky0989 (alta) 2020-11-02 19:38:00

这很正常，高精度浮点计算要Decimal

作者: jackyhobingo (河马元素表) 2020-11-09 13:20:00

ieee754可以了解一下

继续阅读

[问题] 如何暂停计时器(timer) ?rs6000 [问题] 如何有效率地学习爬虫(台湾股市资讯网)？bunby [问题] 找出部份符合特定字串的html tagkurt80628 Re: [问题] read() {"\"AAA\""}如何转成{'"AAA"'}piligo [问题] read() {"\"AAA\""}如何转成{'"AAA"'}piligo [问题] 同时监控subprocess的方法？energyaxd [问题]如何在云端排程执行.py或者打包好的exe档fghdfh [问题] 内存不足cathy0610 [问题] python input() 如何在slurm中使用?feather2 [问题] 转换wahahaiou