[问题] python 精准度问题

楼主: sb710031 (@@)   2015-02-11 14:31:25
因为需要高精度的运算 所以我查到了 decimal 这个物件
可是我照着用 却没有效果 不知是什么问题 @@
http://ppt.cc/sqDa
可以看的到 红色的部分就不一样了
谢谢
作者: mikapauli (桜花)   2015-02-11 15:58:00
你输入的是float,改用string就好
作者: duncanusn (一个绝地男)   2015-02-11 17:53:00
最近也遇到高精度运算问题~~decimal(str(...))
作者: timTan (用口头禅区分年记)   2015-02-12 19:13:00
x = decimal.Decimal('7.354823617778974389274981374')上面那样的形式才对

Links booklink

Contact Us: admin [ a t ] ucptt.com