[问题] 传回一个等于或大于的最小整数 alexanjou PTT批踢踢实业坊

[问题] 传回一个等于或大于的最小整数

楼主: alexanjou (盗版神话) 2015-05-22 20:46:12

如题所示我采用彭国伦P635页的CEILING
x3=-5.17E+15
z=x3+20
h=CEILING(ABS(z)/40)
write(*,*) ABS(z)/40 , h
银幕出现 ABS(z)/40=1.295E+14 (正确)
然而 h=-2.147E+9
数字根本不对@ @
是因为数值太大时所导致的错误吗？
谢谢

作者: physbook (路克) 2015-05-23 00:38:00

overflow了，把h宣告成real*8试试看 real*8 :: h

楼主: alexanjou (盗版神话) 2015-05-23 10:28:00

有哦！我每一个变量都是 kind=8

作者: rex0707 (我就是我) 2015-05-23 14:11:00

CEILING的回传值不是一个整数吗? 为什么要宣告成real

作者: terryys (terry) 2015-05-23 17:24:00

CEILING(ABS(z)/40,8)

作者: physbook (路克) 2015-05-24 00:18:00

想问楼上8的意思是什么?

作者: terryys (terry) 2015-05-25 10:27:00

传回的数值是integer(8) 默认应该是integer(4)所以会overflow

继续阅读

[问题] 时间规律变化dreler1 [问题] 插入文字dreler1 Re: [请益] 泰勒式的问题kerwinhui [请益] 泰勒式的问题DennyXu [问题] 如何使用f03gl写Opengl blamda [问题] 关于对变量微分的写法notebook5566 [问题] 阵列的数值忽然会错乱peter308 [问题] 宣告变量可以之后再决定数目?colotck0915 [请益] 电脑的执行速度Ballantine [问题] 矩阵相乘运算速度问题chaosam