[问题] 关于除法的有效位数

楼主: ndmll (ndmll)   2015-07-04 10:11:37
除法的有效位数看法是看"绝对位数"
例如94.61/3.7=25.5702
因为3.7只有两个有效位数 所以答案也取两位 四舍五入后得到26
结果今天遇到这题:
861/7
除完是123(原本答案有三个有效位数)
但是因为7只有一位 所以应该把答案改成只有一个有效位数
所以...答案是100吗?
总觉得哪里怪怪的...
而且用100表示 也不代表有效位数一定是一位吧?
那么这题该怎么办呢...?
作者: BiGiLa (逼机啦)   2015-07-04 10:31:00
首先直接回答问题 你最后的问题用科学记号写就好啦不过实际上遇不到你说的那个例子考虑有效位数 数字来源要是量出来的 所以有些时候不用考虑你那个7不可能是用量的 量出来怎么会只有估计值一位总之看题目叙述 搞不好是常数
楼主: ndmll (ndmll)   2015-07-04 10:56:00
所以如果7是常数的话 答案有效位数就是3位囉?
作者: BiGiLa (逼机啦)   2015-07-04 11:50:00
是啊 很多公式有/整数之类的 像是能阶公式的n这样的计算不会影响有效位数个数的硬要说你例子的7是测量值的话 相当于用10公分刻度的尺量7公分的东西 这种奇怪的事情应该不会出现在考题里
楼主: ndmll (ndmll)   2015-07-04 12:36:00
嗯嗯了解 谢谢你:)

Links booklink

Contact Us: admin [ a t ] ucptt.com