[问题] decimal 运算结果不正确

楼主: ttsmarco (tts)   2015-01-14 22:43:50
最近遇到个很奇怪的现象
假设程式码为:
decimal int_A = decimal.Parse("1000");
decimal int_B = 10;
decimal report_num = int_A - int_B;
label1.Text = report_num.ToString();
1000与10只是举例,A与B实际上都是0~10000以内的整数
(日后数值可能有小数点下2~3位,所以用decimal)
但运算结果(leabl1)偶尔会不正确,不是多1就是少1
但这不是Double型别才会有的现象吗?
还是问题是出在str转decimal呢?
还请高手指点,3Q
作者: TobyH4cker (Toby (我要当好人))   2015-01-15 12:38:00
测试你的程式码,没遇到此问题,不过我是用 label1.Text = report_num.ToString();
作者: CrazyAngel (无口系天然呆)   2015-01-15 12:52:00
ToString 指定位数应该可以拿到比较精确的数字
楼主: ttsmarco (tts)   2015-01-27 09:39:00
问题还未解决,请问还有什么可能原因呢?

Links booklink

Contact Us: admin [ a t ] ucptt.com