2012-08-09 91 views
0

我收到以下表达式的警告消息。输出精度降低到操作数的精度

(400*ev.PageBounds.Width)/2400 

警告消息是输出精度降低到操作数的精度。

为什么?我可以忽略它吗?

感谢,

回答

2

只需使用更广泛的精度操作数:

(400.0*ev.PageBounds.Width)/2400.0 

或丢掉。

(((double)400)*v.PageBounds.Width)/(double)2400 

等。注意,这是400什么决定了结果的类型,你可以跳过铸造2400

编辑:不,总的来说你不应该忽视它。该消息警告说,将BLAH除以2400可能会导致将被截断的分数。 IE浏览器。二千四分之三千五= 1,这将在这样的方式来完成,当你所有的操作数都是不可或缺的,例如:

2 * 4/10 * 10 ==== 0 

2 * 4.0/10 * 10 ==== 8