2016-10-10 136 views

回答

0

要理解这一点,您需要清楚地确定您正在谈论的是什么类型的准确性。它通常是衡量计算过程中出现的错误的一种度量,我怀疑你没有考虑仅以相关浮点格式进行计算。

这些都是回答您的问题:

  • 精度 - 在显著比特数表示 - 在大部分范围内的浮点数是恒定的。 (只适用于非正态数字,精度随着数字变小而降低。)
  • 浮点运算的精度准确度通常受精度限制,因此在整个范围内通常是恒定的。看到前面的观点。
  • 您可以将十进制数转换为二进制浮点数的准确性对于整数而言会高于对于具有小数分量的数字。这是因为整数可以表示为2的幂的倍数,而小数部分不能表示为2的负幂的倍数。 (典型的例子是0.1在二进制浮点中成为重复分数)。

最后一点的结果是,当您用科学记数法中的稍大的十进制数开始时,例如, 1.123 * 10^4,它们与整数具有相同的值,因此可以精确地转换为二进制浮点。