1
A
回答
0
要理解这一点,您需要清楚地确定您正在谈论的是什么类型的准确性。它通常是衡量计算过程中出现的错误的一种度量,我怀疑你没有考虑仅以相关浮点格式进行计算。
这些都是回答您的问题:
- 的精度 - 在显著比特数表示 - 在大部分范围内的浮点数是恒定的。 (只适用于非正态数字,精度随着数字变小而降低。)
- 浮点运算的精度准确度通常受精度限制,因此在整个范围内通常是恒定的。看到前面的观点。
- 您可以将十进制数转换为二进制浮点数的准确性对于整数而言会高于对于具有小数分量的数字。这是因为整数可以表示为2的幂的倍数,而小数部分不能表示为2的负幂的倍数。 (典型的例子是0.1在二进制浮点中成为重复分数)。
最后一点的结果是,当您用科学记数法中的稍大的十进制数开始时,例如, 1.123 * 10^4,它们与整数具有相同的值,因此可以精确地转换为二进制浮点。
相关问题
- 1. 双精度和单精度浮点数?
- 2. 浮点精度
- 3. 从字符串分配到精度浮点数
- 4. c中的浮点数和双精度#
- 5. 指定浮点数精度的NSString
- 6. 任意精度JavaScript上的浮点数
- 7. python中精度浮点数的丢失
- 8. Python数组中的浮点精度
- 9. 双精度浮点数如何转换为单精度浮点格式?
- 10. 单精度大端浮点值到Python浮点数(双精度,大端)
- 11. 在Swift中将半精度浮点数(字节)转换为浮点数
- 12. 范围缩减精度不高的单精度浮点数
- 13. 标准双精度IEEE浮点数有多少位的精度?
- 14. C++浮点精度
- 15. 与浮点精度
- 16. haskell浮点精度
- 17. XMLSerialization浮点精度
- 18. 单精度浮点数仿真
- 19. 打印最大单精度浮点数
- 20. C++圆浮点数来设置精度
- 21. 高精度打印结果(浮点数)
- 22. 将双精度转换为浮点数
- 23. IEEE-754单精度浮点数mips
- 24. Objective-C浮点数/双精度
- 25. 十进制到半精度浮点数
- 26. 浮点数减法精度差
- 27. 浮点数,精度,秒差距
- 28. 存储具有单精度浮点变量的分数
- 29. 双精度浮标的双精度数字
- 30. python中的浮点精度