0
当我尝试在我的代码中计算700*0.7时，结果出错。 控制台显示489.99999999999994尽管正确的结果是490.我真的不明白这是什么魔术。任何人都可以澄清它吗？其他数字正常计算。 P.S.你可以在控制台的chrome中试试这个。 example1在控制台中出现错误结果
A
回答
0
这是一些浮点数的问题：http://floating-point-gui.de/
刚轮的结果，应该是不错的。 :)
0
浮点算术并不总是100％准确。处理浮点数时，使用标准的数学库函数可以100％确定结果。
相关问题
- 1. 在eclipse控制台出现错误致命错误
- 2. 控制台输出错误
- 3. 控制台中出现错误，但显示在浏览器中
- 4. postgresql每10秒在控制台中出现错误
- 5. 为什么我在控制台中出现ImageIO错误？
- 6. 在iPad应用程序的控制台中出现错误
- 7. 打印System.out.println（）结果在控制台中
- 8. 在控制台上添加EditText时出现Android XML错误
- 9. 为什么会出现在Xcode控制台此CPSqliteStatementPerform错误
- 10. 控制台输出以错误的顺序出现
- 11. 结果从控制台
- 12. 在Rails控制台中测试模型关联时出现奇怪的结果
- 13. 在控制台中添加密钥限制后出现'NoApiKeys'错误
- 14. 控制器操作的Ajax帖子在Chrome控制台中出现“500（内部服务器错误）”错误
- 15. FQL控制台抛出“行动”错误
- 16. jsFiddle抛出控制台错误
- 17. Rails的控制台抛出错误
- 18. Worklight Appcenter控制台给出错误
- 19. 抑制控制台错误
- 20. 控制台结果在视图
- 21. 结果出现在Firefox的控制台，但没有在浏览器
- 22. 打开连接时出现PouchDB Chrome控制台错误
- 23. 当它发现错误时，Eclipse控制台自动弹出
- 24. System.import使用导致我的控制台出现多个错误
- 25. 控制台窗口出现403（禁止）错误
- 26. AngularJS ng-repeat不会重复出现任何控制台错误
- 27. AngularJS Bootstrap - 控制台出错
- 28. 如何抑制输出:: system（“del * .log”）出现在控制台中
- 29. 春ManagedAttribute出现在JMX控制台
- 30. 在Eclipse中使用StatET插件运行rj控制台时出现rj错误
[详细说明]（https://stackoverflow.com/a/21895757/540352） – Laoujin
可能重复[为什么浮点数不准确？]（https://stackoverflow.com/questions/21895756/why-在浮点号码，不准确） –