红宝石加法错误-1.9.2

当我加0.1+0.2我得到0.30000000000000004，但是当我在ruby 1.8.7中添加相同的数字时，我得到正确的答案0.3。我得到0.3四舍五入，但我只是想通过添加0.1和0.2红宝石加法错误-1.9.2

来源

2011-03-24 Sadiksha Gautam

的可能重复的[红宝石：从浮点数转换成整数中红宝石产生奇怪的结果]（http://stackoverflow.com/questions/5255629/ruby从浮点转换到整数在红宝石产生奇怪的结果） – 2011-03-24 22:15:12

您需要bigdecimal才能完成工作。

 
(BigDecimal('0.1') + BigDecimal("0.2")).to_f

见下面链接：

http://redmine.ruby-lang.org/issues/4394

来源

2011-03-24 10:37:54 a5his

''因为它是ruby的bug“' - 这不是一个错误 - 它是浮点运算的方式 - 声称这是一个bug的bug报告被标记为拒绝。 – 2011-08-18 05:20:49

谢谢安德鲁.. – a5his 2011-08-18 10:15:16

你的老红宝石骗你得到ruby 1.9.20.3：

$ ruby -v 
ruby 1.8.7 (2010-06-23 patchlevel 299) [x86_64-linux] 
$ irb 
irb(main):001:0> printf("%40.40f\n", 0.1 + 0.2) 
0.3000000000000000444089209850062616169453 
=> nil

Floating point numbers是非常棘手的野兽。

来源

2011-03-24 06:02:09 sarnold

这是一个有趣的概念：它骗了你，并给你正确的答案，它不应该做到这一点。浮点_s_有趣！ – 2011-03-24 06:04:28

@安德鲁马歇尔，谢谢你的欢笑。 :) – sarnold 2011-03-24 06:06:56

我使用红宝石1.8.7头，而不是patchlevel。 – 2011-03-24 06:13:27

红宝石加法错误-1.9.2

回答

相关问题