2016-12-01 147 views

回答

3

Python答案等于零到10位有效数字。

-0.00000000000000012246467991473532 
xxxxxxxxxxxyyy 

计算器往往在内部使用约13位数进行计算,但只有10位用于显示。无论哪种方式,计算器的标准都是0。

+0

单精度IEEE浮点数有7位精度;双精度数字有16位数字。 https://en.wikipedia.org/wiki/IEEE_floating_point – duffymo

6

e-16意味着* 10^-16,非常接近零(不完美,因为pi是不完美的)。在计算器上,它只是舍入到零。

相关问题