作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在 Perl 中遇到了一个奇怪的行为。以下减法应产生零作为结果(它在 Python 中这样做):
print 7.6178E-01 - 0.76178
-1.11022302462516e-16
为什么会发生,如何避免?
附言效果出现在“v5.10.0 built for x86_64-linux-gnu-thread-multi”(Ubuntu 9.04)和“v5.8.9 built for darwin-2level”(Mac OS 10.6)
最佳答案
并不是科学记数法对精度的影响,而是以二进制表示的浮点记数法的局限性。查看 perlfaq4 的答案.对于任何依赖底层架构进行数字存储的语言来说,这都是一个问题。
如果您需要更好的号码处理,请查看 bignum语用。
关于perl - 科学计数法会影响 Perl 的精度吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/2056681/
我是一名优秀的程序员,十分优秀!