- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我在将 decimal 转换为 double 时遇到奇怪的问题。
以下代码返回 true:
Math.Round(0.010000000312312m, 2) == 0.01m //true
但是,当我将其转换为 double 时,它返回 false:
(double)Math.Round(0.010000000312312m, 2) == (double)0.01m //false
当我想使用 Math.Pow 并被迫将 decimal 转换为 double 时,我遇到了这个问题,因为 decimal 没有 Math.Pow 重载。
这是记录在案的行为吗?当我被迫将 decimal 转换为 double 时,如何避免这种情况?
来自 Visual Studio 的屏幕截图:
转换 Math.Round 使我的结果加倍:
(double)Math.Round(0.010000000312312m, 2) 0.0099999997764825821 double
(double)0.01m 0.01 double
更新
好的,我正在重现问题如下:
更新 2
不幸的是,我无法在较小的项目中重现该问题。我认为埃里克的回答解释了原因。
最佳答案
人们在这里的评论中报告说,比较的结果有时是真的,有时是假的。
不幸的是,这是意料之中的。 C# 编译器、抖动和 CPU 都被允许以 更多 64 位 double 对 double 执行算术,他们认为合适。这意味着有时看起来“相同”的计算结果可以在一个计算中以 64 位精度完成,在另一个计算中以 80 或 128 位精度完成,并且两个结果可能在最后一位不同。
让我确保您理解我所说的“他们认为合适”的意思。您可以出于任何原因获得不同的结果。您可以在调试和零售中获得不同的结果。如果让编译器在常量中进行计算,而让运行时在运行时进行计算,则会得到不同的结果。当调试器运行时,您可以获得不同的结果。您可以在运行时和调试器的表达式计算器中得到不同的结果。 任何理由。双重算术本质上是不可靠的。这是由于浮点芯片的设计;在不显着降低性能的情况下,这些芯片上的双重运算无法提高可重复性。
出于这个和其他原因您几乎不应该比较两个 double 是否完全相等。相反,减去 double 值,看看差异的绝对值是否小于合理范围。
此外,了解为什么将 double 四舍五入到 两位小数 是一件困难的事情,这一点很重要。非零有限 double 是 (1 + f) x 2e 形式的数字,其中 f 是分母为 2 的幂的分数,e 是指数。显然不可能用这种形式表示 0.01,因为无法从等于 2 的幂的分母中得到等于 10 的幂的分母。
双0.01实际上是二进制编号1.0100011111111111110010001101111111111111101000111111 x 2 -7 ,在十进制中为0.010000000000000000000000000000000020816816817171717172168516851943776776776777702010000000000000000000000000000000000000000000000000000000000000000000000000000000000。这是最接近你可能在 double 中达到 0.01 的值。如果您需要准确表示该值,则使用小数。这就是为什么它被称为十进制。
顺便说一下,我已经在 StackOverflow 上多次回答过这个问题的变体。例如:
此外,如果您需要“拆开”一个 double 以查看它的位是什么,我不久前编写的这个方便的代码非常有用。它要求您安装 Solver Foundation,但这是免费下载的。
关于c# - 将 decimal 转换为 double 时的奇怪行为,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18361015/
我想创建一个基于 jQuery 的非常简单的 html 编辑器(不是所见即所得)。 我的问题是如何制作 textarea或 div可能 在上面写一些文字 然后样式即标签(例如 some stuff 将
根据文档 isset 条款“测试此项目中是否已设置给定属性”。我不明白设置属性时 isset 返回 true 还是 false 在下面的代码片段中,当 env.JAVA_HOME 未设置时,java.
我正在尝试取消映射 o这是执行 :only 的默认命令( :help :only ),所以我尝试的第一件事是: nmap o 这种作品,除非我按 ,等待超过timeoutlen ms 然后按 o
我有以下型号: class MetaData(models.Model): created_at = models.DateTimeField(auto_now_add=True, auto_
下面列出了两行代码。两者对日期和时间的期望相同,但只有一个有效。我正在使用 R 3.1。 以下不起作用: DateTime2=strftime("08/13/2010 05:26:24.350", f
我有一个关于 C 代码的问题。 #include void foo(void){ int a; printf("%d\n",a); } void bar(void){
如果文件大小 > 8k,为什么读取的最后一个字节 = 0? private static final int GAP_SIZE = 8 * 1024; public static void main(
我有一个命令 Get-Testdata从不同来源检索测试数据并将这些数据存储到 PSObject以不同的值作为属性。然后将对象总数存储为数组,以便于操作、排序、计算等。 我的问题是我希望能够将这些数据
我正在使用 epoll 将大消息写入使用 HTTP 协议(protocol)的服务器。 fds 都设置为非阻塞,我正在使用边缘触发事件。我知道对于 EPOLLIN,我需要循环读取 fd,直到返回 EA
这对我来说听起来很奇怪: $test_1 = 'string'; $test_2 = '0'; var_dump(intval($test_1)); // Output: int 0 var_dump
这个问题在这里已经有了答案: Java: Integer equals vs. == (7 个回答) 7年前关闭。 请您解释以下行为。 public class EqAndRef { publ
Drupal 的行为到底是什么? 它为模块开发人员提供什么类型的服务层? 它映射到 jQuery.ready 的关系类型是什么? 最佳答案 长版:Drupal.behaviors 不仅仅是 jQuer
以下代码: dispatch_async(dispatch_get_global_queue(DISPATCH_QUEUE_PRIORITY_HIGH, 0), ^{ for (int i=0
人们可以将项目添加到数据库中。我让他们选择在此时添加它,或手动选择日期。 因此我得到了这个 HTML 结构。 (请注意,我将日期和时间选择器妥协为只有一行文本) Selec
创建了一个数据框: simpleDF is.na(simpleDF$vals) [1] TRUE TRUE FALSE > is.nan(simpleDF$vals) [1] FALSE TRU
我有一个大的 docker 镜像 A,我创建了一个新的 Dockerfile FROM A RUN rm /big-folder 我尝试使用以下方法构建图像: docker build --squas
我想知道以下情况下 JVM 的行为是什么: JVM 最小堆大小 = 500MB JVM 最大堆大小 = 2GB 操作系统有 1GB 内存 JVM启动后,程序运行一段时间后,使用内存超过1GB。我想知道
我们正在使用 spikeearrest 策略,但我们不了解其工作原理。峰值逮捕配置如下: 5pm 阅读文档,我们了解到,如果我们在一分钟内调用此流超过 5 次,则该策略将在第 5 次之后
我正在使用 cURL 发送 POST 请求: curl http://tarvos.local:8080/partial_Users/2 -d '{currentPage : 1, firstID :
我的表中有 6442670 条记录,我正在使用以下命令获取它们jdbctemplate 使用行号一次 1000000 个。以下是查询 select * from (select rowNum rn
我是一名优秀的程序员,十分优秀!