- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
以下代码的输出:
var a = 0.1;
var count = 1;
while (a > 0)
{
if (count == 323)
{
var isZeroA = (a * 0.1) == 0;
var b = a * 0.1;
var isZeroB = b == 0;
Console.WriteLine("IsZeroA: {0}, IsZeroB: {1}", isZeroA, isZeroB);
}
a *= 0.1;
++count;
}
是
奇怪的是,当我调试时在 if (count == 323)
之后放置一个断点并在 Visual Studio Watch 窗口中放置表达式 (a * 0.1) == 0
,它报告表达式为 true
。
有谁知道为什么表达式 a * 0.1
不为零,但是当分配给变量 b
时,b
为零?
最佳答案
我的特定硬件和 CLR 版本不会发生这种情况。 编辑: 哦,是的,如果我使用 “x86”(或启用“首选 32 位”的“任何 CPU”)和 ,我也会遇到这种情况“调试” 模式。
之所以有时会发生这种情况,是因为系统可能会将值保存在具有“额外”精度的 80 位 CPU 注册表中。但是当放入真正的 64 位 Double
时,它会改变值。
如果你变成:
var isZeroA = (double)(a * 0.1) == 0;
然后正式地你真的什么都没有改变(从 double
到 double
的转换!),但实际上这可能会迫使运行时从 80 位转换为64 位。它会改变你的输出吗? 编辑:这个“无操作”转换对我来说改变了一些东西!有关 C# 中浮点类型的此类转换为 self 的技巧的更多信息,请参阅其他线程 Casting a result to float in method returning float changes result .
请注意,由于这些 64 位/80 位问题。查看其他线程 Is floating-point math consistent in C#? Can it be?
以下更简单的程序也显示了存在问题的情况(至少在我的系统上):
double j = 9.88131291682493E-324;
Console.WriteLine(j * 0.1 == 0); // "False"
double k = j * 0.1;
Console.WriteLine(k == 0); // "True"
Console.WriteLine((double)(j * 0.1) == 0); // "True", double-to-double cast!
您甚至可以在该代码中以 j = 1E-323
开头。它导致相同的 Double
。
引用:经常被引用的文件What Every Computer Scientist Should Know About Floating-Point Arithmetic David Goldberg 以 an added section Differences Among IEEE 754 Implementations 出现在互联网上由一位匿名作者(不是戈德堡)撰写。 IEEE 754 实现之间的差异部分以技术方式解释了您看到的问题。
另见 x86 Extended Precision Format (Wikipedia page section)关于这种 80 位格式。
关于c# - 为什么将值存储在变量中会改变相等比较的结果?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/34086393/
也许我在 Java 上工作的时间太长而没有真正理解它的一些基础知识。 我确实理解 == 用于对象引用相等,而 .equals() 用于对象值相等。 比较整数: Integer x = 1, y = 1
我是从一道考试题中得出这个答案的,但无法理解该解决方案的工作原理。如果值“x”和“y”相等,则此函数应该返回“true”,否则返回 False。 解决方法: function equal_boolea
我将带有表情符号的文本存储在 mysql 数据库中。 数据库、表和列设置为使用utf8mb4和utf8mb4_unicode_ci。 我可以毫无问题地输入单元格值(数据类型是 VARCHAR)。 但是
如果两个 DateTime 对象具有相同的日、月和年,我该如何比较?问题是他们有不同的小时/分钟/秒。 最佳答案 对于 DateTime 对象,没有好的方法可以做到这一点。所以你必须做,比方说,不是那
我一直想知道这个问题,所以我想我会问的。 您将看到的大多数地方都使用相同的语义逻辑来覆盖 Equals 和 GetHashCode 以实现成员平等...但是它们通常使用不同的实现: publi
苹果 CoreGraphics.framework , CGGeometry.h : CG_INLINE bool __CGSizeEqualToSize(CGSize size1, CGSize s
在最新的python 版本中, dict 保留了插入的顺序。在平等方面是否有任何变化。例如,目前以下工作。既然广告顺序很重要, future 会不会发生这种变化? 我问是因为有根本性的变化 - 以前
class VideoUserModel(models.Model): user = models.ManyToManyField(get_user_model()) viewlist
我在 COQ 中有一个有限枚举类型(比如 T),我想检查元素是否相等。这意味着,我需要一个函数 bool beq_T(x:T,y:T) 我设法定义这样一个函数的唯一方法是逐个分析。这会导致很多匹配语
我在 Windows 7(32 位)下的 MinGW 中使用 gfortran 来编译 Fortran 代码。这是文件 testequal.f 中包含的最少代码: program test
我有以下 jsp 片段: ${campaign.moderated}
我想检查两个稀疏数组是否(几乎)相等。而对于 numpy 数组,你可以这样做: import numpy as np a = np.ones(200) np.testing.assert_array_
我有以下类(class): public class MyDocuments { public DateTime registeredDate; public
这个问题已经有答案了: Is floating point math broken? (33 个回答) 已关闭 5 年前。 我在这里想做的是,我采用一个精度值(小于 1)并打印 1/n 类型的所有数字
我正在为我的arduino写一个草图,我想检查我的字符串的最后一个字符。 例如: 如果输入是 cats- 我想看看最后一个字符(在我的例子中是“-”)实际上是否 - 我使用的代码: 串行事件函数 vo
让我们开始: using System; public class Program { class A { public virtual void Do() { }
我只需要根据几个键(不是全部)来确定两个 HashMap 的相等性 除了单独访问每个字段并比较相等性之外,还有其他节省时间的方法吗? 最佳答案 我能想到的一种方法是在您的 HashMap 上存储某种“
在Java中,大写的Double可以为null。 但是如果我有 double a 和 b 并且我这样做: if (a.equals(b)) 如果其中之一为空,它会崩溃。有没有更好的方法来比较它们? 最
我正在尝试从我的旧数据库中插入表格数据。 Id 在数据库表和选择特定列中都相等。这是我的数据库。 旧数据库:sch -> 旧表:product (id, tag, url) (13, red, aaa
我正在开发一个应用程序,它在我的主视图中有一个侧边栏和两个 div。我试图在容器内平均分割两者的高度。我试过 height = 50% 但效果不太好。
我是一名优秀的程序员,十分优秀!