- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我的团队正在使用财务软件,该软件在 C# float 加倍时公开货币值(value)。有时,我们需要比较这些值以查看它们是否等于零,或者是否低于特定限制。当我注意到此逻辑中的意外行为时,我很快了解到浮点 double 中固有的舍入误差(例如 1.1 + 2.2 = 3.30000000000000003)。到目前为止,我主要使用 C# 小数来表示货币值。
我的团队决定使用 epsilon 值方法来解决这个问题。本质上,当您比较两个数字时,如果这两个数字之间的差异小于 epsilon,则认为它们相等。我们采用与以下文章中描述的类似方式实现此方法: https://www.codeproject.com/Articles/383871/Demystify-Csharp-floating-point-equality-and-relat
我们面临的挑战是确定 epsilon 的适当值。我们的货币值可以在小数点右侧最多保留 3 位数字(刻度 = 3)。这意味着我们可以使用的最大 epsilon 是 .0001(任何更大的数字都会被忽略)。由于 epsilon 值应该很小,我们决定将它再移出一个小数点到 .00001(为了安全起见,你可以这么说)。 C# double 的精度为 at least 15 digits ,所以我相信如果小数点左边的数字小于或等于 10 位数字(15 - 5 = 10,其中 5 是小数点右边的位数 epsilon ).使用 10 位数字,我们可以表示十亿级的值,最高可达 9,999,999,999.999。我们可能有数亿的数字,但我们不希望达到数十亿,所以这个限制应该足够了。
我选择这个 epsilon 值的理由是否正确?我找到了很多讨论这种方法的资源,但我找不到很多资源来提供有关选择 epsilon 的指导。
最佳答案
您的推理似乎很合理,但正如您已经发现的那样,这是一个复杂的问题。您可能想阅读 What Every Computer Scientist Should Know About Floating-Point Arithmetic .使用 64 位 double ,您确实有 最小 15 位精度。但是,您还需要验证您的输入,因为 float 可以包含 Nan、+/- 无穷大、负零和比 15 位十进制数字大得多的“范围”。如果有人给你的库一个像 1.2E102 这样的值,你应该处理它还是认为它超出范围?同上值非常小。垃圾输入,垃圾输出,但如果您的代码检测到垃圾的“气味”并至少记录它可能会很好。
您可能还想考虑提供一个属性来设置精度以及不同形式的舍入。这在很大程度上取决于您使用的规范。您可能还想确定这些值是否可以表示美元以外的货币(1 美元目前 >112 日元)。
总而言之,选择您的 epsilon 低于您需要的数字(因此小数点右侧四位数字)是合理的,并为您提供了一个用于一致舍入的数字。否则 10.0129 美元和 10.0121 美元将相等,但它们的总和将是 20.025 美元而不是 20.024 美元……会计师喜欢“脚”的东西。
关于c# - 为浮点比较选择一个 Epsilon 值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46652980/
我想使用 NetworkX Graph 对象作为 Python dict 中的键。但是,我不希望默认的比较行为(即通过对象的地址)。相反,我希望同构图是 dict 中相同元素的键。 此行为是否已在某处
这个问题已经有答案了: What is the most effective way for float and double comparison? (33 个回答) 已关闭 7 年前。 在您认为我
我正在学习 C 编程,为了练习,我找到了一个需要解决的任务。这有点像一个游戏,有人选择一个单词,其他人猜测字母。我必须检查有多少给定的单词可能是所选单词的正确答案。 输入: 3 3//数字 n 和 m
我两天前开始学习C,在做作业时遇到了问题。我们的目的是从字符数组中获取字符列表,并通过计算连续字符并将其替换为数字来缩短它。对“a4b5c5”说“aaaabbbbbccccc”。这是我到目前为止的代码
已关闭。此问题需要 debugging details 。目前不接受答案。 编辑问题以包含 desired behavior, a specific problem or error, and the
为什么我在 if 中的比较不起作用?答案应该是 8 但它返回 0。 function findMissing(missingArray){ var getArray = missing
我想知道为什么以下 JavaScript 比较会给出不同的结果。 (1==true==1) true (2==true==2) false (0==false==0) false (0==false)
我想知道是否有人可以帮助我完成这个程序。编写一个接受两个字符串的函数。该函数应该将这两个字符串与字典顺序上排在第一位的字符串组合起来。两个字符串之间应该有一个空格。在一行上打印结果字符串。在一行上打印
有谁知道一个免费的开源库(实用程序类),它允许您比较一个 Java bean 的两个实例并返回一个属性列表/数组,这两个实例的值不同?请发布一个小样本。 干杯 托马斯 最佳答案 BeanCompara
我是java新手。任何人都可以给出以下类声明的含义 public class ListNode, V> { K key; V value; ListNode next;
我需要用 C 语言计算和比较 3 种不同大小(100 * 100、1000 * 1000 和 10000 * 10000)的 2 个矩阵相乘的执行时间。我编写了以下简单代码来为 1000 * 1000
当我在 ACCESS 2007 中运行以下 SQL 时 Select Location, COUNT(ApartmentBuildings) AS TotalIBuildingsManaged Fro
根据我对互斥锁的了解——它们通常提供对共享资源的锁定功能。因此,如果一个新线程想要访问这个锁定的共享资源——它要么退出,要么必须不断轮询锁(并在等待锁时浪费处理器周期)。 但是,监视器具有条件变量,它
通常在编程中,不应该比较浮点数据类型是否相等,因为存储的值通常是近似值。 由于两个非整数 Oracle NUMBER 值的存储方式不同(以 10 为基数),是否可以可靠地比较它们是否相等? 最佳答案
使用 PowerShell 时,我们偶尔会比较不同类型的对象。一个常见的场景是 $int -eq $bool (即其中 0 -eq $false 、 0 -ne $true 和任何非零值仅等于真,但不
#include #define MAX 1000 void any(char s1[], char s2[], char s3[]); int main() { char string1[
我想比较两个日期。 从这两个日期中,我只使用 ToShortDateString() 获取日期组件, 如下所示。现在的问题是当我比较两个日期时。它的 throw 错误—— "Operator >= c
用户输入一个数字( float 或整数),并且它必须大于下限。 这是从 UITextField 获取数字的代码: NSNumberFormatter * f = [[NSNumberFormatter
我已经摆弄这段代码大约一个小时了,它让我难以置信。我认为解决方案相当简单,但我似乎无法弄清楚。无论如何,这里去。我制作了一个 javascript 函数来检查用户输入的字符,以便它只能接受 7 个字符
我不太明白为什么当我们在不覆盖 equals 的情况下比较具有相同类属性的两个实例时方法,它将给出 false .但它会给出 true当我们比较一个案例类的两个实例时。例如 class A(val
我是一名优秀的程序员,十分优秀!