- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我的团队正在使用财务软件,该软件在 C# float 加倍时公开货币值(value)。有时,我们需要比较这些值以查看它们是否等于零,或者是否低于特定限制。当我注意到此逻辑中的意外行为时,我很快了解到浮点 double 中固有的舍入误差(例如 1.1 + 2.2 = 3.30000000000000003)。到目前为止,我主要使用 C# 小数来表示货币值。
我的团队决定使用 epsilon 值方法来解决这个问题。本质上,当您比较两个数字时,如果这两个数字之间的差异小于 epsilon,则认为它们相等。我们采用与以下文章中描述的类似方式实现此方法: https://www.codeproject.com/Articles/383871/Demystify-Csharp-floating-point-equality-and-relat
我们面临的挑战是确定 epsilon 的适当值。我们的货币值可以在小数点右侧最多保留 3 位数字(刻度 = 3)。这意味着我们可以使用的最大 epsilon 是 .0001(任何更大的数字都会被忽略)。由于 epsilon 值应该很小,我们决定将它再移出一个小数点到 .00001(为了安全起见,你可以这么说)。 C# double 的精度为 at least 15 digits ,所以我相信如果小数点左边的数字小于或等于 10 位数字(15 - 5 = 10,其中 5 是小数点右边的位数 epsilon ).使用 10 位数字,我们可以表示十亿级的值,最高可达 9,999,999,999.999。我们可能有数亿的数字,但我们不希望达到数十亿,所以这个限制应该足够了。
我选择这个 epsilon 值的理由是否正确?我找到了很多讨论这种方法的资源,但我找不到很多资源来提供有关选择 epsilon 的指导。
最佳答案
您的推理似乎很合理,但正如您已经发现的那样,这是一个复杂的问题。您可能想阅读 What Every Computer Scientist Should Know About Floating-Point Arithmetic .使用 64 位 double ,您确实有 最小 15 位精度。但是,您还需要验证您的输入,因为 float 可以包含 Nan、+/- 无穷大、负零和比 15 位十进制数字大得多的“范围”。如果有人给你的库一个像 1.2E102 这样的值,你应该处理它还是认为它超出范围?同上值非常小。垃圾输入,垃圾输出,但如果您的代码检测到垃圾的“气味”并至少记录它可能会很好。
您可能还想考虑提供一个属性来设置精度以及不同形式的舍入。这在很大程度上取决于您使用的规范。您可能还想确定这些值是否可以表示美元以外的货币(1 美元目前 >112 日元)。
总而言之,选择您的 epsilon 低于您需要的数字(因此小数点右侧四位数字)是合理的,并为您提供了一个用于一致舍入的数字。否则 10.0129 美元和 10.0121 美元将相等,但它们的总和将是 20.025 美元而不是 20.024 美元……会计师喜欢“脚”的东西。
关于c# - 为浮点比较选择一个 Epsilon 值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46652980/
这个问题已经有答案了: Invalid types 'double [100][double]' for array subscript (3 个回答) 已关闭 6 年前。 我已复制下面的整个代码并在
您有 2 个功能; f(x)= x(((x+1)^(1/2))-(x^(1/2))) g(x)= x/(((x+1)^(1/2))+(x^(1/2))) 哪个更准确? 旁注:如果你能解释为什么,
我正在从事一个关于java的研究项目,其中必须完成一些艰难的计算。然而,我已经完成了大部分工作,但停留在某个点上。我必须计算以下内容: (2.1-2.3) raised to power 0.3. 但
int main() { float x = 50; float y = 1/x; float result = y * x; float test = 41;
有没有安全的方法来可靠地确定整数类型 T可以存储浮点整数值 f (所以 f == floor(f) )没有任何溢出? 请记住,不能保证浮点类型 F与 IEC 559 (IEEE 754) 兼容,并且有
// value will always be in the range of [0.0 - maximum] float obtainRatio(float value, float maximum
就在今天,我遇到了我们正在使用的第三方软件,在他们的示例代码中,有以下内容: // Defined in somewhere.h static const double BAR = 3.14; //
是否有推荐的方法来清除 jQuery Flot 图表?我在 API 引用中找不到任何内容。 最佳答案 “清除”是指“破坏整个图表”还是只是清除数据? 要核对整个图表:$('#canvas_id').e
我正在学习单精度并想了解错误传播。根据this nice website ,加法是一个危险的操作。 所以我编写了一个小的 C 程序来测试错误累积的速度。我不完全确定这是否是一种有效的测试方法。如果是,
我正在尝试查询数据库,我需要获取权重等于 60.5 的客户列表。问题是 60.5 是一个实数,我以前从未在 where 子句中使用实数查询过数据库。 我已经尝试过这个: SELECT Name FRO
这是我的“ProjectEntity”类中的代码部分(我在其中使用 hibernate 进行 SQL 调用) @Column(name = "BUDGET") private float budget
我用 Haskell 编写了一个应用程序,它调用 Z3 求解器来解决一些复杂公式的约束。感谢 Haskell,我可以快速切换正在使用的数据类型。 当使用 SBV 的 AlgReal 类型进行计算时,我
在 C 中 double/float 有一个集合类型说明符:%f %F %g %G %e %E .有什么区别吗 %f和 %F , %g和 %G , %e和 %E ? 根据 printf和 scanf输
我正在开发一个适用于 Android 的可视化应用程序(包括运行 Android 2.2 的旧设备)。 我的应用程序的输入模型包含一个区域,该区域通常由数万个顶点组成。典型模型有 50000-1000
关闭。这个问题需要多问focused 。目前不接受答案。 想要改进此问题吗?更新问题,使其仅关注一个问题 editing this post . 已关闭 6 年前。 Improve this ques
我被要求编写一个程序来查找我大学中两个输入的总和,因此我应该首先检查输入是否有效。 例如,如果我输入 2534.11s35,程序应该检测到它不是该程序的有效输入,因为输入中存在 s。 最佳答案 to
我正在尝试降低 FPGA 的逻辑利用率,但在网上找不到任何好的 float fastpow。我所说的“好”是指充分减少所使用的逻辑。如果我使用双版本我几乎没有什么改进。如果我使用其他依赖日志的 flo
我有一个 128 字节的内存位置。我尝试用从 1...127 开始的数据填充内存。 我需要编写一个代码来获取两个参数,如偏移量、数据类型。根据参数,我需要将内存中的数据转换为提到的特定数据类型。 举个
我希望能够做到以下几点: float func() { if( error ) return InvalidFloatingPointValue; else return 0.0f;
假设我有两个 float ,我想比较它们。如果一个大于另一个,程序应该采用一个 fork。如果情况正好相反,它应该走另一条路。并且它应该做同样的事情,如果被比较的值在一个仍然应该使它比较真实的方向上被
我是一名优秀的程序员,十分优秀!