- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
由于 Math.Round
工作方式的困惑,已经有很多话题开始了。在大多数情况下,这些问题是通过让人们了解 MidpointRounding
参数来回答的,而且大多数人都期待 MidpointRounding.AwayFromZero
。我还有一个关于 AwayFromZero 实现的实际算法的问题。
给定以下数字(多项计算的结果):13.398749999999999999999999999M
我们的用户希望看到与 Excel 相同的结果 13.39875
。由于他们目前使用 Math.Round(num, 4, MidpointRounding.AwayFromZero) 将该数字四舍五入为 4,因此结果与他们的预期相差 .0001。据推测,这样做的原因是算法只查看第五位数字 (4),然后进行相应的舍入。如果你从最后 9 位开始四舍五入,那么真正的数学答案实际上会给你与 excel 相同的数字。
所以问题是......有没有办法模拟这种行为而不是当前的行为?
我已经编写了一个我们可以同时使用的递归函数。但在我们将其投入生产之前,我想看看 SO 对这个问题的看法:-)
private decimal Round(decimal num, int precision)
{
return Round(num, precision, 28);
}
private decimal Round(decimal num, int precision, int fullPrecision)
{
if (precision >= fullPrecision) return Math.Round(num, precision);
return Round(Math.Round(num, fullPrecision), precision, --fullPrecision);
}
编辑:为了清楚起见,我应该在我的原始帖子中更清楚。此处要求的舍入方法的位置是报告“舍入错误”的业务分析师和用户向我介绍的内容。尽管被多次告知这并没有错,只是与他们的预期不同......这份报告不断出现。所以我只是在收集数据,尽可能多地收集关于这个话题的信息,并向他们报告用户。
在这种情况下,似乎用于生成这些平均价格(我们必须匹配)的任何其他系统都使用不同级别的精度(数据库中为 10,而 excel 似乎默认为 15 或其他) .考虑到每个人都有不同的精度水平,我陷入了中间的问题,问题是转向较低的精度、一些奇怪的舍入规则(如上所述),或者只是得到与用户预期不同的结果。
最佳答案
如果我没听错,人们期望的是 13.3988,因为他们首先四舍五入到 13.39875,然后四舍五入到 13.3988,他们需要您与它保持错误兼容。
如果是这样,则无需重复任何四舍五入步骤,因为他们方法中的缺陷仅出现在四舍五入的最后一步(从本质上讲,四舍五入消除了前两步步骤的重要性).
private static decimal InaccurateRound(decimal num, int precision)
{
return Math.Round(
Math.Round(num, precision + 1, MidpointRounding.AwayFromZero),
precision, MidpointRounding.AwayFromZero);
}
关于c# - Math.Round 方法,从最小的小数开始,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3584535/
如何将整数类型转换为 double /浮点类型以显示小数点?例如,如果我想将数字转换为货币格式: 5 会变成 5.004.3 会变成 4.30 javascript 有什么东西可以用来做这种转换吗?
【版权声明】未经博主同意,谢绝转载!(请尊重原创,博主保留追究权) https://www.cnblogs.com/cnb-yuchen/p/18107586 出自【进步*于辰的博客】
我意识到这是一个重复的问题,但是 this 中提到的解决方案这个问题完全不适合我。 我目前的代码如下 Sub ConvertTextToNumber() Dim Area As Range, C As
我正在使用数学 javascript,但在用它来替换点的逗号和逗号的点时遇到了一些麻烦。我可以改变千位分隔符的逗号,但无法设法将小数点变成逗号。我尝试了其他帖子中的一些建议,但没有感到高兴。目标是实现
我正在尝试在 Android 中创建一个数字选择器,但轮子只增加 1。我想增加 0.1。我在网上查了一下,但我发现了一个格式化的浮点数组禁用了轮子。请帮助并为语法感到抱歉,我正在学习。 最佳答案 您可
我正在尝试在多个网站上获取利率。数据相当非结构化,但形式足够接近。我想要捕捉的内容: x.xx% 至 xx.xx% 数据示例: 由 FDIC 成员 WebBank 发放的所有贷款。您的实际利率取决于信
在 MySQL 表中,我有一个具有不同值的 VARCHAR 列,这些值可能代表字符串、整数、浮点、任意值。这些值作为特定于语言的字符串写入数据库,这意味着 123.45 的浮点值可以写为德语中的 "1
我想编写一个正则表达式,它允许整数或具有 0 - 2 个小数位的小数。 有效输入 1 1. 1.1 1.11 111111111 111111111. 111111111.1 111111111.11
我正在尝试为 nullable 实现客户端验证其小数点分隔符可以是逗号(例如:123,45)。 在我看来: ... @Html.LabelFor(model => model.Turnove
我找不到合适的正则表达式来仅从字符串中提取 float 。考虑以下字符串: $string = "8x2.1 3x2"; 我想提取 2.1,我尝试了以下操作,但这给了我整数和 float : preg
我希望使用正则表达式函数分离以下数据,如下所示: 要使用的功能: let fx=(text,regex)=> Web.Page( " var x='
我是 jquery 新手。我有一个带有两个输入框的表单。我实现了一些验证。 Min.Amount Max.Amount
我正在java中实现一个简单的算法,它接受一个整数数组,并查找并返回数组中相邻整数的最大乘积。 为此,我首先初始化了一个名为largestProduct的变量,我用它来跟踪当前找到的最大(最佳)产品。
在 JavaScript 中,我想定义小数点的位置。我只能在示例中真正展示它。 假设输入值为 1234 。 我希望输出为 123.4 。 或者,如果输入是 12345 ,我希望输出是 123.45 。
我有这段代码,只允许在 keypress() 的输入字段中输入数字 if (e.which != 8 && e.which != 0 && (e.which 57)) { return fa
我目前正在开发一些基于 Django 的 Web 项目,在这个 Web 开发过程中,我遇到了以下我无法正确理解的代码。 if price_product['price'] == Decimal('-1
这个问题在这里已经有了答案: How do I print a double value with full precision using cout? (17 个答案) 关闭 7 年前。 我试图在
这应该是微不足道的,但我正在兜圈子,也许有人可以提供帮助。 我有两个表(T1,T2),我希望从中提取每行中的多个值并更新第三个表(T3)的内容当且仅当)T1 中有两个 UQ,NN 字段,T2 匹配,在
如果数字不是十进制,我需要附加.00,但是当我尝试下面的代码时,它会将整个数字更改为0.00。例如,如果数字是12,200,它会将其更改为0.00,而不是在末尾添加.00 $('.total-amou
我正在尝试在容器 View 中设置 9:16 纵横比 View 。以下代码在 viewDidLayoutSubviews 中设置约束,以便在正确的位置考虑自动布局。它还调用 layoutIfNeede
我是一名优秀的程序员,十分优秀!