- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我的问题是从模计算中获得最准确的结果,我得到余数答案以进行另一次舍入计算,因此我确实需要一个准确的结果。
double a = 0.12345678...(可能有很多数字);
double b = fmod(a, 0.01);
结果 b
可能不准确处理二进制存储问题。
我是否必须考虑使用 float
来提高准确性。或者我只是将数字从小数点移动到整数
双 a = 12345678.0;
谢谢
最佳答案
首先,任何严格的 fmod 实现都会以单精度/ double /任何精度回答最接近余数的 float ,就好像以无限精度执行除法一样。(注意:感谢@EricPostpischil 改写)
不过,那已经太晚了。 0.01 的二进制浮点内部表示并不完全像您已经知道的那样表示 1/100。
让我们检查错误是如何累积的。
你想知道除法的余数,比如 a % b = c
.
您有不精确的表示 a1 和 b1,并且您知道这些表示的错误界限:a1=a+ea1
, abs(ea1) < ea
, b1=b+eb1
, abs(eb1) < eb
.
关于 a1 % b1 = c1
,你有什么想说的吗? (确切的操作),c1=c+ec1
那是关于错误界限abs(ec1) < ec
?
a = q * b + c.
a1 = q1 * b1 + c1.
a+ea1 = (q+eq1)*(b+eb1) + (c+ec1).
ea1 = eq1*(b+eb1) + q*eb1 + ec1.
ec1 = ea1 - q*eb1 - eq1*(b+eb1).
ec >= max( ea , abs(q)*eb , eq*abs(b) , eq*eb).
ec <= ea + abs(q)*eb + eq*abs(b) + eq*eb.
你可以控制ea
和 abs(q)*eb
通过提高表示精度(单倍、双倍、扩展、四倍、任意精度...)。
但是这个等式中的重要术语是 eq*abs(b)
,因为如果商可以减一,那么误差范围是 ec > b
!
当然,商可以减一,这种情况非常容易构造。取c=0
和 a1
表示关闭 a
默认情况下 ( ea1<0
) 或 b1
表示关闭 b
超出(eb1>0
),你就完成了,你得到了eq1 = -1
即使是小商和准确的精度。
不要认为仔细控制舍入模式,例如获得 ea1 > 0
(多余)和eb1 <= 0
(默认)会在所有情况下保护你,因为我们可以构造相反的情况
b - smallValue < c < b
不要尝试 remainder
fmod
的变体舍入商而不是截断,这只会使问题接近完美平局(当精确除法 a/b 是 1/2 的倍数时)。
通过对误差范围的仔 segmentation 析,您可以得出 ec
的估计值。并确定商 q
可能不正确四舍五入的不良情况(当 a1/b1
接近整数时),或 abs(q)*eb
达到 1,或 ea>=b
.
在糟糕的情况下,您可以安排引发异常,然后重新开始生产 a1
和 b1
精度更高,但在边缘情况下c=0
, 即使精度任意,也不能保证收敛。
关于c - fmod 十进制数的最佳方法是什么?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/17539549/
我正在尝试编写一个程序,该程序接受十六进制、八进制和小数的输入,将它们存储在整数变量中,并将它们连同它们转换为十进制形式一起输出。例如: 用户输入:0x43、0123、65 程序输出: 0x43 he
var re = /^([0-9]*)(\.[0-9]{2})$/ re.test(.22) true re.test(.20) false re.test(10.02) true re.test(1
我有一个类型为BigDecimal的属性“initialPrice”的“Trade”类。该属性可以 根据另一个类别“Symbol”中包含的属性“decimals”,小数位数会有所不同,因此需要使用不同
我是这里编码的新手。 我正在尝试使用编码来显示平均值、最大值和最小值的统计信息。 我遇到了错误,他们说我无法将 decimal[] 转换为 int[]。我在我的代码旁边评论了下面的错误。这是最后几行之
在不久的将来,我一直在研究小数类型以获得一些可能的编程乐趣,并希望将它用作比 Int64 更大的整数。一个关键点是我需要找出我可以安全地存储为小数(不丢失精度)的最大整数;我这样说,因为显然它在那里使
所以我这样做了: for(i=1;i0;i--) { if(MASKBINARY[i-1]==1 && MASKBINARY[i]==0) // check if the next eleme
我正在尝试将数字四舍五入到最接近的指定小数。 我希望它四舍五入到小数点 .11、.22、.33、.44、.55、.66、.77、.88 但不是 .99。相反,0.99 应该是 1。 例如: 1.14
获取 python (python 3) Decimal 的整数部分和小数部分的最有效方法是什么? 这是我现在拥有的: from decimal import * >>> divmod(Decimal
我有一个使用十进制列表样式的 ol: ol li { list-style-type: decimal; } First Second 编号工作正常,但如何删除句点?而不是显示: 1.
将字节数组转换为具有所选基数的字符串的最佳方法是什么? S.O. 上有大量示例。和其他地方转换为十六进制字符串。我在这里主要感兴趣的是将十六进制或十进制字符串转换为其他;也是一种更通用的方式。 这是我
不清楚十进制类型的 sizeof。以字节为单位的大小是否像在 sql server 中一样因精度而异? c# 类型的精度变量是“十进制”吗? 我不想打开不安全的代码来只调用小数类型的 sizeof。你
我必须向十进制值添加尾随零。不仅用于显示(因此 Format 不是一个选项),而且用于实际的底层数据,因为小数精度在我们的应用程序中很重要。 我试过: decimal value = 1M decim
我正在使用以下代码行将 decimal 转换为 string: decimal a = 0; a.ToString(); Resharper 给了我以下警告:“明确指定字符串区域性”。我想这是有道理的
我注意到 .NET 在涉及小数和尾随零时有一些古怪/不直观的行为。 0m == 0.000m //true 0.1m == 0.1000m //true 但是 (0m).ToString() == (
最近写单片机 RTC 日期、时间配置,需要实现十进制、BCD码互换,将示例Demo分享给各位朋友: BCD是指用二进制来表示十进制数的编码,即:用4位二进制来表示一位十进制数,因此4位二进制数
这似乎是重复的,但我找不到合适的答案(问题足够接近但是..)我有一个代表十进制数的字符串,它总是有很多小数位,至少 20,有时最多 2000 (代表特定的验证计算,即像'是数字 135 到 147 素
我想知道我是否会收到这样的问题: "Convert a decimal number to two's complement, then give your answer in Hex". 下面是路径
此存储过程不返回十进制格式 00.00 的薪水 ALTER PROCEDURE taxable_varsalary @emp_code bigint, @co_id bigint AS de
使用 leaflet R 包,有没有办法将 zoom 设置为非整数(即十进制)值? 也就是说,介于这两个缩放级别之间: 例子 随着 zoom 从第 3 级移动到第 4 级,它看起来好像正在四舍五入到最
我如何编写一个函数来将十进制数字符串转换为十进制数并将十进制数转换为字符串? 最佳答案 有非常方便的 clojure 函数可以将任何内容转换为字符串以及将类似数字的内容转换为 BigDecimal:
我是一名优秀的程序员,十分优秀!