- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我想计算小数点右边非零和非重复(即 1.999999999)的数量。例如:
x.xx = 2
x.xxx = 3
x.xxx000 = 3
我可以通过将数字转换为字符串来做到这一点,但我想知道是否有使用数学的更快方法。有什么想法吗?
谢谢。
编辑:由于数字在计算机中的表示方式,许多人似乎认为这是一件傻事。但是,请允许我解释问题的背景。假设您要编写一个方法来随机生成一个 float 。您生成的数字必须具有一定的精度,因此您必须将随机生成的数字四舍五入到指定的精度。例如,如果精度为 2,则您的随机数不能为 0.012,必须四舍五入为 0.01。问题是没有为您提供精度,而是为您提供增量,在上述情况下为 0.01。给定 0.01 或 0.002 或任何其他小于 1 的此类增量,您必须找到精度。
编辑:删除了我对术语“有效数字”的错误使用。
最佳答案
数量significant digits不是你通过查看数字来计算的东西。您可以根据用于计算您正在查看的数字的其他数字中的有效数字位数,或根据用于执行测量的仪器的精度来计算它。
既不显示也不使用无关紧要的数字,因此您的号码 x.xxx000
在小数点右侧有六位数字这一事实意味着所有这六位数字都是重要的。数字 2.3 与数字 2.300 不同。
当您有一个像 2300 这样的数字时,是否将零算作有效数字的问题就出现了,该数字是 10 的整数倍。有效数字是两位还是四位?用科学记数法写成:2.3 × 103 或 2.300 × 103。
大多数语言(包括 C++)的原生数字类型不处理这种有效数字的概念。通常,他们甚至根本不处理数字;他们处理位。如果您的实现的 float
类型是 32 位,那么所有 32 位都始终被视为有效。
关于c++ - 确定小数点右边的非零位数,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/1402624/
我试图找到一种方法来限制 Haskell,以便返回只有 2 个十进制名称的数字(例如 1.24) 我的代码是: sumSquares = sum . map (^ 2) 在 Haskell 中如何做到
我在向输入框添加停靠点验证时遇到一些问题。仅允许数字的限制(第二个条件)有效,但第一个条件也可能不存在。输入框中仍然没有出现句号和小数点。 function isNumberKey(evt) {
如何处理R中的p值? 我期望非常低的 p 值,例如: 1.00E-80 我需要-log10 -log10(1.00E-80) -log10(0) 是 Inf,但 Inf 也有四舍五入的感觉。 但似乎在
我的数据库中有一个包含货币字段的表。我已经为该货币字段创建了实体并创建了 decimal 属性。当该字段的值显示在我的 MVC3 View 上时,它在小数点后有四个零 0000,如下所示:5489.0
label.text = [NSString stringWithFormat:@"%.2f",final]; 上面的语句显示变量“final”中可用的浮点值,小数点后两位。 我想显示小数位数,具体取
有没有办法在 Qt 5 中绘制带有小数点大小的文本。我正在尝试使用 QFont::setPointSizeF() 但它似乎在我尝试过的任何平台(mac/linux/windows)上都不起作用,并且点
我有一个关于如何将基数为 10 的数字转换为 IEEE 754 浮点表示的示例 Number: 45.25 (base 10) = 101101.01 (base 2) Sign: 0 Normali
我有一个包含以下值的 CSV 文件: 3271.96;274;272;1;1;0;1;0.071690;0;0;0;0;0;0;1.753130;1.75;0;1.75; 但是当我用 Excel 打开
有人可以对 here 中的这些特殊字符示例给出更好的解释吗? ?或者提供一些更清楚的例子? (x) The '(foo)' and '(bar)' in the pattern /(foo) (bar
我编写了 change() 来帮助我将字符串转换为 double。 例如:如果字符串是“5.5”,我希望数字是5.5。如果字符串是“0.0”,我希望数字是0。另一个例子:“50”到50。 现在的问题是
我正在尝试确定 python float 与零进行比较时的精确度。请注意以下几点: 1e-323 == 0 > False 1e-324 == 0 > True 我认为阈值是 324 个小数点,至少对
我想使用 .ftr 文件来快速分析数百个表。不幸的是,我在十进制和千位分隔符方面遇到了一些问题,类似于 that post ,只是 read_feather 不允许 decimal=',', thou
在 SQL Server 2008 中,我正在运行一个报告,我需要在其中划分两列(称为 Completes 和 Prescreens,整数),然后转到 Excel并得到 Prescreens 除以 C
我有一个 NSString,我想将其转换为 NSDecimalNumber。该字符串是从服务器接收的,并且始终使用 en_US 语言环境进行格式化,例如 XXX.YYY 而不是 XXX,YYY。我想创
我是一名优秀的程序员,十分优秀!