- xml - XML 和 XSD 有什么区别?
- xml - XSD - 如何允许元素以任意顺序任意次数出现?
- xml - XML 区分大小写吗?
- sql-server - 从 SQL Server 2008 中的 XML 字段中选择值
大家早上好
我在 float 学方面遇到了一些问题,完全迷失在“.to_f”、“*100”和“.0”中!
我希望有人能帮助我解决我的具体问题,并准确解释他们的解决方案为何有效,以便我下次理解这一点。
我的程序需要做两件事:
例如:
[0.28, 0.55, 0.17] -> 总和应为 1.0,但我一直得到 1.xxxxxx。我正在以下列方式实现总和:
sum = array.inject(0.0){|sum,x| sum+ (x*100)} / 100
我需要此功能的原因是我正在读取一组来自 excel 的小数。它们并非 100% 精确(缺少一些小数点),因此总和通常为 0.999999xxxxx 或 1.000xxxxx。例如,我将获得如下值:
0.568887955,0.070564759,0.360547286
为了解决这个问题,我可以先取前 n-1 个数字的总和,然后稍微改变最后的数字,使所有数字的总和为 1.0(必须使用上面的等式或其他任何我满足的验证以结束)。我目前正在按如下方式实现:
sum = 0.0
array.each do |item|
sum += item * 100.0
end
array[i] = (100 - sum.round)/100.0
我知道我可以用 inject 做到这一点,但我试着用它看看有什么用。我认为这通常是有效的(通过检查输出),但它并不总是满足上面的验证总和。所以如果需要的话我也可以调整这个。请注意,我只需要这些数字中的两位小数精度 - 即 0.56 而不是 0.5623225。我可以在演示时或在计算期间将它们四舍五入...这对我来说无关紧要。
非常感谢您的帮助!
最佳答案
如果准确性对您很重要,则不应使用浮点值,根据定义,浮点值是不准确的。 Ruby 有一些精确的数据类型,用于在准确性很重要的情况下进行算术运算。他们是,离开我的头顶,BigDecimal
, Rational
和 Complex
,具体取决于您实际需要计算的内容。
在你的情况下,你正在寻找的似乎是BigDecimal,它基本上是一个具有固定位数的数字,其中小数点后有固定位数(与 float 相比点,小数点后有任意位数)。
当您从 Excel 读取并故意将“0.9987”等字符串转换为 float 时,您会立即丢失字符串中包含的准确值。
require "bigdecimal"
BigDecimal("0.9987")
这个值是精确的。它是 0.9987。不是 0.998732109 或任何接近它的值,而是 0.9987。您可以对它使用所有常用的算术运算。如果您不将 float 混合到算术运算中,返回值将保持精确。
如果您的数组包含您从 Excel 获得的原始字符串(即您没有#to_f
'd 它们),那么这将为您提供一个 BigDecimal,它是它们之和的差值和 1.
1 - array.map{|v| BigDecimal(v)}.reduce(:+)
关于ruby-on-rails - Ruby float 学 - Sum Calc 中的精度问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10785487/
我正在对一款流行游戏 (Minecraft) 进行一些修改,我在地形生成中看到了这些线条, double d4 = 1.0D; d4 *= d4; d4 *= d4; d4 = 1.0D - d4;
如何在没有浮点单元的处理器上执行 float 学运算?例如低端 8 位微 Controller 。 最佳答案 看看这篇文章:http://www.edwardrosten.com/code/fp_te
抱歉这个冗长的标题。我的代码针对没有浮点单元的微 Controller (msp430),但这应该适用于任何类似的 MCU。 如果我将一个大的运行时变量与通常被认为是浮点十进制数 (1.8) 相乘,M
我偶尔会在这个方法中遇到 stackoverflow 异常。 double norm_cdf(const double x) { double k = 1.0/(1.0 + 0.2316419
这是一个让我在过去几个小时里完全困惑的问题...... 我的程序中有一个硬编码的方程式: double s2; s2 = -(0*13)/84+6/42-0/84+24/12+(6*13)/42; 每
我知道 float 学充其量是丑陋的,但我想知道是否有人可以解释以下怪癖。在我测试的大多数编程语言中,将 0.4 添加到 0.2 会产生轻微错误,而 0.4 + 0.1 + 0.1 则不会。 两者计算
随着数据量持续增长,对合格数据专业人员的需求也会增长。具体而言,对SQL流利的专业人士的需求日益增长,而不仅仅是在初级层面。 因此,Stratascratch的创始人Nathan Rosidi以及我觉
当使用 c++ 或 -O0 编译时,以下 -O1 程序给出了数值不同的结果。 #include #include #include #include int main() { std::a
我正在尝试使用 SVG 在 map 上绘制飞行路径。我在 Leaflet 之上使用 d3,但所使用的框架不会对我的问题产生影响 - 这是三 Angular 关系。 http://fiddle.jshe
使用 IEEE754 float (在 JavaScript 中)时,与数学相关的精度损失风险是什么? 10*.1 即整数乘以有理数。 最佳答案 注意:该问题经过编辑,在发布此答案后很长时间添加了“t
我需要为网站 UI 做一些基本的 float 学运算(金钱的加法和乘法)。我知道 Javascript float 由于存储方式的原因并不准确,但我也知道以某种方式,可以获得我所需的准确度。我知道这一
我有一些像下面这样的宏: #define THING_LENGTH (512) #define MAX_COUNT (4096*8) #define MAX_LENGTH ((int32)((floa
我认为这是一个非常基本的问题 - 我正在执行此功能: private double convertMetersToFeet(double meters) { //function converts
我想在不损失太多精度的情况下替换这些函数中的 float 学,因为我没有 FPU。这可能吗?我认为逗号后的 3 个数字就足够了。 inline float smaller_f(float value,
我需要一个类来表示 double vector (在数学意义上)。 我需要的特殊功能: 任意维度 vector (我通常使用 10 - 100,000 维度) 高性能(用于受 CPU 限制的数字代码)
此社区 Wiki 问题的公认答案:What are best practices that you use when writing Objective-C and Cocoa?说 iPhone 不能
This question already has an answer here: Trouble with float on C [duplicate]
以下代码有问题: private const int movementMultiplier = 2; void Test() { XmlNode xnXCoordinate = xd.Sele
大家早上好 我在 float 学方面遇到了一些问题,完全迷失在“.to_f”、“*100”和“.0”中! 我希望有人能帮助我解决我的具体问题,并准确解释他们的解决方案为何有效,以便我下次理解这一点。
我的嵌入式 C 代码在具有单精度 FPU 的 Cortex M4F 上运行。我担心编译器多久将基于软件的 double 学放在诸如 ** float_var1 = 3.0 * int_var / fl
我是一名优秀的程序员,十分优秀!