- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我有这个测试代码:
class Test
{
static void Main()
{
decimal m = 1M / 6M;
double d = 1.0 / 6.0;
decimal notQuiteWholeM = m + m + m + m + m + m; // 1.0000000000000000000000000002M
double notQuiteWholeD = d + d + d + d + d + d; // 0.99999999999999989
Console.WriteLine(notQuiteWholeM); // Prints: 1.0000000000000000000000000002
Console.WriteLine(notQuiteWholeD); // Prints: 1.
Console.WriteLine(notQuiteWholeM == 1M); // False
Console.WriteLine(notQuiteWholeD < 1.0); // Prints: True. Why?
Console.ReadKey();
}
}
为什么这行打印 1?
Console.WriteLine(notQuiteWholeD); // Prints: 1
这个,为什么打印 True?
是否有自动舍入过程?我该怎么做才能打印出正确/计算出的值?
[注意:我在 C# 5.0 in a Nutsheel 第 30 页:实数舍入错误] 中找到了这个示例代码。
提前致谢。
最佳答案
不像其他两个答案那样阅读您的问题。要点:C# 中 double
的格式化字符串表示是否为“round”?
是的。
在内部 double
以完整的 IEEE-754 十进制数字精度(15-17 位数字)表示,这就是为什么:
notQuiteWholeD < 1.0 == true // because notQuiteWholeD = 0.99999999999999989
但是,当将其格式化为字符串时,默认情况下它将使用 15 位精度 - 相当于:
String.Format("{0:G15}", notQuiteWholeD) // outputs "1"
要获取完整内部表示的所有数字,您可以使用:
Console.WriteLine("{0:G17}", notQuiteWholeD);
或者:
Console.WriteLine("{0:R}", notQuiteWholeD);
在这种情况下,两者都将输出“0,99999999999999989”。
前者将始终使用 17 位精度。后者(“往返精度”)将使用 15 位数字,如果它的精度足以满足以下条件,否则它将使用 17:
Double.Parse(String.Format("{0:G15}", notQuiteWholeD)) == notQuiteWholeD
奖励示例:... 当 G17
和 R
不同时:
Console.WriteLine("{0:G17}", 1.0000000000000699); // outputs "1.0000000000000699"
Console.WriteLine("{0:R}", 1.0000000000000699); // outputs "1.00000000000007"
1.0000000000000699(17 位有效数字)仅使用 15 位有效数字就可以足够准确地表示往返。换句话说,1.00...07
的 double
表示与 1.00...0699
相同。
因此 1.00...07
(15 位)是一个较短的输入,以获得完全相同的内部(17 位)表示。这意味着 R
会将其四舍五入为 15 位数字,而 G17
将保留内部表示的所有数字。
当意识到这一点时,也许会更清楚:
Console.WriteLine("{0:G17}", 1.00000000000007); // outputs "1.0000000000000699"
Console.WriteLine("{0:R}", 1.00000000000007); // outputs "1.00000000000007"
...给出完全相同的结果。
关于c# - C# 中的实数舍入不一致,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18091993/
我现在脑子里有这个迫切的问题:在现代 Fortran 中声明 double 实数的“可接受”方式是什么?从最旧到最新,故事似乎是这样的:DOUBLE PRECISION ,然后 REAL(kind=8
我编写了一个程序,允许将中缀表达式转换为后缀表达式,但它仅适用于一位数字[A-Z][a-z][0-9]。我怎样才能使实数(正数和负数)成为可能? Example: (50 + 3.75) + 50 -
关闭。这个问题需要多问focused 。目前不接受答案。 想要改进此问题吗?更新问题,使其仅关注一个问题 editing this post . 已关闭 7 年前。 Improve this ques
使用 z3/python Web 界面,如果我问: x = Real ('x') solve(x * x == 2, show=True) 我很好地理解: Problem: [x·x = 2] Sol
我写了一个正则表达式来匹配任何数字: 正面和负面 十进制 实数 下面的正则表达式很好,但有一个缺点 ([\+\-]{1}){0,1}?[\d]*(\.{1})?[\\d]* 对于 + 或 - 等输入也
为什么当我在 SQL Server 中将 40.54 的值保存到 Real 类型的列时,它返回给我的值更像是 40.53999878999 而不是 40.54?我已经见过几次这种情况,但一直不明白为什
很震惊地学习这个,我肯定在犯错误...... 如果我 DECLARE 一个实数(或十进制)局部变量,我不能分配 (SET) 表达式的值?我必须先设置一个值,然后逐步执行表达式。如果我尝试一次“计算”所
我正在用 Python 为 Fortran 库编写前端。 Python 模块应该可以在 32 位和 64 位机器上运行;适用于 Windows、Linux 和 Mac。 我想了解一些数据类型的字节宽度
在 C++ 中,想要对较长的 (2^20) 实数 vector 进行排序,显然 sort() 可以解决问题。在我习惯了漂亮的 order() 函数之前使用过 R,该函数产生导致排序 vector 的排
给定一个真实值,我们能否检查 float 数据类型是否足以存储数字,或者是否需要 double? 我知道精度因架构而异。是否有任何 C/C++ 函数可以确定正确的数据类型? 最佳答案 有关背景,请参阅
我有一个 data.table , DT其中包含一列 C具有满足不等式的实值条目 0 (i-1)/N & x (i - 1)/10 & x (i - 1)/10 & x (i - 1)/10 &
需要帮助:如何使用 Excel 公式或 VBA 获取字符串中的十进制(实数)数字?我在“A 列”中有一个字符串,上面只有一个十进制数。我只想提取十进制(实数)数字,但它正在提取字符串上的第一个数字。详
我有一个维度为 (Nx, Ny, Nz) 的 3D 数组。 我想使用 FFTW3 库沿 z 轴应用真正的 FFT 和 IFFT。 这里,'z' 是变化最快的索引。 我已经使用 python 编写了相同
目前,我正在考虑拍摄图像及其光谱。现在 Parceval 的定理说两者应该具有相等的能量。然而,当我尝试在某些图像上对此进行测试时,numpy 真实 FFT 函数似乎并非如此。 这是我用于测试的代码:
用于将数值/实数/ double 转换为字符变化/文本。 select (12.0/100)::Double Precision;# 0.12 select (12.0/100)::Double Pr
我正在验证一个函数来计算我实验室中某个标准的通过率。这背后的数学原理非常简单:给定一些通过或失败的测试,通过的百分比是多少。 数据将作为一列值提供,即 P1 (第一次测试通过),F1 (第一次测试失败
我是一名优秀的程序员,十分优秀!