- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在学习 C#。我完全不知道为什么以及这里的正确答案是什么。我搜索了很多,但一无所获。人们解释,却找不到解释。正确答案是什么?为什么?
在以下哪些转换过程中可能会出现精度损失?
为什么 float to decimal 和 decimal to float 都可能丢失精度转换..?
最佳答案
During which of the following conversions might there be a loss of precision?
a. Converting an int to a float
int
具有 32 位精度,完全用于数字的非小数部分。 float
有 32 位精度,但其中一些位用于指数,剩下不到 32 位来表示尾数。因此,有些数字可以表示为 int
但不能表示为 float
。
例如:
int i = int.MaxValue; // = 2147483647
float f = (float)i; // = 2147484000 --> lost last three digits!
b. Converting a float to a long
我希望您很容易看出从浮点到整数类型的转换是如何丢失精度的。
c. Converting a long to an int
您的书没有将此作为问题提及,这表明它区分精度损失和准确性损失(仅供引用)。
在 C# 中,long
是 64 位,而 int
只有 32 位。任何大于 int.MaxValue
的数字(即 2147483647
)都不能用 int
表示,但许多这样的数字可以用 long 表示
。将任何此类数字从 long
转换为 int
将导致准确性下降,即生成的数字甚至不接近正确的数字。
可以说它也失去了精度,但我猜你的书关注的是仅精度丢失的情况?
d. Converting an int to a long
我假设您理解为什么这不会失去精度(或准确度)。
e. Converting a float to a decimal
f. Converting a decimal to a float
Why are both float to decimal and decimal to float a possible loss of precision conversion..?
decimal
到 float
更容易解释:我们之所以首先使用 decimal
是因为普通的 float
数字类型根本无法表示 decimal
可以且对常见类型的计算(例如货币计算)和其他值很重要的某些值 decimal
也不能代表它至少可以更接近地代表他们。
例如:
float f = 1f / 3;
decimal d = 1M / 3;
float f2 = (float)d;
在上面,变量f
的值为0.333333343
,而变量d
的值为0.33333333333333333333333333333
。两者都不精确(因为 1/3 是一个循环小数,它不能用有限的计算机表示),但是 decimal
版本更接近正确答案。
同样,从 decimal
转换回 float
会导致精度损失,因为变量 f2
的值与f
做了:0.333333343
。
但是如何将 float
转换为 decimal
?
嗯,虽然 decimal
比 float
有更多的精度(大约 28 比 7),float
类型支持带有震级小至 1.401298E-45
(即 float.Epsilon
)。但是decimal
不能表示这么小的数(只能表示1E-28
这样小的数)。转换大小小于decimal
可以表示的float
数字将导致值0
,丢失那些有效的小数位。
换句话说:虽然 float
只有 7 位精度而 decimal
有 28 位,float
可以将这些数字移动得更远小数点右边比 decimal
可以,允许 float
中的数字比 decimal
可以表示的更小。
因此,无论哪种方式都可能会失去精度(这就是为什么在 C# 中这些类型之间没有隐式转换的原因……它仅在没有信息丢失时才提供隐式转换)。
另见:
Explicit Numeric Conversions Table (C# Reference)
Single Structure
Decimal Structure
Difference between Decimal, Float and Double in .NET?
关于c# - Float to decimal 和 decimal to float。一般所有转换,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33605776/
我知道问题的标题听起来很奇怪,但我不知道该怎么调用它。 首先,我有一个网格布局,我希望我的 .search-wrapper 宽度为 50% 并向右浮动。在我的演示中 jsfiddle整个 .searc
我们正在使用 QA-C 来实现 MISRA C++ 一致性,但是该工具会为这样的代码喷出错误: float a = foo(); float b = bar(); float c = a - b; 据
考虑 float a[] = { 0.1, 0.2, 0.3}; 我很困惑a稍后传递给函数 foo(float* A) .不应该是 float* 类型的变量指向单个浮点数,对吗?就像这里提到的tu
这可能是我一段时间以来收到的最好的错误消息,我很好奇出了什么问题。 原代码 float currElbowAngle = LeftArm ? Elbow.transform.localRotation
刚开始学习 F#,我正在尝试为 e 生成和评估泰勒级数的前 10 项。我最初编写了这段代码来计算它: let fact n = function | 0 -> 1 | _ -> [1
我已经使用 Erlang 读取二进制文件中的 4 个字节(小端)。 在尝试将二进制转换为浮点时,我一直遇到以下错误: ** exception error: bad argument in
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
我每次都想在浏览器顶部修复这个框。但是右边有一些问题我不知道如何解决所以我寻求帮助。 #StickyBar #RightSideOfStickyBar { float : right ; }
我正在研究 C# 编译器并试图理解数学运算规则。 我发现在两种不同的原始类型之间使用 == 运算符时会出现难以理解的行为。 int a = 1; float b = 1.0f; Cons
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
Denormals众所周知,与正常情况相比,表现严重不佳,大约是 100 倍。这经常导致 unexpected软件 problems . 我很好奇,从 CPU 架构的角度来看,为什么非规范化必须是 那
我有一个由两个 float 组成的区间,并且需要生成 20 个随机数,看起来介于两个 float 定义的区间之间。 比方说: float a = 12.49953f float b = 39.1123
我正在构建如下矩阵: QMatrix4x3 floatPos4x3 = QMatrix4x3( floatPos0.at(0), floatPos1.at(0), floatPos2.at(0),
给定归一化的浮点数f,在f之前/之后的下一个归一化浮点数是多少。 通过微动,提取尾数和指数,我得到了: next_normalized(double&){ if mantissa is n
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素? 为了帮助可视化我的问题,我创建了以下 jsFiddle http://
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素? 为了帮助可视化我的问题,我创建了以下 jsFiddle http://
我有一个新闻源/聊天框。每个条目包含两个跨度:#user 和#message。我希望#user 向左浮动,而#message 向左浮动。如果#message 导致行超过容器宽度,#message 应该
我想创建一个“记分卡”网格来输出一些数据。如果每个 div.item 中的数据都具有相同的高度,那么在每个 div.item 上留下一个简单的 float 会提供一个漂亮的均匀布局,它可以根据浏览器大
我正在学习使用 CSS float 属性。我想了解此属性的特定效果。 考虑以下简单的 HTML 元素: div1 div2 This is a paragraph 以及以下 CSS 规则: div {
我正在尝试从可以是 int 或 float 的文件中提取数据。我发现这个正则表达式将从文件 (\d+(\.\d+)?) 中提取这两种类型,但我遇到的问题是它将 float 拆分为两个。 >>> imp
我是一名优秀的程序员,十分优秀!