- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我必须向十进制值添加尾随零。不仅用于显示(因此 Format
不是一个选项),而且用于实际的底层数据,因为小数精度在我们的应用程序中很重要。
我试过:
decimal value = 1M
decimal withPrecision = value + 0.000M;
这在很多情况下都行之有效……奇怪的是,在所有情况下都行不通。我调试了一个情况,其中 withPrecision 中的值仍然是 1M,没有看到运行时的值和即时窗口中相同的硬编码值有任何差异。我还使用 decimal.GetBits 来查找差异 - 没有差异。
我试过了(如此处建议的那样 Adjusting decimal precision, .net ):
decimal value = 1M
decimal withPrecision = value * 1.000M;
效果很好——除了 case 值为零。那么结果是 0M,没有任何尾随零。我也不相信该解决方案,它在其他情况下也可能不起作用。
目前我在:
decimal value = 1M
decimal withPrecision = (value * 1.000M) + 0.000M;
在我目前发现的所有情况下都有效……但看起来也不太值得信赖。我还可以实现零的异常(exception)情况。
我认为 Format
和 Parse
会起作用。我不太喜欢它。它看起来不是很快,我不明白为什么我必须将小数放入字符串中才能对其进行操作。
我开始相信对于这样一个简单的任务没有干净的解决方案。
最佳答案
一个十进制
占用128位(16字节),其中1位用于符号,96位(12字节)用于实际值,5位用于存储小数点位置。
当 C# 编译器看到 1M
时,它会将其解析为 {sign: 0, value: 1, point: 0}
,而 1.0M
被解析为 {sign: 0, value: 10, point: 1}
。但是,两者表示相同的值(1M == 1.0M
返回 true),并且另一个解析器可以轻松地同时映射 1M
和 1.0M
到 {sign: 0, value: 1, point: 0}
。
将 1M
和 0.1M
加在一起会发生什么? 1M
是 {sign: 0, value: 1, point: 0}
而 0.1M
是 {sign: 0, value: 1,point: 1}
,所以我们有两个不同精度的数字。但这没问题:我们可以通过将 1
添加到它的点并将其值乘以 10
来移动 1M
中的点: {符号:0,值:10,点:1}
。现在两个数字的点位置相同,我们可以通过简单地将它们的值相加来将它们相加,结果是 {sign: 0, value: 11, point: 1}
,它对应于 1.1M
.
因此 decimal
的内部表示不会影响其操作的精度 - 每当有必要时移动小数点位置(并调整值)。*
但是,如果出于某种原因您的小数点 绝对必须 具有特定的点位置(从您目前发布的内容来看,我看不出有什么令人信服的理由 - 格式纯粹是一个显示问题),那么最简单的方法是使用 decimal(int, int, int, bool, byte)
构造函数(或者 decimal(int[])
)。这允许您传入值(作为 3 个整数)、符号(作为 bool 值)和点位置(作为字节)。如果传递高于 0 的点位置,则必须自己乘以该值:1.000M
必须构造为 new decimal(1000, 0, 0, false, 3)
,而不是 new decimal(1, 0, 0, false, 3)
(因为那样会给你 0.001M
)。
*小数点的位置限制在[0-28],所以一个decimal
不能表示小数点后面超过28位的数字。此外,该值必须在点前面和点后面的数字之间“拆分”,因此非常大的数字会对可用精度施加限制,可能会降低精度以支持表示点前面的数字。
关于C# 十进制,如何添加尾随零,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/27269607/
我正在尝试编写一个程序,该程序接受十六进制、八进制和小数的输入,将它们存储在整数变量中,并将它们连同它们转换为十进制形式一起输出。例如: 用户输入:0x43、0123、65 程序输出: 0x43 he
var re = /^([0-9]*)(\.[0-9]{2})$/ re.test(.22) true re.test(.20) false re.test(10.02) true re.test(1
我有一个类型为BigDecimal的属性“initialPrice”的“Trade”类。该属性可以 根据另一个类别“Symbol”中包含的属性“decimals”,小数位数会有所不同,因此需要使用不同
我是这里编码的新手。 我正在尝试使用编码来显示平均值、最大值和最小值的统计信息。 我遇到了错误,他们说我无法将 decimal[] 转换为 int[]。我在我的代码旁边评论了下面的错误。这是最后几行之
在不久的将来,我一直在研究小数类型以获得一些可能的编程乐趣,并希望将它用作比 Int64 更大的整数。一个关键点是我需要找出我可以安全地存储为小数(不丢失精度)的最大整数;我这样说,因为显然它在那里使
所以我这样做了: for(i=1;i0;i--) { if(MASKBINARY[i-1]==1 && MASKBINARY[i]==0) // check if the next eleme
我正在尝试将数字四舍五入到最接近的指定小数。 我希望它四舍五入到小数点 .11、.22、.33、.44、.55、.66、.77、.88 但不是 .99。相反,0.99 应该是 1。 例如: 1.14
获取 python (python 3) Decimal 的整数部分和小数部分的最有效方法是什么? 这是我现在拥有的: from decimal import * >>> divmod(Decimal
我有一个使用十进制列表样式的 ol: ol li { list-style-type: decimal; } First Second 编号工作正常,但如何删除句点?而不是显示: 1.
将字节数组转换为具有所选基数的字符串的最佳方法是什么? S.O. 上有大量示例。和其他地方转换为十六进制字符串。我在这里主要感兴趣的是将十六进制或十进制字符串转换为其他;也是一种更通用的方式。 这是我
不清楚十进制类型的 sizeof。以字节为单位的大小是否像在 sql server 中一样因精度而异? c# 类型的精度变量是“十进制”吗? 我不想打开不安全的代码来只调用小数类型的 sizeof。你
我必须向十进制值添加尾随零。不仅用于显示(因此 Format 不是一个选项),而且用于实际的底层数据,因为小数精度在我们的应用程序中很重要。 我试过: decimal value = 1M decim
我正在使用以下代码行将 decimal 转换为 string: decimal a = 0; a.ToString(); Resharper 给了我以下警告:“明确指定字符串区域性”。我想这是有道理的
我注意到 .NET 在涉及小数和尾随零时有一些古怪/不直观的行为。 0m == 0.000m //true 0.1m == 0.1000m //true 但是 (0m).ToString() == (
最近写单片机 RTC 日期、时间配置,需要实现十进制、BCD码互换,将示例Demo分享给各位朋友: BCD是指用二进制来表示十进制数的编码,即:用4位二进制来表示一位十进制数,因此4位二进制数
这似乎是重复的,但我找不到合适的答案(问题足够接近但是..)我有一个代表十进制数的字符串,它总是有很多小数位,至少 20,有时最多 2000 (代表特定的验证计算,即像'是数字 135 到 147 素
我想知道我是否会收到这样的问题: "Convert a decimal number to two's complement, then give your answer in Hex". 下面是路径
此存储过程不返回十进制格式 00.00 的薪水 ALTER PROCEDURE taxable_varsalary @emp_code bigint, @co_id bigint AS de
使用 leaflet R 包,有没有办法将 zoom 设置为非整数(即十进制)值? 也就是说,介于这两个缩放级别之间: 例子 随着 zoom 从第 3 级移动到第 4 级,它看起来好像正在四舍五入到最
我如何编写一个函数来将十进制数字符串转换为十进制数并将十进制数转换为字符串? 最佳答案 有非常方便的 clojure 函数可以将任何内容转换为字符串以及将类似数字的内容转换为 BigDecimal:
我是一名优秀的程序员,十分优秀!