作者热门文章
- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我希望能够在 SQL 中将数字四舍五入为 n 个有效数字。所以:
123.456 rounded to 2sf would give 120
0.00123 rounded to 2sf would give 0.0012
最佳答案
select round(@number,@sf-1- floor(log10(abs(@number))))
应该做的伎俩!
在您的两个示例上成功测试。
编辑:在@number=0 上调用此函数将不起作用。在使用此代码之前,您应该为此添加一个测试。
create function sfround(@number float, @sf int) returns float as
begin
declare @r float
select @r = case when @number = 0 then 0 else round(@number ,@sf -1-floor(log10(abs(@number )))) end
return (@r)
end
关于sql - SQL 中四舍五入到 n 个有效数字,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/1920933/
如何在 C++ 中进行涉及有效数字的数学运算?我希望它能正确处理化学和物理实验的测量数据。一个例子:65/5 = 10。我需要去掉不需要的小数位并将一些数字替换为 0。 谢谢! 最佳答案 这应该可以满
这个任务看起来很简单 - 在输入时我得到测试数量 (numOfTests),然后是两个数字 (downBorder, upBorder) 和我必须找出这些数字(downBorder、upBorder)
如果我有 double (234.004223) 等,我想在 C# 中将其四舍五入为 x 位有效数字。 到目前为止,我只能找到舍入到 x 位小数的方法,但是如果数字中有任何 0,这只会删除精度。 例如
我是一名优秀的程序员,十分优秀!