gpt4 book ai didi

julia - 截断或截断到 n 个有效数字

转载 作者:行者123 更新时间:2023-12-01 13:30:16 24 4
gpt4 key购买 nike

Julia 有一个内置函数可以舍入到 n有效数字。 signif(0.0229, 2)将四舍五入到两位有效数字并给出 0.023 .

如何截断或截断为 n有效数字,这样我就可以得到 0.022反而?

最佳答案

好吧,不是很有想象力。二手 @edit signif(0.229,2)查找来源并替换roundfloor (并添加了 Base. 用于正确的模块引用)。结果如下:

function mysignif(x::Real, digits::Integer, base::Integer=10)
digits < 1 && throw(DomainError(digits, "`digits` cannot be less than 1."))

x = float(x)
(x == 0 || !isfinite(x)) && return x
og, e = Base._signif_og(x, digits, base)
if e >= 0 # for numeric stability
r = trunc(x/og)*og
else
r = trunc(x*og)/og
end
!isfinite(r) ? x : r
end

给予:
julia> mysignif(0.0229,2)
0.022

关于julia - 截断或截断到 n 个有效数字,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46289107/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com