gpt4 book ai didi

计算最接近的浮点值

转载 作者:行者123 更新时间:2023-11-30 17:57:48 25 4
gpt4 key购买 nike

Possible Duplicate:
How to convert floats to human-readable fractions?

我有一个浮点值,比如 0.595781我想使用仅使用整数分子和分母值的商来尽可能接近该值,这些值都限制在 0 to 1023 (10-bits) 的范围内.

执行此操作的直观方法(至少开始时)是使用 595/1000其中提供 0.555相当接近的匹配(错误是 0.040781 )。

但是 597/1002 有一个更好的匹配这是 0.595808 (错误 0.0000273 )。可能还有更好的比赛。我通过以一种不相关的方式处理接近其原始值的分子和分母值来得出第二个商。

然后我想知道是否有一种方法可以给出所有条件来直接获取分子和分母整数值。

如果您想知道为 Infineon XE167G device 设置波特率生成器需要两个整数值.

任何想法将不胜感激。问候

最佳答案

如果您使用16位整数,您可以只使用分子 = 59578,分母仅包含10的功率因数,例如5。所以答案是59578/(10^5)

通过这种方法,您至少可以保留 4 位精度。 只是一个想法...

关于计算最接近的浮点值,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12626550/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com