gpt4 book ai didi

python - 降低 python 中的浮点精度以提高性能

转载 作者:太空宇宙 更新时间:2023-11-04 09:01:44 33 4
gpt4 key购买 nike

<分区>

我在 raspberry pi 上使用 python。我正在使用互补滤波器从陀螺仪中获得更好的值,但它消耗了太多覆盆子的能量——大约 70%。我认为我可以通过降低浮点精度来提高性能。现在,结果有大约 12 位小数,比我需要的多得多。有没有办法设置最大精度?仅四舍五入不能满足我的需求,因为这只是另一种计算。谢谢!

编辑: 我曾尝试使用 Decimal 模块并将精度设置为 6,它比 float 慢近 6 倍!除了 Decimal 之外,还有其他方法可以处理定点数吗(它看起来是为了更高的精度而不是为了性能而创建的)

33 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com