gpt4 book ai didi

python - Cython 精度和数据类型

转载 作者:行者123 更新时间:2023-12-05 05:24:41 28 4
gpt4 key购买 nike

我知道在 cython 中会丢失一些精度,因为 cython float 与 python float 不同。因此我重新定义了一个变量如下:

cdef long double variable=1*10**-10
print variable
0.0

但是失败了:

cdef long double variable=0.0000000001
print variable
1e-10

成功了。我需要执行相对精确的计算,所以我很想了解这种行为。

最佳答案

看到这里,这个bug好像在Cython 3.0中修复了

https://github.com/cython/cython/issues/2133

关于python - Cython 精度和数据类型,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/34124680/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com