gpt4 book ai didi

floating-point - 乘法 float 的精度

转载 作者:行者123 更新时间:2023-12-03 21:30:33 28 4
gpt4 key购买 nike

对浮点数和 double 数执行运算(如乘法、除法、加法和减法)是否保持其精度?

例如,如果我将 1000 个浮点数相乘(或相除、相加、相减),我还能保持 7 位精度吗?

我在这个网站上读到保持精度( http://floating-point-gui.de/formats/fp/ ),但我想仔细检查一下。

最佳答案

There's precision and there's accuracy . float 的精度总是一样的。但是计算的准确性取决于各种特定于实现的细节。

例如,如果每次计算都引入了半 LSB 的错误,那么在 1000 次计算之后,结果可能会偏离 500 LSB。因此,尽管答案将精确到 7 位,但它只能精确到 4 位。

关于floating-point - 乘法 float 的精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/37084120/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com