gpt4 book ai didi

c# - 使用小数估算计算误差

转载 作者:行者123 更新时间:2023-11-30 18:08:25 30 4
gpt4 key购买 nike

我们目前正在使用 System.Decimals 来表示我们正在开发的 .NET 应用程序中的数字。我知道小数的设计是为了尽量减少四舍五入造成的误差,但我也知道某些数字,例如 1/3,不能表示为小数,因此某些计算会有小的四舍五入误差。我相信这个错误的幅度将非常小且微不足道,但一位同事不同意。因此,我希望能够估计由于我们应用程序中的舍入而导致的误差的数量级。举例来说,我们正在计算“交易”的总计,每天将进行大约 10,000 次“交易”,并且有大约 5-10 次小数运算(add、sub、div、mul 等)来计算总计收到的每笔交易的新运行总计,轮次误差的顺序是什么?一个带有计算程序的答案也很好,这样我将来可以学习如何为自己做这件事。

最佳答案

What Every Computer Scientist Should Know About Floating-Point Arithmetic在给定浮点类型的精度的情况下,详细介绍了估计一系列浮点运算结果中的错误。不过,我还没有在任何实际程序中尝试过,所以我很想知道它是否可行。

关于c# - 使用小数估算计算误差,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/3166851/

30 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com