gpt4 book ai didi

math - 什么时候适合使用浮点精度数据类型?

转载 作者:行者123 更新时间:2023-12-03 00:37:51 25 4
gpt4 key购买 nike

很明显,在处理货币金额等问题时,不应使用 float 精度,因为精度的变化会导致使用该金额进行计算时不准确。

也就是说,什么是可以接受的用例?并且,在做出决定时应牢记哪些一般原则?

最佳答案

float 应该用于它们的设计目的:您想要的是固定精度的计算,并且您只关心您的答案在一定的容差范围内准确。如果您在所有情况下都需要准确的答案,那么最好使用其他方法。

以下是您可能使用浮点的三个领域:

  1. 科学模拟
    科学应用程序需要大量的数字运算,并且经常使用复杂的数值方法来求解微分方程组。您通常在这里谈论 double 浮点。

  2. 游戏
    将游戏视为可以作弊的模拟。如果物理效果“足够好”,看起来很真实,那么对于游戏来说就没有问题,并且您可以在用户体验中弥补准确性方面的缺失。游戏通常使用单精度浮点。

  3. 统计数据
    与科学应用程序一样,统计方法需要大量浮点。许多数值方法是相同的;只是应用领域不同而已。您会在金融应用程序以及分析大量调查数据的任何领域中发现大量统计数据和蒙特卡罗模拟。

浮点并不是微不足道的,对于大多数业务应用程序,您实际上不需要了解所有这些微妙之处。只要知道您无法用浮点精确表示一些十进制数,并且您应该确保使用某种小数类型来表示价格和类似的东西,就可以了。

如果您确实想深入了解细节并了解所有的权衡和陷阱,请查看经典的 What Every Programmer Should Know About Floating Point ,或拿起一本关于 Numerical Analysis 的书或Applied Numerical Linear Algebra如果你真的有冒险精神。

关于math - 什么时候适合使用浮点精度数据类型?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/723356/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com