gpt4 book ai didi

减法时的 MATLAB 精度

转载 作者:行者123 更新时间:2023-12-04 18:38:10 28 4
gpt4 key购买 nike

我正在进行的项目需要高精度。减法时我遇到的问题在这里说明:

>> 1-0.9999999999999999

ans = 1.1102e-16

>> 1-0.99999999999999999

ans = 0

我知道这与 double 有关。无论如何我可以获得更高的精度?我检查了“vpa”功能,但我无法获得更高的精度。有人可以帮我解决这个问题吗?

提前致谢!

最佳答案

Matlab 内部对其所有数字使用 64 位系统 double ,这解释了精度问题。确实存在允许您使用任意精度算术的 matlab 扩展。参见示例 this question .

关于减法时的 MATLAB 精度,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/26469953/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com