gpt4 book ai didi

c++ - 在面向对象的 C++ 中处理大数字变量

转载 作者:太空宇宙 更新时间:2023-11-04 13:24:04 26 4
gpt4 key购买 nike

我正在使用 double 编译的求解器(编程基于面向对象的 C++)进行数值分析,我的单位是 64 位。我的问题是,当求解器计算一个大数时 - 比如说 -1.45 的 21 次方,举一个实际的例子 - 并通过将这个值传递给现有变量将其堆叠在分配的内存中,它被转换为 0。所以当然,当我稍后在一个部门中使用这个变量时,我得到了一个段错误。我不明白这个过程是如何工作的,而且因为我使用 DP,所以我不知道如何解决这个问题。谁能帮我解决这个问题?

如果它有帮助:我刚刚运行了一个测试,其中我声明 a=-1.45e+21,并“打印”求解器正确返回的值。但是当我不使用“e”指数并输入完整值(有 19 个零)时,我得到 0 作为返回。所以我想问题/限制来自位数,有什么想法吗??谢谢 !

编辑:我发布了我为计算一个引起问题的变量之一所经历的步骤的摘要。其他类似定义。首先我初始化字段指针列表:

PtrList<volScalarField> fInvFluids(fluidRegions.size());

其中 volScalarField 的类只是一个 double 组。然后我填充字段指针列表:

fInvFluids.set
(
i,
new volScalarField
(
IOobject
(
"fInv",
runTime.timeName(),
fluidRegions[i],
IOobject::NO_READ,
IOobject::AUTO_WRITE
),
fluidRegions[i],
dimensionedScalar
(
"fInv",
dimensionSet(3,1,-9,-1,0,0,0),
scalar(0)
)
)
);

在此之后,我设置字段区域:

volScalarField& fInv = fInvFluids[i];

最后我计算值:

   //   Info<< " ** Calculating fInv            **\n";
fInv = gT*pow(pow(T/Tlambda, 5.7)*(1 - pow(T/Tlambda, 5.7)), 3);

其中 T 是字段变量,Tlambda 是运行时定义的标量值。

最佳答案

double 变量可能也不能容纳 19 个零。一个(十进制)数字占用超过 3 位,因此 19 个零将至少占用 57 位。 double 通常有一个只有 53 位的尾数。

但是,这听起来不像是您遇到的问题。在 C++ 代码中,表达式也有类型。 11.0 不同。第一个是 int,第二个是 double。虽然您可以将 int 转换为 double,但它们并不相同。一个 int 最有可能保存高达 20 亿的值,但正式上它可能有一个低至 32767 的限制。您的问题的解决方案可能就像添加一个twentieth 零:100000000000000000000.0 使其成为 double

关于c++ - 在面向对象的 C++ 中处理大数字变量,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/33934157/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com