c# - 在 C# 中从 Math.Sqrt 获取不同的输出

Question

我对 C# 中的 Math.Sqrt 有一个有趣的问题。我在一个应用程序(应用程序中的不同位置)中从 Math.Sqrt 获得不同的输出。

我有一个大项目和应用程序有很多数学计算。

故事

应用程序中使用了动画 Irrlich dll代码:

private void Win_Load(object sender, EventArgs e)
  {
 double myOutput = Math.Sqrt(2.0); //1.4142135623730951
 IrrlichtCreationParameters creationParameter = new IrrlichtCreationParameters();
 creationParameter.DriverType = IrrlichtLime.Video.DriverType.Direct3D9;
 IrrlichtDevice.CreateDevice(creationParameter);
 myOutput = Math.Sqrt(2.0);//1.4142135381698608
}

我想每次输出1.4142135623730951。

任何人都知道为什么在使用 IrrlichtLime.Video.DriverType.Direct3D9 后得到不同的输出？

在哪些情况下我们得到的输出与 Math.sqrt 不同？

Answer 1

你对类型的使用不一致(尽管我没有看到你的代码)但这是证据:

double v1 = Math.Sqrt(2.0); // 1.4142135623730951
double v2 = (float)Math.Sqrt(2.0);  // 1.4142135381698608

您需要在任何地方都使用相同的类型并且不要进行任何转换，否则您可能会失去一些精度。

在获得值 2.0(它可能 ≃ 2.0)之前，您似乎进行了大量计算。 Double 不能精确表示所有数字，如果你需要精度那么你必须使用 Decimal。