gpt4 book ai didi

c# - 像在 C# 中一样在 Javascript 中强制转换为 float

转载 作者:行者123 更新时间:2023-11-28 08:20:36 25 4
gpt4 key购买 nike

C# 代码:

float floatA = 4;
float floatB = 17;
float floatC = floatA / floatB; //0.235294119

double doubleA = 4;
double doubleB = 17;
double doubleC = doubleA / doubleB; // 0.23529411764705882
float res = (float)doubleC; // 0.235294119

js代码:

var a = 4;
var b = 17;
var c = a / b; // 0.23529411764705882
var res = (a / b).toPrecition(9); // 0.235294118

为什么 floatC 和 res 是 0.235294119 而不是 0.235294118?

c# 中的 doubleC 与 js 中的 c 相同。基本上我需要在 javascript 中对数字进行四舍五入,就像 c# 所做的那样( double 到 float )

最佳答案

作为 float ,4/17 = 0.23529411852359771728515625。四舍五入到 9 位数字,即 0.235294119。

作为 double ,4/17 = 0.235294117647058820264049927573068998754024505615234375。四舍五入到 9 位数字,即 0.235294118。

这是按预期四舍五入的结果。

关于c# - 像在 C# 中一样在 Javascript 中强制转换为 float ,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/23019125/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com