gpt4 book ai didi

objective-c - 将 NSString 转换为 NSNumber 会导致数字过多和奇怪的舍入

转载 作者:塔克拉玛干 更新时间:2023-11-02 09:49:34 25 4
gpt4 key购买 nike

当将一个 NSString 转换为一个 NSNumber 时,它包含标准的两位数(例如 8.20),我(不时)得到额外的数字和一个通过 NSLog 记录结果或将其保存在 Core Data 中(作为 float 或 double)时出现奇怪的舍入行为,例如8.20 -> 8.199999999999999。

这是我用来转换数字的代码:

 NSNumberFormatter *numberFormatter = [[NSNumberFormatter alloc] init];
[numberFormatter setNumberStyle:NSNumberFormatterDecimalStyle];
[numberFormatter setMaximumFractionDigits:5];
NSNumber *num = [numberFormatter numberFromString:str];

我不明白为什么转换为 NSNumber 会弄乱数字。我的代码有什么问题?

最佳答案

这就是 float 和 double 在 C/Objective-C(以及许多其他语言)中的行为方式。例如,当您输入 python 8.0 时,结果将是 8.000000000001。我建议使用 NSScanner将它们转换为原始数字类型(double、float)。

关于objective-c - 将 NSString 转换为 NSNumber 会导致数字过多和奇怪的舍入,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/11316318/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com