- r - 以节省内存的方式增长 data.frame
- ruby-on-rails - ruby/ruby on rails 内存泄漏检测
- android - 无法解析导入android.support.v7.app
- UNIX 域套接字与共享内存(映射文件)
在将 float 转换为 int 时如何避免浮点错误。例如下面的代码打印:0.5499999999999972
当我希望它打印 0.55
时。
package main
import "fmt"
func main() {
x := 100.55
fmt.Println(x - float64(int(x)))
}
Output:
0.5499999999999972
最佳答案
你需要了解一些东西:100.55
是一个十进制数(以十进制基数表示)。十进制的 100.55
是一个有限数,就是这样:100.55
。
计算机通常以二进制表示形式存储数字。数字 100.55
不能用有限二进制数表示:100.55
在二进制表示中是一个无限数(与 1/3
不能用有限的十进制数来表示,它是一个无穷无尽的数列:0.333333333....
).
但 Go(与任何其他语言一样)使用 IEEE-754 存储 float64
类型标准,它是一个有限的二进制表示。 float64
值在内存中使用 64 位来描述数字,其中 53 位用于描述数字,11 位用于指数。
现在当你“说”这个的时候:
x := 100.55
这是一个short variable declaration这将创建一个名为 x
的新变量,并从右侧表达式推断其类型,这是一个浮点文字,因此根据 Go 规范,x
的类型将是float64
。浮点文字必须“转换”才能使用 64 位表示(根据 IEEE-754
指定的规则)。由于 100.55
需要无限位以二进制基数精确表示,因此仅使用 64 位(数字为 53 位)结果将不会(不能)正好是 100.55
(而是最接近它的 IEEE-754 格式的 64 位二进制数),即:
x := 100.55
fmt.Printf("%.50f\n", x)
100.54999999999999715782905695959925651550292968750000
所以您已经开始使用一个不是 100.55
的数字。
从中减去 100
(float64(int(x))
将正好是 100.0
):
x = x - float64(int(x))
fmt.Printf("%.50f\n", x)
0.54999999999999715782905695959925651550292968750000
你能做什么?真的没什么。您期望的结果 (0.55
) 在二进制表示中也是一个无限数,因此您不能在类型为 float64 的变量中有
。0.55
的确切数字
您可以像往常一样处理数字,但在打印时,将其四舍五入到您选择的小数位。最简单的是使用 fmt.Printf()
,并使用动词 %f
指定格式字符串,包括精度:
fmt.Printf("%.2f\n", x)
结果:
0.55
另一种选择是避免使用 float 。例如。如果您要表示美元金额,您可以将所有值“乘以”100
,并将金额表示为美分 (1$*100),这是一个整数。仅当您需要将结果打印为 USD 时,您才可以打印类似
cents := 10055
fmt.Printf("%d.%d $", cents/100, cents%100)
输出:
100.55 $
关于Golang 将 float64 转换为 int 错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36052922/
我已经使用 vue-cli 两个星期了,直到今天一切正常。我在本地建立这个项目。 https://drive.google.com/open?id=0BwGw1zyyKjW7S3RYWXRaX24tQ
您好,我正在尝试使用 python 库 pytesseract 从图像中提取文本。请找到代码: from PIL import Image from pytesseract import image_
我的错误 /usr/bin/ld: errno: TLS definition in /lib/libc.so.6 section .tbss mismatches non-TLS reference
我已经训练了一个模型,我正在尝试使用 predict函数但它返回以下错误。 Error in contrasts<-(*tmp*, value = contr.funs[1 + isOF[nn]])
根据Microsoft DataConnectors的信息我想通过 this ODBC driver 创建一个从 PowerBi 到 PostgreSQL 的连接器使用直接查询。我重用了 Micros
我已经为 SoundManagement 创建了一个包,其中有一个扩展 MediaPlayer 的类。我希望全局控制这个变量。这是我的代码: package soundmanagement; impo
我在Heroku上部署了一个应用程序。我正在使用免费服务。 我经常收到以下错误消息。 PG::Error: ERROR: out of memory 如果刷新浏览器,就可以了。但是随后,它又随机发生
我正在运行 LAMP 服务器,这个 .htaccess 给我一个 500 错误。其作用是过滤关键字并重定向到相应的域名。 Options +FollowSymLinks RewriteEngine
我有两个驱动器 A 和 B。使用 python 脚本,我在“A”驱动器中创建一些文件,并运行 powerscript,该脚本以 1 秒的间隔将驱动器 A 中的所有文件复制到驱动器 B。 我在 powe
下面的函数一直返回这个错误信息。我认为可能是 double_precision 字段类型导致了这种情况,我尝试使用 CAST,但要么不是这样,要么我没有做对...帮助? 这是错误: ERROR: i
这个问题已经有答案了: Syntax error due to using a reserved word as a table or column name in MySQL (1 个回答) 已关闭
我的数据库有这个小问题。 我创建了一个表“articoli”,其中包含商品的品牌、型号和价格。 每篇文章都由一个 id (ID_ARTICOLO)` 定义,它是一个自动递增字段。 好吧,现在当我尝试插
我是新来的。我目前正在 DeVry 在线学习中级 C++ 编程。我们正在使用 C++ Primer Plus 这本书,到目前为止我一直做得很好。我的老师最近向我们扔了一个曲线球。我目前的任务是这样的:
这个问题在这里已经有了答案: What is an undefined reference/unresolved external symbol error and how do I fix it?
我的网站中有一段代码有问题;此错误仅发生在 Internet Explorer 7 中。 我没有在这里发布我所有的 HTML/CSS 标记,而是发布了网站的一个版本 here . 如您所见,我在列中有
如果尝试在 USB 设备上构建 node.js 应用程序时在我的树莓派上使用 npm 时遇到一些问题。 package.json 看起来像这样: { "name" : "node-todo",
在 Python 中,您有 None单例,在某些情况下表现得很奇怪: >>> a = None >>> type(a) >>> isinstance(a,None) Traceback (most
这是我的 build.gradle (Module:app) 文件: apply plugin: 'com.android.application' android { compileSdkV
我是 android 的新手,我的项目刚才编译和运行正常,但在我尝试实现抽屉导航后,它给了我这个错误 FAILURE: Build failed with an exception. What wen
谁能解释一下?我想我正在做一些非常愚蠢的事情,并且急切地等待着启蒙。 我得到这个输出: phpversion() == 7.2.25-1+0~20191128.32+debian8~1.gbp108
我是一名优秀的程序员,十分优秀!