- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我正在使用 STM32F777 mcu 在 FreeRTOS 上创建应用程序。 STM32F777自带 double 浮点单元。我在使用浮点单位时发现了这个非常烦人的问题,当我使用常量或其他东西为 float 赋值时,例如:
float x = 78.352361;
调试时我看到分配给变量 x 的实际值是:78.3523636
同样,当我将17.448636赋值给变量x时,调试时实际看到赋值的是17.4486351。
任何想法,为什么会发生这种情况以及如何解决这个问题?我希望将正确的精度保持到 6 位数。
最佳答案
最常见的浮点格式 IEEE 754 包括基本的 32 位格式和基本的 64 位格式,这些通常用于 float
和 double
C 中的类型。为简洁起见,我将在这个答案中称它们为 float
和 double
。
除了 2 的幂的倍数(例如 ¼、¾、1/1024、73/1048576)之外,这些类型都不能准确表示非整数。从十进制转换为 float
或 double
时,每隔一个数字都会略有变化。
但是,float
具有将任何具有六位有效数字(例如 1.2345 或 9.87654e23)的十进制数字四舍五入为 float
并返回六位有效十进制数字的属性返回原始数字(前提是数字在格式的正常范围内)。在 C 语言中,此位数由值 FLT_DIG
报告,该值由 float.h
定义。由于您的号码 78.352361 有八位有效数字,因此不能保证它在转换为 float
并返回时仍然存在。
对于 double
,至少有 15 位数字将在往返过程中保留下来,由 DBL_DIG
报告。
请注意,这是保证在一次转换为二进制 float 并返回到原始小数位数的舍入后保留下来的小数位数。如果在 float 中执行额外的运算,则会发生额外的舍入,这可能会累积更多的错误。而且,如果一个值的格式设置有比原始数字更多的小数位,则结果可能与原始数字不同。 (例如,.9f
在转换回一位十进制数字时生成“.9”,但在转换回九位十进制数字时生成“0.899999976”。)
由于 double
保证 15 位数字在往返过程中保留下来,因此您的号码 78.352361 在转换为 double
并返回到八位有效数字不变后仍会保留下来。此外,有足够的精度来执行一些算术,而不会累积太多错误,以至于它在八位有效的十进制数字中是可见的。但是,浮点运算可能很棘手,完整的错误分析取决于您执行的操作。
关于c - 浮点精度与实际分配的值不匹配?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/48904533/
我有两个维度 DimFlag 和 DimPNL 以及一个事实表 FactAmount 。我正在寻找:当 pnl 是 stat(Is Stat=1) 时:sum (Actual x FlagId)对于
我想对包含其部分内容的文本字段执行简单搜索,但我不知道从哪里开始。我基本上想要人们对“包含搜索”的期望。如果我在 issue 中搜索 345 ,我会想要这个结果: 123456 234567 3456
我在 VBE 的 C# 插件中有这段代码(强调“VBE”:它不是 MS-Office 插件): public abstract class HostApplicationBase : IHostApp
我有一个 ImageView,它显示来自资源的图像。ImageView 的宽度是固定的 (60dp)。高度设置为 wrap_content。调整图像大小以适合此宽度(节省宽高比 - 这很完美) 问题是
我正在建立一个网站,但遇到了一个问题:谷歌浏览器开发者工具中的背景以较低/较高的分辨率延伸。当我直接从手机打开网站时,背景不适合屏幕,只是“剪切”了背景。 这是网站:https://feargames
好吧,首先,这是 HTML 模板: ... ... ... ... 如您所见,页面位于标题下方,并且通过 JS 代码可见
我读到了 BK-trees (Burkhard-Keller-Trees) 几个月前,据说这是一种保存您想通过距离度量再次读取的内容的好方法。因此,在每种情况下,您都希望通过相似性检索某些内容。 然而
在 python 中,很容易根据字符数用空格填充字符串。例如: print "aaa".ljust(10) + "end" print "www".ljust(10) + "end" 输出是: aaa
我的问题不是特定于编程语言的,而是更通用的问题,以了解人们的思维方式。 通常在大型开发公司中,每项工作都有特定的角色,例如程序员和架构师。因此架构师的观点是拥有完美的架构师和解决方案设计,另一方面程序
我想将数据传递给 then 方法,但是当我通过给它 this.passedResolve 来执行此操作时,它会得到 undefined function Promises(callback){
我希望使用 Erlang/Elixir 在金融市场创建一个平台即服务。我将在金融市场提供 AWS lambda 风格的函数,但我计划向客户分发我自己的基于 ARM 的硬件终端(基于 Nvidia Je
已结束。此问题正在寻求书籍、工具、软件库等的推荐。它不满足Stack Overflow guidelines 。目前不接受答案。 我们不允许提出寻求书籍、工具、软件库等推荐的问题。您可以编辑问题,以便
我已经看到很多代码,这些代码使用Runnable的循环时间来实现某些计时器/超时。问题是,如果有人决定更改此Runnable的循环时间,则计时器将不正确。 例: #define FOO_TIMER_1
当我将 WPF DataGrid 的 ColumnHeaderHeight 设置为 Auto (double.NaN) 时,如何获取列标题的实际呈现高度? 我似乎无法在 DataGrid 类中找到该属
目前最实用的png修复方法是什么?轻量级,支持背景重复和背景位置。 最佳答案 IE7.JS在我看来: IE7.js is a JavaScript library to make Microsoft
我已经进行了长时间的搜索并尝试了常见的嫌疑人,但现在是寻求帮助的时候了。 我的 Android Activity 非常愉快地从 SQLite 加载 EditText、Spinner 和 CheckBo
因此,我在 MySQL 全文中创建精确搜索时遇到了一些困难。 在我的数据库中,我正在尝试查找标题中包含特定关键字的职位。 所以我可以尝试 WHERE MATCH(jobTitle) AGAINST (
我正在尝试将 JavaScript 包含到一个表单应用程序中,该应用程序从现场收集施工数据。我已经用谷歌搜索了这个废话,但我无法弄清楚将 html 元素保存在数组中是否合法(或者我的语法是否正确)。
我知道有六种方法可以获取 session.save_path 指令的值(phpinfo()、session_save_path()等),但当值为空字符串时(默认情况下为空字符串),实际路径可以是多个位
我知道 npm 库在安装时可以在分层树中安装同一库的多个版本,如下所示: a@0.1.0 -> b@1.0 -> c@2.0 -> b@2.0 在上面,版本0.1.0的包a被拉入
我是一名优秀的程序员,十分优秀!