- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我在比较“Real”类型的两个变量时遇到问题。第一个是数学运算的结果,存储在数据集中,第二个是表单中编辑字段的值,由 StrToFloat 转换并存储为“Real”变量。问题是这样的:
正如你所看到的,程序试图告诉我,121,97 不等于 121,97...我已经读过 this topic ,我不完全确定这是同一个问题。如果是的话,存储在变量中的两个数字不会是完全相同的最接近的可表示数字,对于 121.97 来说,它是 121.96999 99999 99998 86313 16227 83839 70260 62011 71875
?
现在假设它们没有存储为相同的最接近的可表示数字。我如何找到它们的确切存储方式?当我查看“CPU”调试窗口时,我完全迷失了。我看到了地址,这些值应该在哪里,但与某些二进制、十六进制或实际数字的任何表示形式都没有任何相似之处...我承认,高级调试对我来说是未知的宇宙...
编辑:这两个值确实略有不同。
好吧,我不需要了解一切。虽然我不跟钱打交道,但是最多会保留3位小数,所以“货币”才是出路
顺便说一句:计算方法是:
DATA[i].Meta.UnUsedAmount := DATA[i].AMOUNT - ObjQuery.FieldByName('USED').AsFloat;
在本例中为 3695 - 3573.03
最佳答案
出于未知原因,您无法在监视列表中查看十六进制的浮点值(单精度/ double 或实数 48)。
但是,您仍然可以通过将其视为内存转储来查看十六进制表示形式。
就是这样:将变量添加到监视列表。
右键单击 watch -> 编辑 watch ...
将其视为内存转储
现在您可以在调试器中比较这两个值。
切勿使用 float 表示货币金额
您当然知道不应该使用 float 来数钱。
您将在舍入方面遇到各种麻烦,并且比较也不会按照您希望的方式进行。
如果您想使用货币,请使用 currency
类型。它不存在这些问题,支持 4 位小数,并且可以使用 =
运算符进行比较,没有舍入问题。
在您的数据库中,您使用money
或currency
数据类型。
关于Delphi - 两个 "Real"数字变量的比较,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/36103196/
我在决定是将我的应用程序归类为“实时”还是“接近实时”,或者甚至是其他类别时遇到了麻烦。 该软件会立即接收从源生成的数据,然后根据某些规则,在满足某些条件时发出警报。它采用每 30 秒检查一次最近 3
我的 c 编译器有问题当编译一个简单的hello world时,用户时间是>>>实时的。 这里是两台机器之间的时间比较。 需要注意的是,机器没有执行任何其他任务,其他操作运行得很快(甚至是其他编译器)
虽然我用 C 实现了很多项目,但我对操作系统完全陌生。我在探索板 (STM32) 上尝试了实时 linux,并得到了 LED 闪烁的正确结果,但我并没有真正理解整个过程,因为我只是按照步骤操作,无法在
我的问题是,“可以使用 select type block 来区分 real::realInput 和 real::realArrayInput(:) ?”很清楚 select type 可以如何用于
通过 fortran-iso-c-binding,我可以连接 C 函数并获取类似类型的变量 real(c_float) integer(c_int) 但在程序的其余部分我想使用基本类型(仅仅是因为我不
我正在编写一个应用程序,在某个 block 中我需要对实数取幂大约 3*500*500 次。当我使用 exp(y*log(x)) 算法时,程序明显滞后。如果我使用另一种基于处理数据类型的算法,速度会快
我目前在 science linux 6 下使用 gfortran 4.4.7 编译器。我需要用 128 位声明变量。我无法更改操作系统希望在science linux 6下能做一些事情。 最佳答案
当我在 .NET 中将进程的优先级设置为实时时: Process.GetCurrentProcess().PriorityClass = ProcessPriorityClass.RealTime;
我正在使用 Accelerate Framework 在 iOS 中实现基于加速度计的 FFT,但我仍然有点困惑的是这一部分: /* The output signal is now in a spl
用 f(x::Real) 定义函数有什么区别吗?和 f{T <: Real}(x::T) ? @code_warntype给出相同的输出 function f(x::Real) x^2 end
所以我看到了these two questions on twitter . 1.real 是语法错误,而 1 .real 不是? >>> 1.real File "", line 1 1
我有这个简单的代码,它使用 DGEMM 例程进行矩阵乘法 program check implicit none real(8),dimension(2,2)::A,B,C A(1,1)=
如标题所示,我使用了 Media Foundation WavSink 示例,该示例将音频流解码为 PCM 并转储到文件。 我的应用程序是将此流定向到 FMOD 音频引擎,该引擎以实时速率使用 PCM
1) 独占时间是在方法中花费的时间2) 包含时间是在方法中花费的时间加上在任何被调用函数中花费的时间3)我们称调用方法为“ parent ”,称方法为“子”。引用链接:Click here 这里的问题
我正在尝试使用 PS3 Eye 实时执行到达时间差。由于它内置了4个麦克风阵列,我成功地将阵列重新排列成方形阵列,并使用MATLAB对信号进行互相关,得到了一个相对准确的TDOA算法。然而,到目前为止
我开始改进一些旧的 R 代码,发现下一个函数是 deprecated : real创建指定长度的 double 向量。向量的每个元素都等于 0。 as.real试图将其参数强制为 double 类型。
因此,得出以下结论:实时异常检测的定义是什么? 我正在研究异常检测领域,在许多论文中,该方法被定义为实时,而在许多其他论文中,它简称为异常检测。 我碰巧发现,纠正我是否我错了,大多数所谓的实时方法实际
查看所有现有的操作转换框架示例,它们似乎都解决了将更改转换为纯文本文档的问题。 OT 框架如何用于更复杂的对象? 我想开发一个实时便签样式的应用程序,人们可以在其中共同创建便签,更改他们的位置和文本值
Closed. This question does not meet Stack Overflow guidelines。它当前不接受答案。 想改善这个问题吗?更新问题,以使为on-topic。 4
我有大量的点数据流(二维)(每秒数千个)。在这张 map 上,我有几个固定的多边形(几十到几百个)。 我想实时确定(在相当强大的笔记本电脑上几毫秒的数量级)它所在的多边形(多边形可以相交)的每个点。我
我是一名优秀的程序员,十分优秀!