个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
26
4
<分区>
使用 g++/visual studio 将 int 与 float 相乘将导致不正确的值
当使用 double 而不是 float 时，它总是可以正常工作。
计算也很简单 - 1000 * 0.01 - 应该是 10 - 但它是 9。
示例程序
#include <iostream>
#include <stdio.h>
typedef unsigned long long int64;
typedef unsigned int int32;
int main()
{
int64 test = 1000 * 0.01f;
printf("Test %u\n",test); // Prints 10
int64 test2 = 1000;
test2 = test2 * 0.01f;
printf("Test2 %u\n",test2); // Prints 9
int32 test3 = 1000;
test3 = test3 * 0.01f;
printf("Test3 %i\n",test3); // Prints 9
int64 test4 = 1000;
test4 = test4 * 0.01;
printf("Test4 %u\n",test4); // Prints 10
int32 test5 = 1000;
test5 = test5 * 0.01;
printf("Test5 %i\n",test5); // Prints 10
}
输出
Test 10
Test2 9
Test3 9
Test4 10
Test5 10
使用 g++ main.cpp -o main 在 Wheezy 32 位上编译
编辑:这只是过于简单化了!!!
基本上我不使用 0.01f
我所做的是将一个单位转换为另一个单位，例如我的一个单位是 1:100 到另一个单位。另一种是 1:10 或 1:1000。
所以如果我想对 2 个不同的单位求和，我基本上计算 unit1/unit2 以获得正确的乘数。
在那种情况下它是 unit1 = 1000 unit2 = 10
所以 10/1000 = 0.01 * 1000 = 10
所以当我想将 1000 个 unit1 转换成 unit2 时，结果应该是 10，因为基本上 unit1 是 1000 个基数，而 unit2 是 10 个基数。
26
4
0
我知道问题的标题听起来很奇怪，但我不知道该怎么调用它。 首先，我有一个网格布局，我希望我的 .search-wrapper 宽度为 50% 并向右浮动。在我的演示中 jsfiddle整个 .searc
我们正在使用 QA-C 来实现 MISRA C++ 一致性，但是该工具会为这样的代码喷出错误: float a = foo(); float b = bar(); float c = a - b; 据
考虑 float a[] = { 0.1, 0.2, 0.3}; 我很困惑a稍后传递给函数 foo(float* A) .不应该是 float* 类型的变量指向单个浮点数，对吗？就像这里提到的tu
这可能是我一段时间以来收到的最好的错误消息，我很好奇出了什么问题。 原代码 float currElbowAngle = LeftArm ? Elbow.transform.localRotation
刚开始学习 F#，我正在尝试为 e 生成和评估泰勒级数的前 10 项。我最初编写了这段代码来计算它: let fact n = function | 0 -> 1 | _ -> [1
我已经使用 Erlang 读取二进制文件中的 4 个字节(小端)。 在尝试将二进制转换为浮点时，我一直遇到以下错误: ** exception error: bad argument in
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
我每次都想在浏览器顶部修复这个框。但是右边有一些问题我不知道如何解决所以我寻求帮助。 #StickyBar #RightSideOfStickyBar { float : right ; }
我正在研究 C# 编译器并试图理解数学运算规则。 我发现在两种不同的原始类型之间使用 == 运算符时会出现难以理解的行为。 int a = 1; float b = 1.0f; Cons
假设我有: float a = 3 // (gdb) p/f a = 3 float b = 299792458 // (gdb) p/f b = 29979244
Denormals众所周知，与正常情况相比，表现严重不佳，大约是 100 倍。这经常导致 unexpected软件 problems . 我很好奇，从 CPU 架构的角度来看，为什么非规范化必须是 那
我有一个由两个 float 组成的区间，并且需要生成 20 个随机数，看起来介于两个 float 定义的区间之间。 比方说: float a = 12.49953f float b = 39.1123
我正在构建如下矩阵: QMatrix4x3 floatPos4x3 = QMatrix4x3( floatPos0.at(0), floatPos1.at(0), floatPos2.at(0),
给定归一化的浮点数f，在f之前/之后的下一个归一化浮点数是多少。 通过微动，提取尾数和指数，我得到了: next_normalized(double&){ if mantissa is n
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素？ 为了帮助可视化我的问题，我创建了以下 jsFiddle http://
关于 CSS“float”属性的某些东西一直让我感到困惑。为什么将“float”属性应用到您希望 float 的元素之前的元素？ 为了帮助可视化我的问题，我创建了以下 jsFiddle http://
我有一个新闻源/聊天框。每个条目包含两个跨度:#user 和#message。我希望#user 向左浮动，而#message 向左浮动。如果#message 导致行超过容器宽度，#message 应该
我想创建一个“记分卡”网格来输出一些数据。如果每个 div.item 中的数据都具有相同的高度，那么在每个 div.item 上留下一个简单的 float 会提供一个漂亮的均匀布局，它可以根据浏览器大
我正在学习使用 CSS float 属性。我想了解此属性的特定效果。 考虑以下简单的 HTML 元素: div1 div2 This is a paragraph 以及以下 CSS 规则: div {
我正在尝试从可以是 int 或 float 的文件中提取数据。我发现这个正则表达式将从文件 (\d+(\.\d+)?) 中提取这两种类型，但我遇到的问题是它将 float 拆分为两个。 >>> imp
我是一名优秀的程序员,十分优秀！