- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用?
- database - RESTful URI 是否应该公开数据库主键?
我想问一个关于以下等式的问题:
value = (floor(((value - min) + (step / 2)) / step) * step) + min;
我用它来将传入值限制为给定无符号整数类型的最小步长。
我已经使用它一段时间并且效果很好,直到我最近发现它可以产生意想不到的结果。下面的程序证明了我的观点:
// test.cpp
#include <cstdio>
#include <cstdlib>
#include <cstdint>
#include <cinttypes>
#include <cmath>
int main(void)
{
uint64_t value = 2305913515935801433;
uint64_t min = value;
uint64_t step = 1;
uint64_t result1 = (value - min) + (step / 2);
uint64_t result2 = ((value - min) + (step / 2)) / step;
uint64_t result3 = floor(((value - min) + (step / 2)) / step);
uint64_t result4 = (floor(((value - min) + (step / 2)) / step) * step);
uint64_t result5 = (floor(((value - min) + (step / 2)) / step) * step) + min;
uint64_t result6_ = (floor(((value - min) + (step / 2)) / step) * step);
uint64_t result6 = result6_ + min;
printf("result1 = %" PRIu64 " (0x%" PRIX64 ")\n", result1, result1);
printf("result2 = %" PRIu64 " (0x%" PRIX64 ")\n", result2, result2);
printf("result3 = %" PRIu64 " (0x%" PRIX64 ")\n", result3, result3);
printf("result4 = %" PRIu64 " (0x%" PRIX64 ")\n", result4, result4);
printf("result5 = %" PRIu64 " (0x%" PRIX64 ")\n", result5, result5);
printf("result6 = %" PRIu64 " (0x%" PRIX64 ")\n", result6, result6);
return EXIT_SUCCESS;
}
在 64 位 Linux 下编译使用:
g++ -Wall --std=c++11 -o test test.cpp
结果:
result1 = 0 (0x0)
result2 = 0 (0x0)
result3 = 0 (0x0)
result4 = 0 (0x0)
result5 = 2305913515935801344 (0x2000402020202000)
result6 = 2305913515935801433 (0x2000402020202059)
如您所见,完整等式的结果 (result5) 是错误的,最后一个字节不知何故被清除了。最后的两部分结果 (result6) 是正确的。
我无法解释第五个结果失败的原因。我在这里缺少什么?
提前致谢!
最佳答案
floor 正在转换为浮点 double ,这会导致精度损失。
C++ 中典型的浮点 double 值对于小于 2 的整数的 53 次方是准确的。 64 位无符号整数可以大于该值。
关于c++ - 64 位整数方程的意外结果,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/31797130/
我正在尝试学习 Fortran,并且看到了很多不同的定义,我想知道他们是否正在尝试完成同样的事情。以下有什么区别? 整数*4 整数(4) 整数(kind=4) 最佳答案 在 Fortran >=90
我以前从未编程过,最近(1 周前)才开始学习!第一门类(class)是函数式编程,使用 Haskell。 我有一项学校作业,我想通过删除一两个步骤来改进它,但我遇到了一个讨厌的错误。 基本上,我创建了
给定以下GraphQL请求和变量: 请求: query accounts($filter:AccountFilter, $first_:String, $skip_:Int) { accounts
我已经搜索了 StackOverflow,但找不到关于如何检查计算器应用程序的数字输入正则表达式的答案,该计算器应用程序将检查每个 keyup 的以下格式(jquery key up): 任何整数,例
类似于我上一篇致歉的文章,但没有那么长篇大论。基本上我想知道当每次重绘调用只重绘屏幕的一小部分时,优化重绘到 JFrame/JPanel 的最佳选择是什么。 此外,除了重绘重载之外,我并不是 100%
所以在我的教科书中有一个使用 f# 的递归函数的例子 let rec gcd = function | (0,n) -> n | (m,n) -> gcd(n % m,m);; 使用此功能,我的教科书
我有一个数据结构,例如表达式树或图形。我想添加一些“测量”功能,例如depth和 size . 如何最好地键入这些函数? 我认为以下三个变体的用处大致相同: depth :: Expr -> Int
这样写比较好 int primitive1 = 3, primitive2 = 4; Integer a = new Integer(primitive1); Integer b = new Inte
我是 Java 8 新手,想根据键对 Map 进行排序,然后在值内对每个列表进行排序。 我试图寻找一种 Java 8 方法来对键和值进行排序。HashMap>映射 map.entrySet().str
这就是我的目标... vector ,int> > var_name (x, pair (y),int>); 其中 x 是 vector var_name 的大小,y 是对内 vector 的大小。
这里是 an answer to "How do I instantiate a Queue object in java?" , Queue is an interface. You can't i
这个问题在这里已经有了答案: Weird Integer boxing in Java (12 个答案) Why are autoboxed Integers and .getClass() val
我们可以使用 C++ STL 做这样的事情吗?如果是,我将如何初始化元素?我试图这样做,但没有成功。 pair,vector>p; p.first[0]=2; 最佳答案 Can we do som
您好,我正在尝试为百分比和整数数组中的数字找到索引。假设 arraynum = ['10%','250','20%','500'] 并且用户发送一个值 15%,这个数字在哪个范围内居住?我可以使用这段
我与三列有关系:ProductName、CategoryID 和 Price。我需要选择仅那些价格高于给定类别中平均产品价格的产品。(例如,当apple(ProductName)是fruit(Cate
我已经坚持了一段时间,我正在尝试将一些数据配对在一起。这是我的代码。 #include #include using namespace std; int main() { pair data(
我收到错误:'(Int, Int)' 与 'CGPoint' 不相同 如何将 (Int, Int) 转换为 CGPoint let zigzag = [(100,100), (100,150)
我在 .cpp 文件中发现了以下代码。我不理解涉及头文件的构造或语法。我确实认识到这些特定的头文件与 Android NDK 相关。但是,我认为这个问题是关于 C++ 语法的一般问题。这些在某种程度上
我将这些输入到 Scala 解释器中: val a : Integer = 1; val b : Integer = a + 1; 我收到消息: :5: error: type mismatch;
C++:vector>v(size);当我试图打印出值时显示 0 作为值,但是当未声明 vector 大小时它显示正确的输出?为什么这样?例如: int x; cin>>x; vector>v(x);
我是一名优秀的程序员,十分优秀!