- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我正在尝试重新创建 printf,目前我正在尝试找到一种方法来处理处理 float 的转换说明符。更具体地说:我试图在特定的小数位舍入 double 。现在我有以下代码:
double ft_round(double value, int precision)
{
long long int power;
long long int result;
power = ft_power(10, precision);
result = (long long int) (value * power);
return ((double)result / power);
}
这适用于相对较小的数字(我还没有完全弄清楚 printf 是否可以补偿由此引起的截断和舍入错误,但那是另一回事了)。但是,如果我尝试大量像
-154584942443242549.213565124235
我得到 -922337203685.4775391
作为输出,而 printf 本身给了我-154584942443242560.0000000
(两个输出的精度均为 7)。
两者都不完全是我期望的输出,但我想知道您是否可以帮助我弄清楚如何使我的想法对更大的数字进行舍入。
我的问题基本上是双重的:
附言我知道有图书馆等可以进行四舍五入,但我正在寻找一种重新发明轮子的答案,仅供引用!
最佳答案
您不能使用二进制浮点运算舍入到特定的小数精度。这不仅仅是可能的。在较小的幅度下,误差足够小,您仍然可以获得正确的答案,但通常它不起作用。
将 float 四舍五入为十进制的唯一方法是用十进制进行所有算术运算。基本上你从尾数开始,像整数一样将它转换为十进制,然后使用十进制算术按 2 的幂(指数)缩放它。您需要在每个步骤中保持的(小数)精度量大致(略高于)您想要的最终小数精度。但是,如果您想要一个精确的结果,它的数量级为以 2 为底的指数范围(即非常大)。
通常,实现将使用 10 的某个大幂的基数而不是使用基数 10,因为它等同于 work with 但速度要快得多。 1000000000 是一个不错的基数,因为它适合 32 位,并允许您将十进制表示形式视为 32 位整数数组(与 BCD 让您将十进制表示形式视为 4 位半字节数组的方式类似)。
My implementation in musl是密集的,但展示了这种接近最佳的方法并且可能提供信息。
关于c - 尝试用 double 和给定的精度(舍入)重新创建 printf 的行为,并对处理大数有疑问,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/56890359/
我想创建一个基于 jQuery 的非常简单的 html 编辑器(不是所见即所得)。 我的问题是如何制作 textarea或 div可能 在上面写一些文字 然后样式即标签(例如 some stuff 将
根据文档 isset 条款“测试此项目中是否已设置给定属性”。我不明白设置属性时 isset 返回 true 还是 false 在下面的代码片段中,当 env.JAVA_HOME 未设置时,java.
我正在尝试取消映射 o这是执行 :only 的默认命令( :help :only ),所以我尝试的第一件事是: nmap o 这种作品,除非我按 ,等待超过timeoutlen ms 然后按 o
我有以下型号: class MetaData(models.Model): created_at = models.DateTimeField(auto_now_add=True, auto_
下面列出了两行代码。两者对日期和时间的期望相同,但只有一个有效。我正在使用 R 3.1。 以下不起作用: DateTime2=strftime("08/13/2010 05:26:24.350", f
我有一个关于 C 代码的问题。 #include void foo(void){ int a; printf("%d\n",a); } void bar(void){
如果文件大小 > 8k,为什么读取的最后一个字节 = 0? private static final int GAP_SIZE = 8 * 1024; public static void main(
我有一个命令 Get-Testdata从不同来源检索测试数据并将这些数据存储到 PSObject以不同的值作为属性。然后将对象总数存储为数组,以便于操作、排序、计算等。 我的问题是我希望能够将这些数据
我正在使用 epoll 将大消息写入使用 HTTP 协议(protocol)的服务器。 fds 都设置为非阻塞,我正在使用边缘触发事件。我知道对于 EPOLLIN,我需要循环读取 fd,直到返回 EA
这对我来说听起来很奇怪: $test_1 = 'string'; $test_2 = '0'; var_dump(intval($test_1)); // Output: int 0 var_dump
这个问题在这里已经有了答案: Java: Integer equals vs. == (7 个回答) 7年前关闭。 请您解释以下行为。 public class EqAndRef { publ
Drupal 的行为到底是什么? 它为模块开发人员提供什么类型的服务层? 它映射到 jQuery.ready 的关系类型是什么? 最佳答案 长版:Drupal.behaviors 不仅仅是 jQuer
以下代码: dispatch_async(dispatch_get_global_queue(DISPATCH_QUEUE_PRIORITY_HIGH, 0), ^{ for (int i=0
人们可以将项目添加到数据库中。我让他们选择在此时添加它,或手动选择日期。 因此我得到了这个 HTML 结构。 (请注意,我将日期和时间选择器妥协为只有一行文本) Selec
创建了一个数据框: simpleDF is.na(simpleDF$vals) [1] TRUE TRUE FALSE > is.nan(simpleDF$vals) [1] FALSE TRU
我有一个大的 docker 镜像 A,我创建了一个新的 Dockerfile FROM A RUN rm /big-folder 我尝试使用以下方法构建图像: docker build --squas
我想知道以下情况下 JVM 的行为是什么: JVM 最小堆大小 = 500MB JVM 最大堆大小 = 2GB 操作系统有 1GB 内存 JVM启动后,程序运行一段时间后,使用内存超过1GB。我想知道
我们正在使用 spikeearrest 策略,但我们不了解其工作原理。峰值逮捕配置如下: 5pm 阅读文档,我们了解到,如果我们在一分钟内调用此流超过 5 次,则该策略将在第 5 次之后
我正在使用 cURL 发送 POST 请求: curl http://tarvos.local:8080/partial_Users/2 -d '{currentPage : 1, firstID :
我的表中有 6442670 条记录,我正在使用以下命令获取它们jdbctemplate 使用行号一次 1000000 个。以下是查询 select * from (select rowNum rn
我是一名优秀的程序员,十分优秀!