- r - 以节省内存的方式增长 data.frame
- ruby-on-rails - ruby/ruby on rails 内存泄漏检测
- android - 无法解析导入android.support.v7.app
- UNIX 域套接字与共享内存(映射文件)
可以jemalloc修改为从共享内存分配? FreeBSD 函数dallocx()
意味着您可以提供一个用于分配的指针,但我没有看到一种明显的方法来告诉 jemalloc
限制来自该内存的 all 分配(也不设置大小,等)。
The
dallocx()
function causes the memory referenced byptr
to be made available for future allocations.
如果没有,这样的功能需要付出多大的努力?我正在努力寻找可以从我提供的共享内存部分进行分配的现成分配方案。
同样,jemalloc
是否可以配置为从内存的锁定区域分配以防止交换?
请随时向我指出需要修改的相关代码部分并提供任何想法或建议。
我正在探索的想法是——因为您可以创建用于在线程环境中分配的 arenas/heaps,就像 jemalloc
所做的那样以最大程度地减少争用,这个概念似乎可以扩展到在一个共享内存中分配区域多处理环境,即我使用 mmap()
创建 N 个共享内存区域,并且我想利用 jemalloc
(或任何分配方案)的强大功能来尽可能高效地分配可能,从那些共享区域之一,以最小的线程争用,即如果线程/进程没有访问相同的共享区域和竞技场,争用的机会是最小的并且 malloc
操作的速度是增加了。
这与使用 malloc()
API 的全局池分配不同,因为通常这些需要全局锁来有效地序列化用户空间。我想避免这种情况。
编辑 2:
最好是这样的 api:
// init the alloc context to two shmem pools
ctx1 = alloc_init(shm_region1_ptr);
ctx2 = alloc_init(shm_region2_ptr);
(... bunch of code determines pool 2 should be used, based on some method
of pool selection which can minimize possibility of lock contention
with other processes allocating shmem buffers)
// allocate from pool2
ptr = malloc(ctx2, size)
最佳答案
是的。但当你问这个问题时,情况并非如此。
Jemalloc 4(2015 年 8 月发布)有几个 mallctl
对此有用的命名空间;它们允许您指定每个竞技场、特定于应用程序的 block 分配 Hook 。特别是 arena.<i>.chunk_hooks
命名空间和 arenas.extend
mallctl
选项是有用的。一个 integration test存在演示如何使用此 API。
关于基本原理,我希望了解任何特定内存段的争用位置所需的有效“消息传递”开销与仅争用的开销相似,因为您将降级为争用缓存行来准确更新特定竞技场的“争用”值。
由于 jemalloc 已经采用了多种技术来减少争用,您可以通过使用 opt.narenas
创建额外的竞技场在高度线程化的环境中获得类似的行为。 .这将减少争用,因为更少的线程会被映射到一个 arena,但由于线程是有效的循环,无论如何你都有可能到达热点。
要解决这个问题,您可以进行争用计数和热点检测,只需使用 thread.arena
mallctl
将线程切换到争用较少的竞技场的接口(interface)。
关于c - jemalloc、mmap 和共享内存?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/30836359/
我想了解 mmap 的工作原理。mmap 的用户级调用如下所示。 void *mmap(void *addr, size_t len, int prot, int flags, int
我正在做一个Bottle驱动程序,我使用 yield 关键字和 mmap.mmap 对象在输出流中发送多个映射文件,如以下代码所示: for mapping in mappings: yield
我来自 C++/RAII 世界。 所以我对何时以及如何调用 mmap.close() 感到困惑[不是 file.close()]。 或者,根本不调用它?会不会漏气? 至于来自 document 的示例
我正在我的大学上操作系统类(class),我们的任务之一是使用 mmap 实现简单的 malloc。现在我开始工作了,我尝试使用 valgrind 来检测遗留的任何错误。不管是否释放内存,valgri
有谁知道 mmap(2) 和 mmap(3) 的区别是什么?手册第 3 节被描述为“本章描述了除第 2 章中描述的实现系统调用的库函数之外的所有库函数。” mmap(3) 不执行系统调用吗? 阅读这两
我不知道我在理解mmap时错过了哪些知识。我就是想不通。但让我这样问我的问题: 我有很多(例如 3 个)文件 block ,其大小分别为 s1、s2、s3。 s1、s2 和 s3 均小于 Mmap (
在 Linux 下: #free -m total used free shared buffers cachedMem:
我正在尝试将 C 库(beaglebone PRU 驱动程序 prussdrv.c)与 Python 连接。我想要访问的特定函数返回一个 mmap 指针,如下所示: int __prussdrv_me
当我调用mmap时: ptr = mmap(NULL, ...); 并要求系统提供一个缓冲区并将文件映射到其中,然后使用 再次调用 mmap ptr2 = mmap(ptr, ...); 尝试
在 Android 上用 Java 内存映射一个大文件效果很好。但是当映射总数超过 ~1.5GB 时,即使有多个映射调用,它也会失败: mmap failed: ENOMEM (Out of memo
我在具有 64G 内存和大量磁盘空间的 debian-64 上运行一个专门的数据库守护进程。它使用磁盘上的哈希表(mmaped)并通过定期 write() 调用将实际数据写入文件。当进行大量更新时,m
C++代码: #include #include #include #include #include using namespace std; #define FILE_MODE (S_I
我想处理一个由 4Kb block 组成的文件。 随着事情的发生,我将编写更多数据并映射新部分,取消映射我不再需要的部分。 当要映射的文件数据总量约为 4Gb 时,仅 4Kb 的 map() 是否太小
大家好,我正在尝试将下面的代码转换为 python(访问树莓派 1Mhz 计时器),我不知道什么时候要映射对象,我们需要 + TIMER_OFFSET (timer = (long long int
我所做的是一个垃圾收集器,使用mmap(2)为用户空间分配空间,这就要求最初分配时可以从任何地方开始,但是后面的分配地址应该是与之前的分配连续,如下所示: page_size = getpagesiz
众所周知,最重要的 mmap() 功能是在许多进程之间共享文件映射。但众所周知,每个进程都有自己的地址空间。 问题是内存映射文件(更具体地说,它的数据)真正保存在哪里,以及进程如何访问这些内存? 我的
什么限制了内存映射文件的大小?我知道它不能大于未分配地址空间的最大连续块,并且应该有足够的可用磁盘空间。但是还有其他限制吗? 最佳答案 您太保守了:内存映射文件可能大于地址空间。 查看 内存映射文件的
如果我使用 mmap 来编写 uint32_t,我会遇到大端/小端约定的问题吗?特别是,如果我在 big-endian 机器上写入一些数据 mmap,当我尝试在 little-endian 机器上读取
所以,对于我最后一年的项目,我使用 Video4Linux2 从相机中提取 YUV420 图像,将它们解析为 x264(本地使用这些图像),然后通过 Live555 将编码流发送到 RTP/RTCP通
是 mmap在它们的效果中调用原子? 也就是说,是否由 mmap 进行了映射更改以原子方式出现在访问受影响区域的其他线程中? 作为试金石,请考虑您执行 mmap 的情况。在一个全为零的文件中(来自线程
我是一名优秀的程序员,十分优秀!