- mongodb - 在 MongoDB mapreduce 中,如何展平值对象?
- javascript - 对象传播与 Object.assign
- html - 输入类型 ="submit"Vs 按钮标签它们可以互换吗?
- sql - 使用 MongoDB 而不是 MS SQL Server 的优缺点
我有一个从文件中顺序读取数据的应用程序。有些是直接从指向 mmap
ed 文件的指针读取的,而其他部分是从文件 memcpy
ed 到另一个缓冲区的。我注意到在我需要的所有内存(1MB block )中执行较大的 memcpy
时性能很差,而在执行大量较小的 memcpy
调用时性能更好(在我的测试中,我使用了 4KB 的页面大小,运行了 1/3 的时间。)我认为问题是使用大型 memcpy
时出现大量重大页面错误。
我尝试了各种调整参数(MAP_POPUATE
、MADV_WILLNEED
、MADV_SEQUENTIAL
),但没有任何明显改善。
我不确定为什么许多小的 memcpy
调用应该更快;这似乎违反直觉。有什么办法可以改善吗?
结果和测试代码如下。
在 CentOS 7 (linux 3.10.0) 上运行,默认编译器 (gcc 4.8.5),从常规磁盘的 RAID 阵列读取 29GB 文件。
使用 /usr/bin/time -v
运行:
4KB memcpy
:
User time (seconds): 5.43
System time (seconds): 10.18
Percent of CPU this job got: 75%
Elapsed (wall clock) time (h:mm:ss or m:ss): 0:20.59
Major (requiring I/O) page faults: 4607
Minor (reclaiming a frame) page faults: 7603470
Voluntary context switches: 61840
Involuntary context switches: 59
1MB memcpy
:
User time (seconds): 6.75
System time (seconds): 8.39
Percent of CPU this job got: 23%
Elapsed (wall clock) time (h:mm:ss or m:ss): 1:03.71
Major (requiring I/O) page faults: 302965
Minor (reclaiming a frame) page faults: 7305366
Voluntary context switches: 302975
Involuntary context switches: 96
MADV_WILLNEED
似乎对 1MB 的复制结果影响不大。
MADV_SEQUENTIAL
将 1MB 的复制结果拖慢了很多,我没等它完成(至少 7 分钟)。
MAP_POPULATE
将 1MB 的复制结果减慢了大约 15 秒。
用于测试的简化代码:
#include <algorithm>
#include <iostream>
#include <stdexcept>
#include <fcntl.h>
#include <stdint.h>
#include <string.h>
#include <sys/mman.h>
#include <unistd.h>
int
main(int argc, char *argv[])
{
try {
char *filename = argv[1];
int fd = open(filename, O_RDONLY);
if (fd == -1) {
throw std::runtime_error("Failed open()");
}
off_t file_length = lseek(fd, 0, SEEK_END);
if (file_length == (off_t)-1) {
throw std::runtime_error("Failed lseek()");
}
int mmap_flags = MAP_PRIVATE;
#ifdef WITH_MAP_POPULATE
mmap_flags |= MAP_POPULATE; // Small performance degredation if enabled
#endif
void *map = mmap(NULL, file_length, PROT_READ, mmap_flags, fd, 0);
if (map == MAP_FAILED) {
throw std::runtime_error("Failed mmap()");
}
#ifdef WITH_MADV_WILLNEED
madvise(map, file_length, MADV_WILLNEED); // No difference in performance if enabled
#endif
#ifdef WITH_MADV_SEQUENTIAL
madvise(map, file_length, MADV_SEQUENTIAL); // Massive performance degredation if enabled
#endif
const uint8_t *file_map_i = static_cast<const uint8_t *>(map);
const uint8_t *file_map_end = file_map_i + file_length;
size_t memcpy_size = MEMCPY_SIZE;
uint8_t *buffer = new uint8_t[memcpy_size];
while (file_map_i != file_map_end) {
size_t this_memcpy_size = std::min(memcpy_size, static_cast<std::size_t>(file_map_end - file_map_i));
memcpy(buffer, file_map_i, this_memcpy_size);
file_map_i += this_memcpy_size;
}
}
catch (const std::exception &e) {
std::cerr << "Caught exception: " << e.what() << std::endl;
}
return 0;
}
最佳答案
如果底层文件和磁盘系统不够快,无论你使用 mmap()
还是 POSIX open()
/read()
或标准 C fopen()
/fread()
或 C++ iostream
根本不重要。
如果性能真的很重要并且底层文件和磁盘系统足够快,那么 mmap()
可能是顺序读取文件的最糟糕的方法。映射页面的创建是一项相对昂贵的操作,并且由于每个数据字节只能读取一次,因此每次实际访问的成本可能非常高。使用 mmap()
还会增加系统的内存压力。您可以在阅读页面后显式 munmap()
页面,但是当映射被拆除时,您的处理可能会停止。
使用直接 IO 可能是最快的,尤其是对于大文件,因为不涉及大量页面错误。 Direct IO 绕过了页面缓存,这对于只读取一次的数据来说是件好事。缓存数据只读取一次 - 永远不会被重新读取 - 不仅没有用,而且可能会适得其反,因为 CPU 周期习惯于从页面缓存中驱逐有用的数据。
示例(为清楚起见,省略了标题和错误检查):
int main( int argc, char **argv )
{
// vary this to find optimal size
// (must be a multiple of page size)
size_t copy_size = 1024UL * 1024UL;
// get a page-aligned buffer
char *buffer;
::posix_memalign( &buffer, ( size_t ) ( 4UL * 1024UL ), copy_size );
// make sure the entire buffer's virtual-to-physical mappings
// are actually done (can actually matter with large buffers and
// extremely fast IO systems)
::memset( buffer, 0, copy_size );
fd = ::open( argv[ 1 ], O_RDONLY | O_DIRECT );
for ( ;; )
{
ssize_t bytes_read = ::read( fd, buffer, copy_size );
if ( bytes_read <= 0 )
{
break;
}
}
return( 0 );
}
在 Linux 上使用直接 IO 时存在一些注意事项。文件系统支持可能参差不齐,直接 IO 的实现可能很挑剔。您可能必须使用页面对齐的缓冲区来读取数据,如果文件的最后一页不是整页,您可能无法读取它。
关于c++ - 提高 mmap memcpy 文件读取性能,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/52845387/
#include using namespace std; class C{ private: int value; public: C(){ value = 0;
这个问题已经有答案了: What is the difference between char a[] = ?string?; and char *p = ?string?;? (8 个回答) 已关闭
关闭。此题需要details or clarity 。目前不接受答案。 想要改进这个问题吗?通过 editing this post 添加详细信息并澄清问题. 已关闭 7 年前。 此帖子已于 8 个月
除了调试之外,是否有任何针对 c、c++ 或 c# 的测试工具,其工作原理类似于将独立函数复制粘贴到某个文本框,然后在其他文本框中输入参数? 最佳答案 也许您会考虑单元测试。我推荐你谷歌测试和谷歌模拟
我想在第二台显示器中移动一个窗口 (HWND)。问题是我尝试了很多方法,例如将分辨率加倍或输入负值,但它永远无法将窗口放在我的第二台显示器上。 关于如何在 C/C++/c# 中执行此操作的任何线索 最
我正在寻找 C/C++/C## 中不同类型 DES 的现有实现。我的运行平台是Windows XP/Vista/7。 我正在尝试编写一个 C# 程序,它将使用 DES 算法进行加密和解密。我需要一些实
很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visit the help center . 关闭 1
有没有办法强制将另一个 窗口置于顶部? 不是应用程序的窗口,而是另一个已经在系统上运行的窗口。 (Windows, C/C++/C#) 最佳答案 SetWindowPos(that_window_ha
假设您可以在 C/C++ 或 Csharp 之间做出选择,并且您打算在 Windows 和 Linux 服务器上运行同一服务器的多个实例,那么构建套接字服务器应用程序的最明智选择是什么? 最佳答案 如
你们能告诉我它们之间的区别吗? 顺便问一下,有什么叫C++库或C库的吗? 最佳答案 C++ 标准库 和 C 标准库 是 C++ 和 C 标准定义的库,提供给 C++ 和 C 程序使用。那是那些词的共同
下面的测试代码,我将输出信息放在注释中。我使用的是 gcc 4.8.5 和 Centos 7.2。 #include #include class C { public:
很难说出这里问的是什么。这个问题是含糊的、模糊的、不完整的、过于宽泛的或修辞性的,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开它,visit the help center 。 已关
我的客户将使用名为 annoucement 的结构/类与客户通信。我想我会用 C++ 编写服务器。会有很多不同的类继承annoucement。我的问题是通过网络将这些类发送给客户端 我想也许我应该使用
我在 C# 中有以下函数: public Matrix ConcatDescriptors(IList> descriptors) { int cols = descriptors[0].Co
我有一个项目要编写一个函数来对某些数据执行某些操作。我可以用 C/C++ 编写代码,但我不想与雇主共享该函数的代码。相反,我只想让他有权在他自己的代码中调用该函数。是否可以?我想到了这两种方法 - 在
我使用的是编写糟糕的第 3 方 (C/C++) Api。我从托管代码(C++/CLI)中使用它。有时会出现“访问冲突错误”。这使整个应用程序崩溃。我知道我无法处理这些错误[如果指针访问非法内存位置等,
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 7 年前。
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的,因为
我有一些 C 代码,将使用 P/Invoke 从 C# 调用。我正在尝试为这个 C 函数定义一个 C# 等效项。 SomeData* DoSomething(); struct SomeData {
这个问题已经有答案了: Why are these constructs using pre and post-increment undefined behavior? (14 个回答) 已关闭 6
我是一名优秀的程序员,十分优秀!