- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我正在开发一个可以生成大量数据并将其存储到磁盘的系统。该公司之前开发的一个系统使用普通文件来存储其数据,但由于多种原因,它变得非常难以管理。
我相信 NoSQL 数据库对我们来说是很好的解决方案。我们要存储的通常是带有一些元数据注释的文档(通常在 100K 左右,但偶尔会更大或更小)。查询性能不是重中之重。优先考虑的是以 I/O 变得尽可能小的方式编写。数据生成速率约为 1Gbps,但我们将来可能会达到 10Gbps(甚至更高)。
我的另一个要求是(最好有详细记录的)C API 的可用性。我目前正在测试 MongoDB。这是一个好的选择吗?如果没有,我可以使用什么其他数据库系统?
最佳答案
The rate of data generation is about 1Gbps,... I'm currently testing MongoDB. Is this a good choice?
好的,澄清一下,您的数据传输速率约为每 10 秒 1 GB。因此,您每 20 分钟左右就为 1TB 的硬盘驱动器装满一次?
MongoDB 具有相当稳定的写入速率,但它非常适合用于 RAM 与数据比率相当低的情况。您希望在内存中至少 保留主索引以及一些数据。
根据我的经验,每 5-10GB 的数据需要大约 1GB 的 RAM。超过这个数字,读取性能会急剧下降。一旦您为 100GB 的数据使用 1GB 的 RAM,即使添加新数据也会很慢,因为索引不再适合 RAM。
这里的关键是:
您计划运行哪些查询以及 MongoDB 如何使运行这些查询更容易?
您的数据很快就会占用足够的空间,基本上每个查询都会进入磁盘。除非您有非常具体的索引和分片策略,否则您最终只会进行磁盘扫描。
此外,MongoDB 不支持压缩。因此,您将使用大量磁盘空间。
If not, what other database system can I use?
您是否考虑过压缩平面文件?或者可能是像 Hadoop 这样的大数据 Map/Reduce 系统(我知道 Hadoop 是用 Java 编写的)
如果 C 是关键要求,也许您想查看 Tokyo/Kyoto Cabinet ?
编辑:更多细节
MongoDB 不支持全文搜索。您将不得不寻找其他工具 (Sphinx/Solr) 来解决此类问题。
Larges indices defeat the purpose of using an index.
根据您的数字,您正在编写 10M 文档/20 分钟或大约 30M/小时。每个文档需要大约 16 个字节以上的索引条目。 12 个字节用于 ObjectID + 4 个字节用于指向 2GB 文件的指针 + 1 个字节用于指向文件的指针 + 一些填充量。
假设每个索引条目需要大约 20 个字节,那么您的索引将以 600MB/小时或 14.4GB/天的速度增长。这只是默认的 _id
索引。
4 天后,您的主索引将不再适合 RAM,您的性能将开始急剧下降。 (这在 MongoDB 下有详细记录)
因此,弄清楚要运行哪些查询非常重要。
关于c - 哪个 NoSQL 数据库适合 MoSTLy 写作,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/10025197/
#include using namespace std; class C{ private: int value; public: C(){ value = 0;
这个问题已经有答案了: What is the difference between char a[] = ?string?; and char *p = ?string?;? (8 个回答) 已关闭
关闭。此题需要details or clarity 。目前不接受答案。 想要改进这个问题吗?通过 editing this post 添加详细信息并澄清问题. 已关闭 7 年前。 此帖子已于 8 个月
除了调试之外,是否有任何针对 c、c++ 或 c# 的测试工具,其工作原理类似于将独立函数复制粘贴到某个文本框,然后在其他文本框中输入参数? 最佳答案 也许您会考虑单元测试。我推荐你谷歌测试和谷歌模拟
我想在第二台显示器中移动一个窗口 (HWND)。问题是我尝试了很多方法,例如将分辨率加倍或输入负值,但它永远无法将窗口放在我的第二台显示器上。 关于如何在 C/C++/c# 中执行此操作的任何线索 最
我正在寻找 C/C++/C## 中不同类型 DES 的现有实现。我的运行平台是Windows XP/Vista/7。 我正在尝试编写一个 C# 程序,它将使用 DES 算法进行加密和解密。我需要一些实
很难说出这里要问什么。这个问题模棱两可、含糊不清、不完整、过于宽泛或夸夸其谈,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开,visit the help center . 关闭 1
有没有办法强制将另一个 窗口置于顶部? 不是应用程序的窗口,而是另一个已经在系统上运行的窗口。 (Windows, C/C++/C#) 最佳答案 SetWindowPos(that_window_ha
假设您可以在 C/C++ 或 Csharp 之间做出选择,并且您打算在 Windows 和 Linux 服务器上运行同一服务器的多个实例,那么构建套接字服务器应用程序的最明智选择是什么? 最佳答案 如
你们能告诉我它们之间的区别吗? 顺便问一下,有什么叫C++库或C库的吗? 最佳答案 C++ 标准库 和 C 标准库 是 C++ 和 C 标准定义的库,提供给 C++ 和 C 程序使用。那是那些词的共同
下面的测试代码,我将输出信息放在注释中。我使用的是 gcc 4.8.5 和 Centos 7.2。 #include #include class C { public:
很难说出这里问的是什么。这个问题是含糊的、模糊的、不完整的、过于宽泛的或修辞性的,无法以目前的形式得到合理的回答。如需帮助澄清此问题以便重新打开它,visit the help center 。 已关
我的客户将使用名为 annoucement 的结构/类与客户通信。我想我会用 C++ 编写服务器。会有很多不同的类继承annoucement。我的问题是通过网络将这些类发送给客户端 我想也许我应该使用
我在 C# 中有以下函数: public Matrix ConcatDescriptors(IList> descriptors) { int cols = descriptors[0].Co
我有一个项目要编写一个函数来对某些数据执行某些操作。我可以用 C/C++ 编写代码,但我不想与雇主共享该函数的代码。相反,我只想让他有权在他自己的代码中调用该函数。是否可以?我想到了这两种方法 - 在
我使用的是编写糟糕的第 3 方 (C/C++) Api。我从托管代码(C++/CLI)中使用它。有时会出现“访问冲突错误”。这使整个应用程序崩溃。我知道我无法处理这些错误[如果指针访问非法内存位置等,
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 7 年前。
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的,因为
我有一些 C 代码,将使用 P/Invoke 从 C# 调用。我正在尝试为这个 C 函数定义一个 C# 等效项。 SomeData* DoSomething(); struct SomeData {
这个问题已经有答案了: Why are these constructs using pre and post-increment undefined behavior? (14 个回答) 已关闭 6
我是一名优秀的程序员,十分优秀!