gpt4 book ai didi

c# - 应用程序的内存搜索索引占用太多内存 - 有什么建议吗?

转载 作者:太空狗 更新时间:2023-10-29 21:07:44 25 4
gpt4 key购买 nike

在我们的桌面应用程序中,我们使用 inverted index 实现了一个简单的搜索引擎。 .

不幸的是,我们的一些用户的数据集可能会变得非常大,例如在创建倒排索引之前占用约 1GB 的内存。倒排索引本身占用大量内存,几乎与被索引的数据一样多(另外 1GB RAM)。

显然,这会产生内存不足错误的问题,因为达到了每个应用程序 2GB 内存的 32 位 Windows 限制,或者使用较低规范计算机的用户难以满足内存需求。

我们的倒排索引存储为:

Dictionary<string, List<ApplicationObject>>

这是在处理每个对象时在数据加载过程中创建的,以便将 applicationObject 的关键字符串和描述词存储在倒排索引中。

所以,我的问题是:是否可以更有效地按空间存储搜索索引?也许需要使用不同的结构或策略?或者是否可以创建一种 CompressedDictionary?由于它存储了大量字符串,我希望它具有高度可压缩性。

最佳答案

如果它是 1GB... 把它放在磁盘上。使用像 Berkeley DB 这样的东西。它仍然会非常快。

这是一个为其提供 .net 接口(interface)的项目:

http://sourceforge.net/projects/libdb-dotnet

关于c# - 应用程序的内存搜索索引占用太多内存 - 有什么建议吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/222182/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com