- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在用 C++ 开发一个处理逗号分隔数据 (CSV) 的项目。我所做的是将数据从 .csv 文件读取到 CsvRow 对象的 vector 中。
所以,今天我遇到了一个非常奇怪的 std::bad_alloc 异常,在更奇怪的情况下被抛出。即,在抛出异常之前我设法获得更多时间的第一个测试用例是将整个 csv 文件读入 vector 。该文件包含 500,000 行,大小约为 70MB。该文件像魅力一样被读入内存,但在排序过程几秒钟后,std::bad_alloc 被抛出。它使用了大约 67MB 的 RAM注意:我正在使用 boost 的 flyweights 以减少内存消耗。
但是,这个测试用例更奇怪:我正在读取一个包含数百行的 146KB 文件,这次我在将数据读入 vector 时遇到异常,这在之前成功读取 70MB 时是完全荒谬的。
我怀疑内存泄漏,但我的机器有 8GB RAM,使用 64 位 Windows 8。我正在使用 CodeBlocks 和 MinGW 64 位 boost 发行版。任何帮助,将不胜感激。这是抛出 std::bad_alloc 的代码块:
从csv文件中读取数据
std::ifstream file(file_name_);
int k=0;
for (CsvIterator it(file); it != CsvIterator(); ++it) {
if(columns_ == 0) {
columns_ = (*it).size();
for (unsigned int i=0; i<columns_; i++) {
distinct_values_.push_back(*new __gnu_cxx::hash_set<std::string,
std::hash<std::string> >());
}
}
for (unsigned int i=0; i<columns_; i++) {
distinct_values_[i].insert((*it)[i]);
}
all_rows_[k]=(*it);
k++;
}
使用存储在我的类中的内部结构对 vector 进行排序
struct SortRowsStruct
{
CsvSorter* r;
SortRowsStruct(CsvSorter* rr) : r(rr) { };
bool operator() (CsvRow a, CsvRow b)
{
for (unsigned int i=0; i<a.size(); i++) {
if(a[r->sorting_order_[i]] != b[r->sorting_order_[i]]) {
int dir = r->sorting_direction_[i];
switch(dir) {
case 0:
return (a[r->sorting_order_[i]] < b[r->sorting_order_[i]]);
break;
case 1:
return !(a[r->sorting_order_[i]] < b[r- >sorting_order_[i]]);
break;
case 2:
return true;
break;
default:
return true;
}
}
}
return true;
}
};
然后,我使用 std::sort()
对 CsvRows 的 vector 进行排序
SortRowsStruct s(this);
std::sort(all_rows_.begin(), all_rows_.end(), s);
这一行看起来很可疑,但我想不出更简单的方法来初始化这些哈希集。
distinct_values_.push_back( *new __gnu_cxx::hash_set<std::string,
std::hash<std::string> >() );
在析构函数中删除那些哈希集会使程序崩溃(SIGSEGV)哦,还有一件事要指出,由于我的 MinGW 是 64 位的,我不能使用默认的 32 位 gdb 调试器。 32 位 gdb 存在漏洞,无法与 MinGW 64 一起使用。
编辑:
可以 boost::flyweight<std::string>
我在 CsvRow 类中使用的哪个导致了问题?
除此之外,这里是 CsvRow
的一部分类:
private:
std::vector<boost::flyweights::flyweight<std::string> > row_data_;
重载[]
CsvRow
上的运算符(operator)类:
std::string const& CsvRow::operator[](std::size_t index) const
{
boost::flyweights::flyweight<std::string> fly = row_data_[index];
return fly.get();
}
提前致谢
编辑 - 已解决:所以,这个问题解决了我的问题,虽然我根本没想到。我们传递给 std::sort()
的每个自定义比较器必须是严格的弱排序,即:
1。反身
2. 不对称
3.传递性
4. 不可比性的传递性
更多信息:This question和 This Wiki article
其实我并没有按照第一个(irreflexivity),也就是说,如果两个CsvRow
对象相等,它不应该“比较”它们并返回 true
就好像他们没事一样,而是返回 false
.我通过在 CsvRow a
时仅更改默认返回值解决了整个问题。和 CsvRow b
是平等的。
bool operator() (CsvRow a, CsvRow b)
{
for (unsigned int i=0; i<a.size(); i++) {
if(a[r->sorting_order_[i]] != b[r->sorting_order_[i]]) {
...
...
}
}
return false; //this line does not violate the irreflexivity rule
//return true; //but this one does
}
感谢所有试图提供帮助的人。请记住此解决方案,以防您遇到类似问题。这非常棘手。
最佳答案
这个:
distinct_values_.push_back( *new __gnu_cxx::hash_set<std::string,
std::hash<std::string> >() );
看起来您正在尝试向 vector 中添加一个默认构造的元素。有一个更简单的方法:
distinct_values_.resize(distinct_values_.size() + 1);
除了更容易输入、更通用之外,它也更正确:我们不应该new
这里的任何东西,只是在最后创建一个单一的值,我们应该让vector 构造它而不是复制它,这可能是浪费。
当然,我们永远不应该尝试删除
这些值。
关于C++ 使用 std::sort 为非常小的 std::vector 抛出 std::bad_alloc 异常,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/20295680/
更新:随意给我反对票,因为问题是我将文件命名为 _stylesheet.html.erb 而不是 _stylesheets.html.erb。我以为我检查了拼写,但显然我没有。我很抱歉浪费了大家的时间
我有一个 Inno Script istaller 在其中运行子 setup.exe 。当向主安装程序提供静默安装参数时,我必须向 setup.exe 提供静默安装参数。 Inno脚本运行命令: [R
我正在尝试在大型数据库中搜索长的、近似的子字符串。例如,一个查询可能是一个 1000 个字符的子字符串,它可能与匹配项相差数百个编辑的 Levenshtein 距离。我听说索引 q-gram 可以做到
我正在尝试在我的应用程序中实现一个非常简单的绘图 View 。这只是我的应用程序的一小部分,但它正在变成一个真正的麻烦。这是我到目前为止所拥有的,但它现在显示的只是莫尔斯电码,如点和线。 - (v
我有一个运行非常慢的 sql 查询,我很困惑为什么。查询是: SELECT DISTINCT(c.ID),c.* FROM `content` c LEFT JOIN `content_meta`
我搜索过这个,但我发现的所有结果对我来说都毫无意义,而且似乎太复杂了。我希望使用 json 或 simplejson 模块来获取对象中字符串的值。 string = '{"name": "Alex"}
我想编写一个流量生成器来复制正在运行的计算机对内存进行的原始读写需求。 但是正在运行的计算机在其内存引用中也显示出(非常强的)局部性,并且在 64 位地址空间中,只会引用非常小范围的地址(事实上,我已
我正在尝试做一个 Project Euler问题,但它涉及添加一个非常大的数字的数字。 (100!) 用Java的int和long太小了。 谢谢你的建议 最佳答案 类 BigInteger看起来它可能
我想在游戏中实现一个物理引擎,以便计算物体在受力时的轨迹。该引擎将根据对象的先前状态计算对象的每个状态。当然,这意味着要在两个时间单位之间进行大量计算才能足够精确。 为了正确地做到这一点,我首先想知道
Edit3:通过将数组的初始化限制为仅奇数进行优化。谢谢@Ronnie! Edit2:谢谢大家,看来我也无能为力了。 编辑:我知道 Python 和 Haskell 是用其他语言实现的,并且或多或少地
背景 我有一个我编写的简单媒体客户端/服务器,我想生成一个非显而易见的时间值,我随每个命令从客户端发送到服务器。时间戳将包含相当多的数据(纳秒分辨率,即使由于现代操作系统中定时器采样的限制,它并不真正
一位招聘软件工程师的 friend 希望我为他开发一个应用。 他希望能够根据技能搜索候选人的简历。 正如您想象的那样,可能有数百、可能数千种技能。 在表格中表示候选人的最佳方式是什么?我在想 skil
我的意思是“慢”,回调类型等待远程服务器超时以有效触发(调用 vimeo 提要,解析它,然后在场景中显示 uiviews) 我大多不明白它是如何工作的。我希望在返回响应后立即从回调中填充我的 View
您好,我正在研究使用快速可靠的生产者消费者队列进行线程切换。我正在使用 VC++ 在 Windows 上工作。 我的设计基于 Anthony Williams队列,基本上就是一个带有 boost::c
我只是想知道您使用 resharper 的经验。我们有一个非常重的 dbml 文件,因为我们的数据库有很多表,每次我需要打开该文件时,我都会收到来自 resharper 的大量异常。以前有人遇到过这个
我目前正在使用 jQuery 中的隐藏/显示功能来帮助从选择框中将表格过滤成组。 实际代码运行良好,但速度非常慢,有时需要一两分钟才能执行。 我切换了代码,所以它使用 css({'display':'
我按顺序调用了以下两个方法(按顺序使用适当的类级别字段) public const string ProcessName = "This is" public const string WindowT
我很难理解描述反射包的文档/示例。我是一名命令式编程老手,但也是一名 Haskell 新手。你能引导我完成一个非常简单的介绍吗? 包裹:https://hackage.haskell.org/pack
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的,因为
我正在尝试编写一段代码来操作一个很长的文档(超过一百万行)。在这个文本文件中,有固定间隔(每 1003 行)和之间的某些时间戳有我需要的数据,它有 1000 行长,还有一个标题和两个空行,但我不需要。
我是一名优秀的程序员,十分优秀!