gpt4 book ai didi

java - 用 Java 解析一个很大的格式不正确的文件

转载 作者:行者123 更新时间:2023-11-30 09:52:07 25 4
gpt4 key购买 nike

我必须解决一个接近于解析 3 GB 或更大文件的问题。好吧,该文件的结构类似于伪 xml 文件:

<docFileNo_1>
<otherItems></otherItems>

<html>
<div=XXXpostag>
</html>

</docFileNo>
... others doc...
<docFileNo_N>
<otherItems></otherItems>

<html>
<div=XXXpostag>
</html>

</docFileNo>

网上冲浪我读到一些人在管理文件时遇到问题,但他们建议我使用 NIO 映射文件。所以我认为解决方案过于广泛,可能会让我抛出异常。所以我认为我的问题是解决 2 个问题:

  1. 如何及时高效地阅读3 GB 的文本文件
  2. 如何解析 有效地从中提取html docFileNoxx,并将规则应用于 提取帖子的 html 标签标签。

所以..我尝试用这种方式解决第一个问题:

  1. _reader = new BufferedReader(新FileReader(filePath))//创建一个文件缓冲区读取器
  2. _currentLine = _reader.readLine();//我迭代文件读取它逐行
  3. 对于每一行,我附加这些行到一个 String 变量直到遇到标签
  4. 所以使用 JSOUP 和 post CSS 过滤器我提取内容,然后把它放在文件。

提取 25 MB 的过程平均需要大约 88 秒....所以我想执行它。

我如何进行提取??

最佳答案

无论你做什么,不要做什么(伪代码):

String data = "";
for line in file {
data += line;
}

但使用 StringBuilder:

StringBuilder data = new StringBuilder();
for line in file {
data.append(line);
}
return data.toString();

此外,考虑遍历文件并创建一个只包含有趣部分的 map 。我假设您没有 XML,但只是看起来有点像它,您给出的示例是内容的公平表示。

Map<String, String> entries = new HashMap<String,String>(1000);
StringBuilder entryData = null;
for line in file {
if line starts with "<docFileNo" {
docFileNo = extract number from line;
} else if line starts with "<div=XXXpostag>" {
// Content of this entry starts here
entryData = new StringBuilder();
} else if line starts with "</html>" {
// content of this entry ends here
// so store content, and indicate that the entry is finished by
// setting data to null
entries.put(docFileNo, entryData.toString);
entryData = null;
} else if entryData is not null {
// we're in an entry as data is not null, so store the line
entryData.append(line);
}
}

map 只包含条目大小的字符串,这使得它们更容易处理。我认为您需要使其适应真实数据,但这是您可以在大约半小时内测试的内容。

线索是entryData。它不仅是构建 1 个条目数据的 StringBuilder,而且如果不是 null,它还表示我们看到了一个开始条目标记(div),如果为 null,我们看到了结束标记 (</html>)指示下一行不需要存储。

我假设你想保留文档编号,并且 XXXposttag 是不变的。

此逻辑的替代实现可以使用 Scanner类。

关于java - 用 Java 解析一个很大的格式不正确的文件,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/4355107/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com