个人中心
文章发布
退出
作者热门文章
- Java 双重比较
- java - 比较器与 Apache BeanComparator
- Objective-C 完成 block 导致额外的方法调用？
- database - RESTful URI 是否应该公开数据库主键？
24
4
我希望能够抓取一个 HTML 页面并仅使用 Javascript 解析它，不接触服务器。
假设我可以获得 html 响应(解决了跨域问题)，我如何在完整的 html 文档上使用 jQuery？
例子是这样的( here is a full gist with a remote example ):
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" lang="en" xml:lang="en">
<head>
<title>Parent Page wanting to Parse Children</title>
<script type="text/javascript" src="http://ajax.googleapis.com/ajax/libs/jquery/1.4.2/jquery.min.js"></script>
<meta name="keywords" content="parent, html, parsing">
</head>
<body>
<script type="text/javascript">
$(document).ready(function() {
// data looks like this:
var html = ""
html += '<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd">'
html += '<html xmlns="http://www.w3.org/1999/xhtml" lang="en" xml:lang="en">'
html += ' <head> '
html += ' <title>Sub Page to Parse</title> '
html += ' <script type="text/javascript" src="http://ajax.googleapis.com/ajax/libs/jquery/1.4.2/jquery.min.js"><\/script>'
html += ' <meta name="keywords" content="parent, html, parsing"> '
html += ' </head> '
html += ' <body> '
html += ' <script type="text/javascript"> '
html += ' alert("im javascript"); '
html += ' setTimeout(function() { '
html += ' $("body").css("background-color", "#ffaaaa") '
html += ' }, 400); '
html += ' <\/script> '
html += ' <div id="child_div"></div> '
html += ' </body> '
html += '</html>'
// this works fine:
// $("#parent_div").append(html);
// $("#child_div")
// .width(100)
// .height(100)
// .css("background-color", "yellow")
// .append("<p>child text</p>");
// ... but that's not what I am trying to do...
// reason being: i don't want to add this sub-html page to the dom...
// I just want to scrape it for data...
// I want to do this, but I am getting null for every case:
var meta = $(html).find("meta");
alert(meta.html());
var title = $(html).find("title");
alert(title.html());
});
</script>
<div id="parent_div"></div>
</body>
</html>
问题是，var child_body = $(data).find("body");不给我任何东西。我不确定我应该如何使用 jQuery 遍历这个完整的 html 文档。我试图删除 <!DOCTYPE...>标记，但这作用不大。
这样的事情可能吗？
我一直在搞John Resig's Javascript HTML Parser但这还没有完全涵盖它。
有没有更合适的 XPath javascript 库？
最佳答案
问题不完全出在 jQuery 中，而是浏览器中的差异 .innerHTML执行。不同的浏览器以不同的方式处理这个问题，例如，在 Opera 中，您的示例工作正常，Firefox 可以调整，在 IE8 中，它可以调整一半，而 Chrome 会删除所有内容。
关键在于他们如何处理 .innerHTML打电话，这是什么jQuery uses internally什么时候creating document fragments .
Here's a quick test page using the exact HTML you have ，以及一些浏览器的结果:
Chrome 6(运行 alert()，去除几乎所有东西):
<div id="child_div"></div>
<head>内容被剥夺，什么也得不到IE8(运行 alert()，它保留 <meta>，但作为顶级元素，test it in IE here):
<META name=keywords content="parent, html, parsing">
<DIV id=child_div></DIV>
$(html).filter("meta").attr("name") : "关键词"<title>被剥夺了Firefox 3.6(运行 alert()，保留 <head> 内容，但再次作为顶级元素，test it here):
<title>Sub Page to Parse</title>
<meta name="keywords" content="parent, html, parsing">
<div id="child_div"></div>
$(html).filter("meta").attr("name") : "关键词"$(html).filter("title").html() : "要解析的子页面"Opera 10.6(运行 alert()，仅去除脚本，test it here):
<head>
<title>Sub Page to Parse</title>
<meta name="keywords" content="parent, html, parsing">
</head>
<div id="child_div"></div>
$(html).find("meta").attr("name") : "关键词"$(html).find("title").html() : "要解析的子页面"所以问题不在于 jQuery，而是不同的浏览器在他们的 .innerHTML 中做了什么剥离他们想要的任何东西的方法。这使得解析 <head> 中的任何内容特别不可靠，请注意当它被保留时，它可能是也可能不是顶级元素，例如 $(html).length会有所不同。
我会说你在这里有两个选择，但都不太吸引人:
抱歉，答案很糟糕，但似乎跨浏览器问题，除非你自己解析，否则将成为 killer ，并使 jQuery 几乎无用。
关于jquery - 使用 jQuery 抓取 HTML 文档，这可能吗？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/3217632/
24
4
0
如本answer所述，如果浏览器不支持 e，可以设置后备游标。 G。 光标:抓取；。我现在的问题是获取这些图像。在我的驱动器上本地搜索“.cur”只给了我系统光标，其中 grab.cur 和 grab
以下代码在计算机上运行以从 Instagram 帐户中抓取数据。当我尝试在 VPS 服务器上使用它时，我被重定向到 Instagram 登录页面，因此脚本不起作用。 为什么当我在电脑上或服务器上时，I
我在使用 Ruby 和 Mechanize 将 POST 查询传递到站点的网站上。访问站点的查询基于 firebug，如下所示 param.PrdNo=-1¶m.Type=Prop¶m
我正在尝试抓取一个具有多个页面结果的网站，例如“1、2、3、4、5...”。 每个分页号都是到另一个页面的链接，我需要抓取每个页面。 到目前为止，我想出了这个: while lien = page.l
我正在使用 HtmlAgilityPack 在 C# Asp.Net 中执行 Scraping，到目前为止，我在从多个 Web 执行 Scratch 时没有遇到问题，但是，尝试弹出以下代码时出现错误
如果我有一个 css 文件做这样的事情 #foo:after{content:"bar;} ，有没有办法用 javascript 获取 :after 的内容？获取父元素的内容只返回 #foo 元素的内
问题是这样的: 我有一个 Web 应用程序 - 一个经常更改的通知系统 - 在一系列本地计算机上运行。该应用程序每隔几秒刷新一次以显示新信息。计算机仅显示信息，没有键盘或任何输入设备。 问题是，如果与
我想制作一个程序来模拟用户浏览网站和点击链接。必须启用 Cookie 和 javascript。我已经在 python 中成功地做到了这一点，但我想把它写成一种可编译的语言(python ide 不会
我制作了这个小机器人，它通过搜索参数列表进行处理。它工作正常，直到页面上有几个结果: product_prices_euros 给出了一半为空的项目列表。因此，当我与 product_prices_c
我需要找到一个单词的匹配项，例如: 在网上找到所有单词“学习”https://www.georgetown.edu/(结果:4个字)(您可以看到它按CTRL + F并搜索) 我有我的 Python 代
有一个站点\资源提供一些一般统计信息以及搜索工具的界面。这种搜索操作成本高昂，因此我想限制频繁且连续(即自动)的搜索请求(来自人，而不是来自搜索引擎)。 我相信有很多现有的技术和框架可以执行一些情报抓
这并不是真正的抓取，我只是想在网页中找到类具有特定值的 URL。例如: 我想获取 href 值。关于如何做到这一点的任何想法？也许正则表达式？你能发布一些示例代码吗？我猜 html 抓取库，比如 B
我正在使用 scrapy。 我正在使用的网站具有无限滚动功能。 该网站有很多帖子，但我只抓取了 13 个。 如何抓取剩余的帖子？ 这是我的代码: class exampleSpider(scrapy.
我正在尝试从这个 website 中抓取图像和新闻 url .我定义的标签是 root_tag=["div", {"class":"ngp_col ngp_col-bottom-gutter-2 ng
关闭。这个问题需要更多focused .它目前不接受答案。 想改进这个问题吗？ 更新问题，使其只关注一个问题 editing this post . 关闭上个月。 Improve this ques
我在几个文件夹中有数千个 html 文件，我想从评论中提取数据并将其放入 csv 文件中。这将允许我为项目格式化和清理它。例如，我在这个文件夹中有 640 个 html 文件: D:\My Web S
我在编写用于抓取网页的实用程序时遇到了一个问题。 我正在发送 POST 请求来检索数据，我模仿我正在抓取的网络行为(根据使用 fiddler 收集的信息)。 我已经能够自动替换我的 POST 中除 V
对于 Googlebot 的 AJAX 抓取，我在我的网站中使用“_escaped_fragment_”参数。 现在我查看了 Yandex 对我网站的搜索结果。 我看到搜索结果中不存在 AJAX 响应
我正在尝试抓取网站的所有结果页面，它可以工作，但有时脚本会停止并显示此错误: 502 => Net::HTTPBadGateway for https://website.com/id/12/ --
我是一个学习网络爬虫的初学者，由于某种原因我无法爬网this地点。当我在 Chrome 中检查它时，代码看起来不错，但是当我用 BeautifulSoup 阅读它时，它不再是可刮的。汤提到“谷歌分析”
我是一名优秀的程序员,十分优秀！