个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
25
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章java爬虫Gecco工具抓取新闻实例由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
最近看到Gecoo爬虫工具，感觉比较简单好用，所有写个DEMO测试一下，抓取网站 http://zj.zjol.com.cn/home.html，主要抓取新闻的标题和发布时间做为抓取测试对象。抓取HTML节点通过像Jquery选择器一样选择节点，非常方便，Gecco代码主要利用注解实现来实现URL匹配，看起来比较简洁美观.
添加Maven依赖 。
|
1
2
3
4
5
|
<
dependency
>
<
groupId
>com.geccocrawler</
groupId
>
<
artifactId
>gecco</
artifactId
>
<
version
>1.0.8</
version
>
</
dependency
>
|
编写抓取列表页面 。
|
1
2
3
4
5
6
7
8
9
10
11
|
@Gecco
(matchUrl =
"http://zj.zjol.com.cn/home.html?pageIndex={pageIndex}&pageSize={pageSize}"
,pipelines =
"zJNewsListPipelines"
)
public
class
ZJNewsGeccoList
implements
HtmlBean {
@Request
private
HttpRequest request;
@RequestParameter
private
int
pageIndex;
@RequestParameter
private
int
pageSize;
@HtmlField
(cssPath =
"#content > div > div > div.con_index > div.r.main_mod > div > ul > li > dl > dt > a"
)
private
List<HrefBean> newList;
}
|
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
|
@PipelineName
(
"zJNewsListPipelines"
)
public
class
ZJNewsListPipelines
implements
Pipeline<ZJNewsGeccoList> {
public
void
process(ZJNewsGeccoList zjNewsGeccoList) {
HttpRequest request=zjNewsGeccoList.getRequest();
for
(HrefBean bean:zjNewsGeccoList.getNewList()){
//进入祥情页面抓取
SchedulerContext.into(request.subRequest(
"http://zj.zjol.com.cn"
+bean.getUrl()));
}
int
page=zjNewsGeccoList.getPageIndex()+
1
;
String nextUrl =
"http://zj.zjol.com.cn/home.html?pageIndex="
+page+
"&pageSize=100"
;
//抓取下一页
SchedulerContext.into(request.subRequest(nextUrl));
}
}
|
编写抓取祥情页面 。
|
1
2
3
4
5
6
7
8
9
10
11
|
@Gecco
(matchUrl =
"http://zj.zjol.com.cn/news/[code].html"
,pipelines =
"zjNewsDetailPipeline"
)
public
class
ZJNewsDetail
implements
HtmlBean {
@Text
@HtmlField
(cssPath =
"#headline"
)
private
String title ;
@Text
@HtmlField
(cssPath =
"#content > div > div.news_con > div.news-content > div:nth-child(1) > div > p.go-left.post-time.c-gray"
)
private
String createTime;
}
|
|
1
2
3
4
5
6
|
@PipelineName
(
"zjNewsDetailPipeline"
)
public
class
ZJNewsDetailPipeline
implements
Pipeline<ZJNewsDetail> {
public
void
process(ZJNewsDetail zjNewsDetail) {
System.out.println(zjNewsDetail.getTitle()+
" "
+zjNewsDetail.getCreateTime());
}
}
|
启动主函数 。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
public
class
Main {
public
static
void
main(String [] rags){
GeccoEngine.create()
//工程的包路径
.classpath(
"com.zhaochao.gecco.zj"
)
//开始抓取的页面地址
.start(
"http://zj.zjol.com.cn/home.html?pageIndex=1&pageSize=100"
)
//开启几个爬虫线程
.thread(
10
)
//单个爬虫每次抓取完一个请求后的间隔时间
.interval(
10
)
//使用pc端userAgent
.mobile(
false
)
//开始运行
.run();
}
}
|
抓取结果 。
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持我.
最后此篇关于java爬虫Gecco工具抓取新闻实例的文章就讲到这里了,如果你想了解更多关于java爬虫Gecco工具抓取新闻实例的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
25
4
0
有没有一种方法可以使用标准类型构造函数(例如 int、set、dict、list、tuple 等)以用户定义的方式将用户定义类的实例强制转换为其中一种类型？例如 class Example:
我知道这个问题在Stackoverflow中有很多问题，但是即使有很多答案，这些答案也帮不了我什么，也没有找到答案。 在我的WebAPP中，它可以正常工作，但是当我将其转换为API时，它失败了(主题标
这个问题已经有答案了: Why does the ternary operator unexpectedly cast integers? (3 个回答) 已关闭 9 年前。 最近遇到一个Java的陷
我尝试使用 FirebaseApp.configure() 配置 Firebase，但遇到以下崩溃: *** Terminating app due to uncaught exception 'c
我有一个自连接员工实体类，其中包含与其自身相关的 id、name 和 ref 列。我想创建它的新实例并将其保存到数据库。 首先我创建了一个 Employee 类的实例并将其命名为 manager。然后
我有一个用于添加新公寓的表单，在该表单中我有一个下拉列表，用户可以在其中选择负责的人员。 显然，当您从下拉列表中选择并尝试保存公寓时，我的应用程序认为该人已被修改。它给了我下面的错误，指示我应该首先保
从 Visualforce 页面，我需要检索我们组织的 salesforce 实例的 URL，而不是 Visual Force URL。 例如我需要https://cs1.salesforce.com
我遇到了一些可能的问题答案，但这是关于从 Hibernate 3.4.0GA 升级到 Hibernate 4.1.8 的问题。所以这曾经在以前的版本下工作，我已经四处搜索了为什么它在这个新版本中出现了
似乎一遍又一遍地问这个问题，我仍然找不到解决我问题的答案。我在下面有一个域模型。每个新创建或更新的“安全用户”都需要我确保其具有配置文件，如果没有，则创建一个新的配置文件并分配给它。 配置文件的要求相
我很难调试为什么 JPA 不级联我的 @ManyToMany 关系。我发现的所有答案都与缺少级联语句有关。但我确实拥有它们并且仍然得到: Caused by: org.hibernate.Transi
Play 服务 API 表明有一个叫做 Instance ID 的东西 但是，在 Android Studio 中包含以下内容后，我无法导入 InstanceID 类 compile "com.goo
我正在使用 Seam 框架。我有 2 个实体: 请求.java @Entity @Table(name = "SRV_REQUEST") public class Request { private
This question处理构建一个适当的Monad来自单子(monad)的实例，但仅在某些约束下 - 例如Set .诀窍是将其包装成 ContT ，它将约束推迟到包装/展开其值。 现在我想对 Ap
我正在尝试执行此查询: StringBuffer sb = new StringBuffer(); sb.append("select p from PointsEntity p " + "where
我试图了解是否可以更改我的 hibernate 配置并使用单个 MySQL 实例(而不是我当前拥有的多个 MySQL 实例): 我有一个使用 hibernate 的 Java 应用程序，与 2 个模式
我有一个选项卡滑动布局，其中包括四个选项卡，每个选项卡都有自己的布局和 fragment ，在我的主要 Activity 布局中，viewpager 参与更改选项卡。特定 View (选项卡)在应用程
我看到很多帖子声称他们正在运行 MySql 的 RDS 实例，但无法连接到该实例，但我没有运行 RDS。 我使用 EC2 实例来托管我的 WordPress 博客，该博客是使用 Web 平台安装程序安
因为我在我的 ec-2 实例上的 python 虚拟环境中运行应用程序( Airflow )，并且我想在同一个 ec2 实例上的默认 python 环境中运行命令，所以我认为 ssh 到我自己的实例更
这个问题已经有答案了: How to fix the Hibernate "object references an unsaved transient instance - save the tra
例子: run APP1 .. ... run APP1 ... run APP2 如何在 APP2 中对 Vue 说我需要调用 APP1？
我是一名优秀的程序员,十分优秀！