个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
24
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章python爬虫获取京东手机图片的图文教程由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
如题，首先当然是要打开京东的手机页面 。
因为要获取不同页面的所有手机图片，所以我们要跳转到不同页面观察页面地址的规律，这里观察第二页页面 。
由观察可以得到，第二页的链接地址很有可能是 。
https://list.jd.com/list.html?cat=9987,653,655&page=2 。
那么对应第n页的地址就是 。
https://list.jd.com/list.html?cat=9987,653,655&page=n 。
我们就可以利用这个规律在编程的时候打开自己想要获取的页面了 。
接着我们查看页面的源代码，观察图片链接的规律 。
我们使用在源代码的页面使用ctrl+f查找，然后在查找框里面输入页面第一台手机的名字 “vivo X9s 全网通 4GB+64GB 玫瑰金 移动” 快速定位到图片链接附近的代码，便于后面编程对图片范围进行筛选 。
可以看到，上图的画红线的三个部分，<div id="plist" 在这一页中是唯一出现的一个元素，而且离图片链接比较近，所以可以作为筛选页面的开头位置 。
<img width=“220”……这个是手机图片的信息，我们要获取的是后面 。
//img14.360buyimg.com/n7/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg 。
这个链接，但是观察发现后面也有一个图片链接 。
img data-sku="5291744" width="25" height="25" class="loading-style2" src="//img14.360buyimg.com/n9/jfs/t6088/107/5539077608/409616/7f98b2bb/596c2edaN9792cd20.jpg" 。
这个很明显不是我们要找的手机图片链接 。
所以我们要使用正则表达式将真正的图片链接筛选出来，观察发现这两个图片链接的区别在于手机图片链接里面含有n7元素，而另外一个图片链接含有n9元素，这样子我们的正则表达式就可以表示为pat2 = '//.+?/n7/.+?\.jpg' 。
接着我们要找到这个页面最后一张手机图片的位置，方便找出可以作为筛选页面的结束位置，方法和上面类似，在源代码搜索框输入 小米（MI） 红米Note4X 手机 香槟金 全网通 3GB+32GB 定位到页面最后一张图片位置 。
可以看到，下面<div class="page clearfix">在该页面中是唯一的，而且比较接近最后一张手机图片附近的链接，所以可以作为筛选结尾位置的元素，其实筛选的元素只要满足唯一并且接近我们要获取的目标，那么也可以作为我们要选取的元素 。
经过上面准备之后，我们得出了大概的思路 。
1首先进行第一次筛选，使用正则表达式pat1 = '<div id="plist".+<div class="page clearfix">'将图片链接的范围大概筛选出来 。
2然后进行第二次筛选，使用正则表达式pat2 = '//.+?/n7/.+?\.jpg'将手机图片链接筛选出来 。
3使用urllib.urlretrieve保存链接图片到本地 。
下面给出python代码 。
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
|
# -*- coding: UTF-8 -*-
import re
import urllib2
import urllib
def craw(url, page):
html1 = urllib2.urlopen(url).read()
html1 = str(html1)
pat1 = '<
div
id
=
"plist"
.+<div
class
=
"page clearfix"
>'
result1 = re.compile(pat1, re.DOTALL).findall(html1)
#获取第一次筛选结果
result1 = result1[0]
#*匹配0个或者多个前面表达式
#.匹配任意字符，加上re.dotall包括换行符
#+匹配1个或者多个前面表达式
#?非贪婪匹配，就是只匹配一组
#筛选出图片链接列表
pat2 = '//.+?/n7/.+?\.jpg'
imagelist = re.compile(pat2).findall(result1)
#x作为图片文件的顺序
x=1
for imageurl in imagelist:
imagename = "C:/Users/Administrator/Desktop/jdphone_img/" + str(page) + str(x) + ".jpg"
imageurl = "http:" + imageurl
try:
#保存图片
urllib.urlretrieve(imageurl, filename=imagename)
except urllib2.URLError as e:
#hasattr判断对象里面是否有name属性
if hasattr(e, "code"):
x+=1
if hasattr(e, "reason"):
x+=1
x+=1
for i in range(1, 3):
url = "https://list.jd.com/list.html?cat=9987,653,655&page=" + str(i)
craw(url, i)
|
注意：我这里只保存了第一二页的手机图片，在进行第二次筛选的时候正则表达式之所以会加了一个"?"进行非贪婪匹配，也就是一次只筛选出一张手机图片链接，如果不加这个非贪婪匹配那么我们会把第一个含有“//”到最后一个结尾含有.jpg之间的所有内容都会筛选出来，显示是不符合的，在这里建议可以把正则表达式的?去掉，然后看一下输出结果，去体会一下非贪婪匹配是怎么样的.
原文链接：http://blog.csdn.net/qq_26614295/article/details/78918159 。
最后此篇关于python爬虫获取京东手机图片的图文教程的文章就讲到这里了,如果你想了解更多关于python爬虫获取京东手机图片的图文教程的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
24
4
0
我想使用 Angular.js 转换从服务器获取的图像数据(用于 ionic 框架)，我使用了这段代码: $http.post(link, { token: token,
我正在为我的应用制作一个登陆页面。如果它们在 iOS 设备上，我希望它只显示“App Store”图标，但在 Android 上隐藏它。如果它们在 Android 设备上，则只有“Play Store
如何在同一页面上多次显示同一张图片？ function xdf(){ for (i=0;ihello world'); } } 此代码显示“hello world”10 次。我想要同样的东西，
您好，我有一个 1px 的 png 文件，我试图将其设置为两个水平相邻的 div 的背景图像。html 和 css 如下:- hi hello css是这样的 div { width: 50%
我的 PHP 项目安装了 Prestashop 1.4.9.0。当我添加一个新产品时，我上传了一个PNG格式的图片，但是当它在客户端显示时，图片是JPG格式的。 如何保留图片扩展名？ 最佳答案 在后台
我用 http://www.regexper.com查看一个象形表示正则表达式很多。我想要一种理想的方法: 向站点发送正则表达式 打开显示该表达式的站点 例如，让我们使用正则表达式:"\\s*foo[
我不知道为什么在 MAC OS X (Mail 6.2) 的邮件客户端中图像显示如下: 和其他邮件客户端，如 gmail、outlook 或 private，图像是正确的，看起来像这样: PHP邮件程
我正在使用此处找到的示例。 Mozilla developers 我对这个例子很感兴趣。 function upload(postUrl, fieldName, filePath) { var f
我不知道为什么在 MAC OS X (Mail 6.2) 的邮件客户端中图像显示如下: 和其他邮件客户端，如 gmail、outlook 或 private，图像是正确的，看起来像这样: PHP邮件程
我的问题是如何根据用户在javafx中选择的复选框和/或单选按钮生成带有汽车图片设置的按钮？ 我正在用汽车图片模拟汽车经销商网站。用户应该能够通过单击复选框和/或单选按钮选择来过滤显示的图片。 我首先
我正在开发Java客户端，它应该支持多种语言。为了翻译文本，我使用 Java ResourceBoundle，它工作正常。 现在问题出在图像上。客户端应加载大约 50 张图像，这些图像是棋盘游戏的特定
我对 jQuery 还很陌生，但我正在寻找一个简单的脚本，通过淡入和淡出的方式在标题中循环 3 或 4 个背景图像。它们是透明的 png，因此我尝试过的许多 slider 都不起作用。 有什么想法吗？
我有一个 HTML 文档，其中包含本地文件的图像，例如: ios - 物理主体大于它分配给的纹理(图片)
我的 Sprite “physicsBody ”属性之一出现问题。 我已经放置了physicsBody节点“barn ”，直接位于 non-physicsBody 之上节点“mound”没有任何问题。
我想剪切图片的特定部分并用它来将剪切的图像与存储在 HDD 中的另一个图像进行比较。问题是我不知道如何获取源图像的特定部分。我知道要裁剪的图像的位置 (X,Y)。 最佳答案 这将加载原始版本并创建
如何使用裁剪实用程序在 javascript 中实现图像 uploader 。你如何通过 AJAX 提交图像文件？解决方案是否跨域兼容？ 最佳答案 要实现具有裁剪功能的图片上传小部件，您必须: 将图像
public void onActivityResult(int requestCode, int resultCode, Intent data) { super.onActivityRes
我想在我的 android 应用程序中显示一个国家的图片。国家必须按地区划分。因此，当用户单击特定区域时，应打开特定屏幕。区域也应该用线分隔，以便用户可以看到区域的开始/结束位置。 这是一个国家的例子
首先我想对这个问题表示歉意，因为我知道已经有很多人问过这个问题了。但我搜索的所有答案都没有解决我的问题。所以希望您考虑这个问题并帮助我解决这个问题。 所以基本上我正在尝试上传图像文件，当我提交它时，会
我几乎有了想要的数据...但需要帮助过滤它。 (图在底部) 下面的查询返回状态为 Member-id5 的所有记录，但我需要对其进行过滤。例如:如果我对等做了一个简单的查询。 (exp_channel
我是一名优秀的程序员,十分优秀！