gpt4 book ai didi

python爬虫中get和post方法介绍以及cookie作用

转载 作者:qq735679552 更新时间:2022-09-28 22:32:09 25 4
gpt4 key购买 nike

CFSDN坚持开源创造价值,我们致力于搭建一个资源共享平台,让每一个IT人在这里找到属于你的精彩世界.

这篇CFSDN的博客文章python爬虫中get和post方法介绍以及cookie作用由作者收集整理,如果你对这篇文章有兴趣,记得点赞哟.

首先确定你要爬取的目标网站的表单提交方式,可以通过开发者工具看到。这里推荐使用chrome.

这里我用163邮箱为例 。

打开工具后再Network中,在Name选中想要了解的网站,右侧headers里的request method就是提交方式。status如果是200表示成功访问下面的有头信息,cookie是你登录之后产生的存储会话(session)信息的。第一次访问该网页需要提供用户名和密码,之后只需要在headers里提供cookie就可以登陆进去.

引入requests库,会提供get和post的方法.

代码示例:

?
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
import requests
import ssl
 
user_agent = "Mozilla/5.0 (Windows NT 10.0; WOW64; rv:50.0) Gecko/20100101 Firefox/50.0"
accept = 'text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8'
accept_language = 'zh-CN,zh;q=0.8,en-US;q=0.5,en;q=0.3'
upgrade = '1'
headers = {
   'User-Agent' :user_agent,
   'Accept' :accept,
   'Accept-Language' :accept_language,
'Cookie' : '....' #这里填入你登陆后产生的cookie
}
r = requests.get( "http://mail.163.com/js6/main.jsp?sid=OAwUtGgglzEJoANLHPggrsKKAhsyheAT&df=mail163_letter#module=welcome.WelcomeModule%7C%7B%7D" ,headers = headers,verify = False )
fp = open ( "/temp/csdn.txt" , "w" ,encoding = 'utf-8' )
fp.write( str (r.content, 'utf-8' ))
fp.close()

这里我引入了ssl库,因为我第一次访问的网页证书过期。如果我们使用爬虫进入这样的网站时,会报错:SSLError: [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed (_ssl.c:581) 。

在requests的get和post方法中,有一个参数为verify,把他设为False后会禁掉证书的要求 。

原文链接:http://blog.csdn.net/fengzhizi76506/article/details/60783488 。

最后此篇关于python爬虫中get和post方法介绍以及cookie作用的文章就讲到这里了,如果你想了解更多关于python爬虫中get和post方法介绍以及cookie作用的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com