gpt4 book ai didi

python - 带有状态码 200 重定向的链接

转载 作者:行者123 更新时间:2023-11-28 17:08:24 24 4
gpt4 key购买 nike

我有一个状态代码为 200 的链接。但是当我在浏览器中打开它时,它会重定向。

在使用 Python Requests 获取相同的链接时,它只显示来自原始链接的数据。我尝试了 Python Requests 和 urllib,但都没有成功。

  1. 如何抓取最终 URL 及其数据?

  2. 状态为 200 的链接如何重定向?

>>> url ='http://www.afaqs.com/news/story/52344_The-target-is-to-get-advertisers-to-switch-from-print-to-TV-Ravish-Kumar-Viacom18'
>>> r = requests.get(url)
>>> r.url
'http://www.afaqs.com/news/story/52344_The-target-is-to-get-advertisers-to-switch-from-print-to-TV-Ravish-Kumar-Viacom18'
>>> r.history
[]
>>> r.status_code
200

This is the link

Redirected link

最佳答案

这种重定向是由 JavaScript 完成的。因此,您不会使用 requests.get(...) 直接获取重定向链接。原始 URL 具有以下页面源:

<html>
<head>
<meta http-equiv="refresh" content="0;URL=http://www.afaqs.com/interviews/index.html?id=572_The-target-is-to-get-advertisers-to-switch-from-print-to-TV-Ravish-Kumar-Viacom18">
<script type="text/javascript" src="http://gc.kis.v2.scr.kaspersky-labs.com/D5838D60-3633-1046-AA3A-D5DDF145A207/main.js" charset="UTF-8"></script>
</head>
<body bgcolor="#FFFFFF"></body>
</html>

在这里,您可以看到重定向的 URL。你的工作就是把它刮掉。您可以使用 RegEx 或简单的一些字符串拆分操作来完成。

例如:

r = requests.get('http://www.afaqs.com/news/story/52344_The-target-is-to-get-advertisers-to-switch-from-print-to-TV-Ravish-Kumar-Viacom18')
redirected_url = r.text.split('URL=')[1].split('">')[0]
print(redirected_url)
# http://www.afaqs.com/interviews/index.html?id=572_The-target-is-to-get-advertisers-to-switch-from-print-to-TV-Ravish-Kumar-Viacom18

r = requests.get(redirected_url)
# Start scraping from this link...

或者,使用正则表达式:

redirected_url = re.findall(r'URL=(http.*)">', r.text)[0]

关于python - 带有状态码 200 重定向的链接,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/49513214/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com