gpt4 book ai didi

python - 为什么在浏览器开发工具和 BeautifulSoap/Postman 中获取不同的数据?

转载 作者:行者123 更新时间:2023-12-02 01:41:12 25 4
gpt4 key购买 nike

我想从这个网页中抓取数据

我想获取所有博客...在结果标签 (<div class="results">)

在浏览器工具中,结果标签下显示有 10 个片段... enter image description here

但是使用 Beautifulsoap 我得到了

<div class="results">
</div>

postman 得到同样的东西..

我就是这样做的..

topicuri = "\"
r = s.get(topicuri)
soup = BeautifulSoup(r.text, 'html.parser')
pages = soup.find('div', {'class': 'results'})
print(pages)

最佳答案

该网站使用 Javascript 来显示片段。 BeautifulSoup 不执行 Javascript,而浏览器执行。您可能希望在 Python 中使用 Chromium 引擎来抓取基于 Javascript 的内容。

关于python - 为什么在浏览器开发工具和 BeautifulSoap/Postman 中获取不同的数据?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/71585121/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com