python - BeautifulSoup:抓取嵌入的 href 链接列表

Question

我正在这里抓取一些最新热门视频的信息 https://www.youtube.com/feed/trending 。我将页面加载到 BeautifulSoup 中，但在尝试运行我需要解析的 div 列表时出现错误。

import urllib2
from bs4 import BeautifulSoup

url = 'https://www.youtube.com/feed/trending'
page = urllib2.urlopen(url)
soup = BeautifulSoup(page,'html.parser')

#narrow in to divs with relevant meta-data
videos = soup.find_all('div',class_='yt-lockup-content')
videos[50].div.a['href'] #checking one specific DIV
>>u'user/nameofchannel' #works

到目前为止，我已经返回了我需要的信息，但是当我尝试运行所有 div(截至撰写本文时，本页上有 70 个以上)时，我收到与此方法返回的数据类型相关的错误。

for v in videos:
     videos[v].div.a['href']
>> TypeError: list indices must be integers, not Tag

如何遍历“videos”中返回的 div 列表并打印出与“video[n].div.a['href'] 匹配的值列表？

Answer 1

for v in range(len(videos)):
     videos[v].div.a['href']

您需要的是 videos 列表的索引，而不是其中的标签。

更好:

for index, value in enumerate(videos):
    videos[index].div.a['href']

好多了:

[v.div.a['href'] for v in videos]

对于此类任务，建议使用列表理解