Python BeautifulSoup 返回空列表

Question

我正在尝试创建一个 Python 脚本，以使用 BeautifulSoup 从 tcgplayer.com 提取 Yugioh Card 的价格。当您在此网站上搜索卡时，它会返回一个搜索结果页面，其中包含来自不同卖家的多个价格。我的目标是拉低所有这些价格。在下面的示例中，我打开名为“A”Cell Breeding Device 的卡片的搜索​​结果:

import urllib2
from bs4 import BeautifulSoup
html = urllib2.open('http://shop.tcgplayer.com/productcatalog/product/show?newSearch=false&ProductType=All&IsProductNameExact=false&ProductName=%22A%22%20Cell%20Breeding%20Device')
soup = BeautifulSoup(html, 'lxml')
soup.find_all('span', {'class': 'scActualPrice largetext pricegreen'})

几天前，正确运行 soup.find_all 行给了我需要的信息。但是，现在运行它会给我一个空数组 []。我已经非常广泛地搜索了 BeautifulSoup 返回一个空数组，但我不确定它们是否适用于我，因为它几天前工作得很好。有人可以帮我指出正确的方向吗？提前致谢!

Answer 1

你应该使用 selenium使用真实浏览器进行抓取:

from selenium import webdriver

driver = webdriver.Chrome('/path/to/chromedriver')
driver.get('http://shop.tcgplayer.com/productcatalog/product/show?newSearch=false&ProductType=All&IsProductNameExact=false&ProductName=%22A%22%20Cell%20Breeding%20Device')
prices = driver.find_elements_by_css_selector('.scActualPrice')
for element in prices:
    print(element.text)
driver.quit()