python - 使用 BeautifulSoup 和 Requests 提取 html 单元格数据

Question

我有一个简单的 html 表，它是通过网站请求提取的:

<tr align="center" class="tableRow1Font" >
<td>OPEN</td>
<td>80002</td>
<td>
<span style="font-weight:bold;">
ACCY
</span> 
<A HREF="http://bulletin.gwu.edu/search/?P=ACCY+2001" target="_blank">
<span style="font-weight:bold;">
2001
</span>
</A>
</td>

<td>10</td>
<td>Intro Financial Accounting</td>
<td>3.00</td>
<td> Ray, K</td>
<td><a href="http://virtualtour.gwu.edu/#MON" target="_blank" >MON</a> 113</td>
<td>MW<br>12:45PM - 02:00PM</td>
<td>08/25/14 - 12/06/14</td>
<td>

</td>
</tr>

我已经在 python 中设置了提取，如下所示:

import bs4
import requests 

response = requests.get('http://my.gwu.edu/mod/pws/courses.cfm?campId=1&termId=201501&subjId=ACCY')
soup = bs4.BeautifulSoup(response.text)

使用 Beautiful Soup，我如何从该表中提取所有“td”标题并用逗号分隔它们？

我希望提取的数据如下所示:

OPEN, 80002, ACCY 2001, 10, Intro to Financial Accounting, 3.00, Ray, K, MW 12:45-02:00

Answer 1

这将帮助您开始。 html 页面中仍然有很多无关的空白需要从结果中清除。

import bs4
import requests 

response = requests.get('http://my.gwu.edu/mod/pws/courses.cfm?campId=1&termId=201501&subjId=ACCY')
soup = bs4.BeautifulSoup(response.text)  

for tr in soup.findAll('tr')[11:]:
    stack = []
    for td in tr.findAll('td'):
        stack.append(td.text.strip())
    print(",".join(stack))

请注意，这会忽略页面上的前 11 个 tr，因为它们似乎具有不相关的信息。

您还需要找到一种更好的方法来保存数据，而不是简单地用逗号分隔数据 - 否则，类(class)描述中的任何逗号都可能会导致您尝试读回数据的任何代码失败。使用 CSV 库可能比手动用逗号连接数据更好。