Python 无法使用 urllib 或 Mechanize 检索表单

Question

我正在尝试使用 Python 填写并提交表单，但无法检索结果页面。我已经尝试了 mechanize 和 urllib/urllib2 方法来发布表单，但都遇到了问题。

我试图检索的表格在这里:http://zrs.leidenuniv.nl/ul/start.php .该页面是荷兰语，但这与我的问题无关。可能值得注意的是，表单操作重定向到 http://zrs.leidenuniv.nl/ul/query.php .

首先，这是我尝试过的 urllib/urllib2 方法:

import urllib, urllib2
import socket, cookielib

url = 'http://zrs.leidenuniv.nl/ul/start.php'
params = {'day': 1, 'month': 5, 'year': 2012, 'quickselect' : "unchecked",
          'res_instantie': '_ALL_', 'selgebouw': '_ALL_', 'zrssort': "locatie",
          'submit' : "Uitvoeren"}
http_header = {  "User-Agent" : "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.46 Safari/535.11",
                 "Accept" : "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
                 "Accept-Language" : "nl-NL,nl;q=0.8,en-US;q=0.6,en;q=0.4" }

timeout = 15
socket.setdefaulttimeout(timeout)

request = urllib2.Request(url, urllib.urlencode(params), http_header)
response = urllib2.urlopen(request)

cookies = cookielib.CookieJar()
cookies.extract_cookies(response, request)
cookie_handler = urllib2.HTTPCookieProcessor(cookies)
redirect_handler = urllib2.HTTPRedirectHandler()

opener = urllib2.build_opener(redirect_handler, cookie_handler)

response = opener.open(request)
html = response.read()

但是，当我尝试打印检索到的 html 时，我得到了原始页面，而不是表单操作所指的页面。因此，任何有关为什么不提交表单的提示将不胜感激。

因为上面的不行，我也尝试用mechanize来提交表单。但是，这会导致 ParseError 出现以下代码:

import mechanize

url = 'http://zrs.leidenuniv.nl/ul/start.php'
br = mechanize.Browser()
response = br.open(url)
br.select_form(nr = 0)

最后一行以以下内容退出:“ParseError:声明中出现意外的‘-’字符”。现在我意识到此错误可能表示 DOCTYPE 声明中存在错误，但由于我无法编辑表单页面，因此我无法尝试不同的声明。对此错误的任何帮助也非常感谢。

在此先感谢您的帮助。

Answer 1

这是因为 DOCTYPE部分格式错误。

它还包含一些奇怪的标签，例如:

<!Co Dreef / Eelco de Graaff Faculteit der Rechtsgeleerdheid Universiteit Leiden><!e-mail j.dreef@law.leidenuniv.nl >

试试 validating自己的页面...

尽管如此，你可以去掉垃圾，让 Mechanize html 解析器满意:

import mechanize

url = 'http://zrs.leidenuniv.nl/ul/start.php'

br = mechanize.Browser()
response = br.open(url)
response.set_data(response.get_data()[177:])
br.set_response(response)

br.select_form(nr = 0)