- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在执行一项任务,我必须使用 python 请求库从网页中获取详细信息。我已经成功地从页面中获取了详细信息,但它有一个按钮“显示详细信息”,它使用 ajax 调用获取更多详细信息,现在我还需要获取这些额外的详细信息。任何人都可以帮助我这样做吗?这是网站的链接:- http://ipindiaonline.gov.in/tmrpublicsearch/frmmain.aspx以及此处的网站屏幕截图:
这是我编写的代码。
from bs4 import BeautifulSoup
import requests,json
def returnJson(wordmark, page_class):
url = "http://ipindiaonline.gov.in/tmrpublicsearch/frmmain.aspx"
r_init = requests.get(url)
soup = BeautifulSoup(r_init.text, 'html.parser')
event_validation = soup.find("input", attrs={"name" : "__EVENTVALIDATION"})['value']
view_state = soup.find("input", attrs={"name" : "__VIEWSTATE"})['value']
search_type = 'WM'
postdata = {
'ctl00$ContentPlaceHolder1$DDLFilter' : '0',
'ctl00$ContentPlaceHolder1$DDLSearchType' : search_type,
'ctl00$ContentPlaceHolder1$TBWordmark' : wordmark,
'ctl00$ContentPlaceHolder1$TBClass' : page_class,
'__EVENTVALIDATION' : event_validation,
"__EVENTTARGET" : "ctl00$ContentPlaceHolder1$BtnSearch",
"__VIEWSTATE" : view_state,
}
r = requests.post(url, data=postdata)
return r
def scraping(r):
soup = BeautifulSoup(r.text, 'html.parser')
counter=len(soup.findAll('tr',attrs={'class':'row'}))
counter+=len(soup.findAll('tr',attrs={'class':'alt'}))
wordmark_idvalue='ContentPlaceHolder1_MGVSearchResult_lblsimiliarmark_'
proprietor_idvalue='ContentPlaceHolder1_MGVSearchResult_LblVProprietorName_'
applicationno_idvalue='ContentPlaceHolder1_MGVSearchResult_lblapplicationnumber_'
class_idvalue='ContentPlaceHolder1_MGVSearchResult_lblsearchclass_'
status_idvalue='ContentPlaceHolder1_MGVSearchResult_Label6_'
words_list=[]
for i in range(0,counter):
words_dict={}
row=soup.find('span',attrs={'id':(wordmark_idvalue+str(i))})
words_dict['Wordmark']=row.text
row=soup.find('span',attrs={'id':(proprietor_idvalue+str(i))})
words_dict['Proprietor']=row.text
row=soup.find('span',attrs={'id':(applicationno_idvalue+str(i))})
words_dict['Application Number']=row.text
row=soup.find('span',attrs={'id':(class_idvalue+str(i))})
words_dict['Class ']=row.text
row=soup.find('span',attrs={'id':(status_idvalue+str(i))})
words_dict['Status']=row.text
words_list.append(words_dict)
return words_list
def showDetails(wordmark, page_class):
if(len(wordmark)>2 and page_class.isalnum()==1):
var=json.dumps(scraping(returnJson(wordmark, page_class)))
return var
else:
print("Please Enter Valid Parameters\n")
showDetails('AIWA','2')
最佳答案
您需要使用来自第一个 POST 请求的信息创建另一个 POST 请求。下面显示了如何从返回的数据中提取商品和服务描述
:
from operator import itemgetter
from bs4 import BeautifulSoup
import requests,json
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_9_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.47 Safari/537.36'}
def get_input_value(soup, name):
return soup.find("input", attrs={"name" : name})['value']
def returnJson(wordmark, page_class):
url = "http://ipindiaonline.gov.in/tmrpublicsearch/frmmain.aspx"
r_init = requests.get(url)
soup = BeautifulSoup(r_init.text, 'html.parser')
postdata = {
"ctl00$ContentPlaceHolder1$DDLFilter" : "0",
"ctl00$ContentPlaceHolder1$DDLSearchType" : "WM",
"ctl00$ContentPlaceHolder1$TBWordmark" : wordmark,
"ctl00$ContentPlaceHolder1$TBClass" : page_class,
"__EVENTVALIDATION" : get_input_value(soup, "__EVENTVALIDATION"),
"__EVENTTARGET" : "ctl00$ContentPlaceHolder1$BtnSearch",
"__VIEWSTATE" : get_input_value(soup, "__VIEWSTATE"),
}
r = requests.post(url, headers=headers, data=postdata)
return r
def scraping(r):
soup = BeautifulSoup(r.content, 'html.parser')
counter = len(soup.find_all('tr', attrs={'class':'row'}))
counter += len(soup.find_all('tr', attrs={'class':'alt'}))
words_list = []
fields = [
("Wordmark", "ContentPlaceHolder1_MGVSearchResult_lblsimiliarmark_{}"),
("Proprietor", "ContentPlaceHolder1_MGVSearchResult_LblVProprietorName_{}"),
("Application Number", "ContentPlaceHolder1_MGVSearchResult_lblapplicationnumber_{}"),
("Class", "ContentPlaceHolder1_MGVSearchResult_lblsearchclass_{}"),
("Status", "ContentPlaceHolder1_MGVSearchResult_Label6_{}"),
]
for index in range(0, counter):
words_dict = {}
for key, field in fields:
words_dict[key] = soup.find('span', attrs={'id' : field.format(index)}).text
print("Wordmark: {}".format(words_dict["Wordmark"]))
# Construct a POST request for the Show Details panel
# Locate matching 'Show details' link
span = soup.find('span', attrs={'id' : fields[0][1].format(index)})
a = span.find_next('a', class_='LnkshowDetails')
lnk_show_details = a['href'].split("'")[1]
data = {
"__EVENTTARGET" : lnk_show_details,
"__VIEWSTATE" : get_input_value(soup, "__VIEWSTATE"),
"__VIEWSTATEENCRYPTED" : "",
"__EVENTVALIDATION" : get_input_value(soup, "__EVENTVALIDATION"),
"__ASYNCPOST" : "true",
}
url = "http://ipindiaonline.gov.in/tmrpublicsearch" + soup.form["action"].strip(".")
r_details = requests.post(url, headers=headers, data=data)
html = b''.join(itemgetter(7, 8)(r_details.content.split(b"|")))
soup_details = BeautifulSoup(html, "html.parser")
details = {}
for tr in soup_details.find_all('tr'):
row = [td.text for td in tr.find_all('td')] # Note: Journal No and Used since would need more work
details[row[0]] = row[1]
# Copy description
desc = 'Goods & Services Description'
words_dict[desc] = details[desc]
words_list.append(words_dict)
return words_list
def showDetails(wordmark, page_class):
if len(wordmark) > 2 and page_class.isalnum() == 1:
var = json.dumps(scraping(returnJson(wordmark, page_class)))
return var
else:
print("Please Enter Valid Parameters\n")
print(showDetails('AIWA','2'))
这将显示:
Wordmark: AIWA
Wordmark: AIWACEM
Wordmark: AIWAPRIME (LABEL)
[{"Wordmark": "AIWA", "Proprietor": "AIWA CO. LTD.", "Application Number": "683935", "Class": "2", "Status": "Registered", "Goods & Services Description": "PAINTS, VARNISHES, LACQUERS, PRESERVATIVES AGAINST RUST AND AGAINST DESTRIORATION OF WOOD, COLOURING MATTERS, DYESTUFFS, MORDANTS, NATURAL RESINS, METALS IN FOIL AND POWDER FROM FOR PAINTERS AND DECORATORS."}, {"Wordmark": "AIWACEM ", "Proprietor": "AMITA B. MEHTA", "Application Number": "1108415", "Class": "2", "Status": "Registered", "Goods & Services Description": "waterproof cement paint."}, {"Wordmark": "AIWAPRIME (LABEL)", "Proprietor": "AMITA B. MEHTA", "Application Number": "1165809", "Class": "2", "Status": "Registered", "Goods & Services Description": "WATER BASED CEMENT PRIMER INCLUDED IN CLASS 2."}]
注意:返回的数据包含由|
字符分隔的其他字段。详细信息的 HTML 也恰好包含此字符,因此有必要提取字段 7
和 8
以仅获取 HTML。
关于javascript - 抓取页面以获取编码的 javascript 链接,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/53050096/
我需要您在以下方面提供帮助。近一个月来,我一直在阅读有关任务和异步的内容。 我想尝试在一个简单的 wep api 项目中实现我新获得的知识。我有以下方法,并且它们都按预期工作: public Htt
我的可执行 jar 中有一个模板文件 (.xls)。不需要在运行时我需要为这个文件创建 100 多个副本(稍后将唯一地附加)。用于获取 jar 文件中的资源 (template.xls)。我正在使用
我在查看网站的模型代码时对原型(prototype)有疑问。我知道这对 Javascript 中的继承很有用。 在这个例子中... define([], function () { "use
影响我性能的前三项操作是: 获取滚动条 获取偏移高度 Ext.getStyle 为了解释我的应用程序中发生了什么:我有一个网格,其中有一列在每个单元格中呈现网格。当我几乎对网格的内容做任何事情时,它运
我正在使用以下函数来获取 URL 参数。 function gup(name, url) { name = name.replace(/[\[]/, '\\\[').replace(/[\]]/,
我最近一直在使用 sysctl 来做很多事情,现在我使用 HW_MACHINE_ARCH 变量。我正在使用以下代码。请注意,当我尝试获取其他变量 HW_MACHINE 时,此代码可以完美运行。我还认为
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 关闭 9 年前。 要求提供代码的问题必须表现出对所解决问题的最低限度的理解。包括尝试过的解决方案、为什么
由于使用 main-bower-files 作为使用 Gulp 的编译任务的一部分,我无法使用 node_modules 中的 webpack 来require 模块code> dir 因为我会弄乱当
关闭。这个问题需要更多focused .它目前不接受答案。 想改进这个问题吗? 更新问题,使其只关注一个问题 editing this post . 关闭 5 年前。 Improve this qu
我使用 Gridlayout 在一行中放置 4 个元素。首先,我有一个 JPanel,一切正常。对于行数变大并且我必须能够向下滚动的情况,我对其进行了一些更改。现在我的 JPanel 上添加了一个 J
由于以下原因,我想将 VolumeId 的值保存在变量中: #!/usr/bin/env python import boto3 import json import argparse import
我正在将 MSAL 版本 1.x 更新为 MSAL-browser 的 Angular 。所以我正在尝试从版本 1.x 迁移到 2.X.I 能够成功替换代码并且工作正常。但是我遇到了 acquireT
我知道有很多关于此的问题,例如 Getting daily averages with pandas和 How get monthly mean in pandas using groupby但我遇到
This is the query string that I am receiving in URL. Output url: /demo/analysis/test?startDate=Sat+
我正在尝试使用 javascript 中的以下代码访问 Geoserver 层 var gkvrtWmsSource =new ol.source.ImageWMS({ u
API 需要一个包含授权代码的 header 。这就是我到目前为止所拥有的: var fullUrl = 'https://api.ecobee.com/1/thermostat?json=\{"s
如何获取文件中的最后一个字符,如果是某个字符,则删除它而不将整个文件加载到内存中? 这就是我目前所拥有的。 using (var fileStream = new FileStream("file.t
我是这个社区的新手,想出了我的第一个问题。 我正在使用 JSP,我成功地创建了 JSP-Sites,它正在使用jsp:setParameter 和 jsp:getParameter 具有单个字符串。
在回答 StoreStore reordering happens when compiling C++ for x86 @Peter Cordes 写过 For Acquire/Release se
我有一个函数,我们将其命名为 X1,它返回变量 Y。该函数在操作 .on("focusout", X1) 中使用。如何获取变量Y?执行.on后X1的结果? 最佳答案 您可以更改 Y 的范围以使其位于函
我是一名优秀的程序员,十分优秀!