gpt4 book ai didi

python - Scrapy只返回了1个项目,我的大脑卡住了

转载 作者:行者123 更新时间:2023-12-01 03:12:17 24 4
gpt4 key购买 nike

这是蜘蛛.py:

import scrapy
from scrapy.loader import ItemLoader
from dts.items import DtItem

class dtSpider(scrapy.Spider):
name = 'dts'
urls = ['s','s','s','s']

def start_requests(self):
for url in self.urls:
yield scrapy.Request(url, callback=self.parse)

def parse(self,response):
for title in response.xpath('//h2/a/@title').extract()[:-6]:
url_array = response.url.split('/')
author = url_array[url_array.index('author')+1]
l = ItemLoader(item=DtItem(), response=response)
l.add_value('title',title)
l.add_value('author',author)
return l.load_item()

我写这篇文章只是为了获取标题。但是,为什么我无法获得所有头衔呢? Scrapy 每页仅返回 1 个项目。

最佳答案

更改:

return l.load_item()

至:

yield l.load_item()

return 将停止该函数,但 yield 将继续运行。

关于python - Scrapy只返回了1个项目,我的大脑卡住了,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/42761915/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com