python - 如何在 Python 中使用 beanstalkc 对 URL 进行排队并执行作业

Question

我有一个名为 spider 的函数，它接受 seed 作为参数。 seed 是我发送给蜘蛛函数的 URL 的名称。现在我的问题是如何在 Python 中使用 beanstalkc 对 URL 进行排队并执行作业。

Answer 1

根据tutorial你需要:

1. beanstalkd 服务器正在运行。

2. 连接:

   import beanstalkc
   beanstalk = beanstalkc.Connection(host='localhost', port=14711)
   

3. 使用以下方式添加职位:

   beanstalk.put('seed url')
   

4. 通过以下方式找到工作:

   job = beanstalk.reserve()
   spider(job.body)
   

5. 将作业标记为已完成:

   job.delete()