python - 使用pyes进行 Elasticsearch

Question

抱歉，交叉发布。以下问题也发布在Elastic Search的google组上。

简而言之，我试图找出为什么在包含约1.5密耳记录的ES索引上进行搜索时无法获得最佳性能。

目前，我能够在2秒内获得大约500-1000次搜索。我认为这应该快几个数量级。另外，目前我没有节俭。

这是我检查性能的方法。

使用0.19.1版本的pyes(从github尝试了稳定版和开发版)
使用0.13.8版本的请求

conn = ES(['localhost:9201'],timeout=20,bulk_size=1000)
loop_start = time.clock()
q1 = TermQuery("tax_name","cellvibrio")
for x in xrange(1000000):
    if x % 1000 == 0 and x > 0:
        loop_check_point = time.clock()
        print 'took %s secs to search %d records' % (loop_check_point-loop_start,x)

    results = conn.search(query=q1)
    if results:
        for r in results:
            pass
#            print len(results)
    else:
        pass

感谢您可以提供的任何帮助，以帮助我扩大搜索范围。

谢谢!

Answer 1

不仅仅是并发问题吗？

您正在按顺序执行所有查询。因此，必须先完成查询才能播放下一个查询。如果您对服务器的RTT为1毫秒，这将限制您每秒1000个请求。

尝试并行运行脚本的几个实例，看看所获得的性能如何。