gpt4 book ai didi

java - 我应该使用多少个线程来处理网络爬行应用程序中的 1,00,000 个元素?

转载 作者:行者123 更新时间:2023-12-02 02:31:44 24 4
gpt4 key购买 nike

我有 1,00,00 个元素可以在我的网络爬行应用程序中使用。我对选择与执行器服务(Java 6)一起使用的线程数感到困惑。

实际上,如果我使用更多线程,我会遇到内存不足错误,这让我对选择线程数感到困惑。此外,由于许多线程连接到服务器,互联网就会停止,我每次都必须重新启动我的电脑。

有人可以帮我选择这个案例的线程数吗?

谢谢!

最佳答案

这很难说,因为吞吐量方面的限制因素可能是系统的网络带宽和延迟。如果您尝试超出该限制,则可能会由于各种次要影响而降低吞吐量:例如拥塞、颠簸、节流(由服务器)等。

正确的方法是将池中的线程数作为配置参数......并对其进行调整。从小处开始,当增加线程数不能显着提高吞吐量时,停止增加。

关于java - 我应该使用多少个线程来处理网络爬行应用程序中的 1,00,000 个元素?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46986699/

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com