个人中心
文章发布
退出
作者热门文章
- html - 出于某种原因，IE8 对我的 Sass 文件中继承的 html5 CSS 不友好？
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景？
25
4
我正在开发一个独立的java应用程序，它通过网络从大约1000个测量设备收集数据并将数据保存到数据库中。由于设备输出和/或网络速度较慢，每个设备的数据收集可能需要几分钟的时间。数据收集必须在某个时间窗口内进行，因此我需要并行工作。
我的方法是为每个测量设备创建一个线程，将数据放入队列中，并在队列的另一端让一个或多个其他线程转换并保存数据。
这是一个可行的方法吗？现代机器能够处理那么多线程和网络连接吗？它的可扩展性如何？什么时候我需要在多台机器上工作？
如果您能给我推荐的并发类(即什么样的队列、ThreadPoolExecutor 等 - 我还没有使用过 java.util.concurrent ，书在邮件中)，我也将不胜感激。
有没有更好的方法？
更新:
感谢您迄今为止的回答，以下是一些人请求的更多信息。
我从设备接收的数据是小于 1kb 的文件形式。我有可能在一次传输过程中收到大约 25.000 个文件，尽管通常要少得多。
数据转换不占用 CPU 资源，基本上是解析文件并将其转换为 java 数据类型(文件包含 c 数据类型，如 unsigned char 和 unix 时间戳)，再加上 CRC 计算。我创建了一个对象，其中包含一个文件的内容，我使用 JPA 将其保存到数据库(我想在这种情况下我也可以使用普通的 JDBC)。测量文件中没有顺序，因为它们包含设备序列号和时间戳。
稍后，当满足某些条件时，我将不得不添加某种警报，但这不应该是 CPU 密集型的。
从到目前为止的答案来看，我收集了网络连接和线程数量应该不是问题。
我唯一想知道的是队列的方法。另一种方法是让数据收集线程也调用 DAO 方法来保存文件。我想无论如何我都必须使 DAO 线程安全，但我认为一些线程也可以完成这项工作，因为大部分时间都花在传输网络数据上。
我还将研究异步 I/O 和一些提供它的框架。
再次感谢，我稍后会选择一个答案，也许我会得到更多的意见:)
最佳答案
使用默认设置，假设您在 64 位 Linux、Oracle jdk 上运行，您最终将使用大约 1Gb 的内存用于线程堆栈(在此类平台上，默认线程堆栈大小为 1Mb)。我认为对于 OpenJDK 来说也是一样的。不计算 os 分配的缓冲区。 。 .
如果这对您的要求来说太多，您可能需要看看 http://netty.io 。该框架在底层使用java nio(可以配置为使用bio，顺便说一句)。这样，您只需要少量线程来执行实际的 io(对给定的 tcp 连接执行读/写操作)。然后，您的业务逻辑(更新数据库，计算一些测量值)应该被卸载到一个单独的线程池中。 Netty 也包含对此的支持。
如果您想每个连接使用 1 个线程(每个测量设备？)，那么让另一组线程执行实际业务工作可能没有任何好处。我假设每个设备有一个线程，因为您说设备可能很慢和/或网络可能很慢。如果您使用多个线程，则这两个瓶颈(网络和设备)都不会被消除(可以预期相反的情况)。
一般并发类:java.util.concurrent.* 是的，都竖起大拇指
关于Java并发/网络方法，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/10831125/
25
4
0
我想了解 Ruby 方法 methods() 是如何工作的。 我尝试使用“ruby 方法”在 Google 上搜索，但这不是我需要的。 我也看过 ruby-doc.org，但我没有找到这种方法。
Test 方法 对指定的字符串执行一个正则表达式搜索，并返回一个 Boolean 值指示是否找到匹配的模式。 object.Test(string) 参数 object 必选项。总是一个
Replace 方法 替换在正则表达式查找中找到的文本。 object.Replace(string1, string2) 参数 object 必选项。总是一个 RegExp 对象的名称。
Raise 方法 生成运行时错误 object.Raise(number, source, description, helpfile, helpcontext) 参数 object 应为
Execute 方法 对指定的字符串执行正则表达式搜索。 object.Execute(string) 参数 object 必选项。总是一个 RegExp 对象的名称。 string
Clear 方法 清除 Err 对象的所有属性设置。 object.Clear object 应为 Err 对象的名称。 说明 在错误处理后，使用 Clear 显式地清除 Err 对象。此
CopyFile 方法 将一个或多个文件从某位置复制到另一位置。 object.CopyFile source, destination[, overwrite] 参数 object 必选
Copy 方法 将指定的文件或文件夹从某位置复制到另一位置。 object.Copy destination[, overwrite] 参数 object 必选项。应为 File 或 F
Close 方法 关闭打开的 TextStream 文件。 object.Close object 应为 TextStream 对象的名称。 说明 下面例子举例说明如何使用 Close 方
BuildPath 方法 向现有路径后添加名称。 object.BuildPath(path, name) 参数 object 必选项。应为 FileSystemObject 对象的名称
GetFolder 方法 返回与指定的路径中某文件夹相应的 Folder 对象。 object.GetFolder(folderspec) 参数 object 必选项。应为 FileSy
GetFileName 方法 返回指定路径（不是指定驱动器路径部分）的最后一个文件或文件夹。 object.GetFileName(pathspec) 参数 object 必选项。应为
GetFile 方法 返回与指定路径中某文件相应的 File 对象。 object.GetFile(filespec) 参数 object 必选项。应为 FileSystemObject
GetExtensionName 方法 返回字符串，该字符串包含路径最后一个组成部分的扩展名。 object.GetExtensionName(path) 参数 object 必选项。应
GetDriveName 方法 返回包含指定路径中驱动器名的字符串。 object.GetDriveName(path) 参数 object 必选项。应为 FileSystemObjec
GetDrive 方法 返回与指定的路径中驱动器相对应的 Drive 对象。 object.GetDrive drivespec 参数 object 必选项。应为 FileSystemO
GetBaseName 方法 返回字符串，其中包含文件的基本名 (不带扩展名), 或者提供的路径说明中的文件夹。 object.GetBaseName(path) 参数 object 必
GetAbsolutePathName 方法 从提供的指定路径中返回完整且含义明确的路径。 object.GetAbsolutePathName(pathspec) 参数 object
FolderExists 方法 如果指定的文件夹存在，则返回 True；否则返回 False。 object.FolderExists(folderspec) 参数 object 必选项
FileExists 方法 如果指定的文件存在返回 True；否则返回 False。 object.FileExists(filespec) 参数 object 必选项。应为 FileS
我是一名优秀的程序员,十分优秀！