- c - 在位数组中找到第一个零
- linux - Unix 显示有关匹配两种模式之一的文件的信息
- 正则表达式替换多个文件
- linux - 隐藏来自 xtrace 的命令
我有一个 python 脚本,它在单独运行时效果很好。基于硬编码的输入目录,它会扫描所有 .mdb 文件并将其放入列表中,然后在 for 循环中遍历所有这些文件。每次迭代涉及多个表限制、连接、查询等。
唯一的问题.. 在输入数据集上运行大约需要 36 小时,虽然在这种情况下此脚本只会用于此数据集,但我想提高性能,因为我经常编辑字段选择、结果包括、连接方法等。我想说这需要很长时间,因为我的脚本效率低下,但任何低效率都会很小,因为几乎所有处理时间都专用于地理处理器对象。
与我的主脚本相关的是:
indir = "D:\\basil\\input"
mdblist = createDeepMdbList(indir)
for infile in mdblist:
processMdb(infile)
它在顺序执行时也能完美执行。
我尝试过使用并行 Python:
ppservers = ()
job_server = pp.Server(ppservers=ppservers)
inputs = tuple(mdblist)
functions = (preparePointLayer, prepareInterTable, jointInterToPoint,\
prepareDataTable, exportElemTables, joinDatatoPoint, exportToShapefile)
modules = ("sys", "os", "arcgisscripting", "string", "time")
fn = pp.Template(job_server, processMdb, functions, modules)
jobs = [(input, fn.submit(input)) for input in inputs]
它成功创建了 8 个进程、8 个地理处理器对象...然后失败了。
我没有对内置的 Python 多线程工具进行广泛的试验,但希望得到一些指导,以简单地生成多达 8 个进程,这些进程通过 mdblist 表示的队列。在任何时候,多个进程都不会尝试同时写入或读取任何文件。由于这个问题,为了暂时简化事情,我还删除了所有日志记录工具;我已经运行此脚本足够多次,知道它可以正常工作,但 4104 输入的 4 个文件的数据格式略有不同。
建议?尝试对 Arc Python 脚本进行多线程处理是否明智?
最佳答案
我想我会分享最终对我有用的东西和我的经历。
根据 Joe 的评论使用多处理模块的反向端口 (code.google.com/p/python-multiprocessing) 效果很好。我不得不在我的脚本中改变一些东西来处理局部/全局变量和日志记录。
现在的主脚本是:
if __name__ == '__main__':
indir = r'C:\basil\rs_Rock_and_Sediment\DVD_Data\testdir'
mdblist = createDeepMdbList(indir)
processes = 6 # set num procs to use here
pool = multiprocessing.Pool(processes)
pool.map(processMdb, mdblist)
使用 6 个流程,总时间从约 36 小时减少到约 8 小时。
我遇到的一些问题是,通过使用单独的进程,它们寻址不同的内存堆栈并完全取出全局变量。队列可用于此目的,但我还没有实现它,所以一切都只是在本地声明。
此外,由于 pool.map 只能采用一个参数,因此每次迭代都必须创建然后删除地理处理器对象,而不是能够创建 8 个 gp 并将一个可用的 gp 传递给每次迭代。每次迭代大约需要一分钟,因此创建它的几秒钟并不是什么大问题,但它会加起来。我没有做任何具体的测试,但这实际上可能是一个很好的实践,因为任何使用过 Arcgis 和 python 的人都会知道,脚本会随着地理处理器处于事件状态的时间而大大减慢(例如,我的一个脚本被合作伙伴使用)重载输入和完成时间估计的工作人员从运行 1 小时后的 50 小时到运行一夜后的 350 小时到运行 2 天后的 800 小时......它被取消并且输入受限)。
希望这能帮助任何其他希望对大型可迭代输入进行多处理的人 :)。下一步:递归、多进程追加!
关于python - ArcGIS 中的多线程与 Python,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/4893809/
我将 Bootstrap 与 css 和 java 脚本结合使用。在不影响前端代码的情况下,我真的很难在css中绘制这个背景。在许多问题中,人们将宽度和高度设置为 0%。但是由于我的导航栏,我不能使用
我正在用 c 编写一个程序来读取文件的内容。代码如下: #include void main() { char line[90]; while(scanf("%79[^\
我想使用 javascript 获取矩阵数组的所有对 Angular 线。假设输入输出如下: input = [ [1,2,3], [4,5,6], [7,8,9], ] output =
可以用pdfmake绘制lines,circles和other shapes吗?如果是,是否有documentation或样本?我想用jsPDF替换pdfmake。 最佳答案 是的,有可能。 pdfm
我有一个小svg小部件,其目的是显示角度列表(参见图片)。 现在,角度是线元素,仅具有笔触,没有填充。但是现在我想使用一种“内部填充”颜色和一种“笔触/边框”颜色。我猜想line元素不能解决这个问题,
我正在为带有三角对象的 3D 场景编写一个非常基本的光线转换器,一切都工作正常,直到我决定尝试从场景原点 (0/0/0) 以外的点转换光线。 但是,当我将光线原点更改为 (0/1/0) 时,相交测试突
这个问题已经有答案了: Why do people write "#!/usr/bin/env python" on the first line of a Python script? (22 个回
如何使用大约 50 个星号 * 并使用 for 循环绘制一条水平线?当我尝试这样做时,结果是垂直(而不是水平)列出 50 个星号。 public void drawAstline() { f
这是一个让球以对角线方式下降的 UI,但球保持静止;线程似乎无法正常工作。你能告诉我如何让球移动吗? 请下载一个球并更改目录,以便程序可以找到您的球的分配位置。没有必要下载足球场,但如果您愿意,也可以
我在我的一个项目中使用 Jmeter 和 Ant,当我们生成报告时,它会在报告中显示 URL、#Samples、失败、成功率、平均时间、最短时间、最长时间。 我也想在报告中包含 90% 的时间线。 现
我有一个不寻常的问题,希望有人能帮助我。我想用 Canvas (android) 画一条 Swing 或波浪线,但我不知道该怎么做。它将成为蝌蚪的尾部,所以理想情况下我希望它的形状更像三角形,一端更大
这个问题已经有答案了: Checking Collision of Shapes with JavaFX (1 个回答) 已关闭 8 年前。 我正在使用 JavaFx 8 库。 我的任务很简单:我想检
如何按编号的百分比拆分文件。行数? 假设我想将我的文件分成 3 个部分(60%/20%/20% 部分),我可以手动执行此操作,-_-: $ wc -l brown.txt 57339 brown.tx
我正在努力实现这样的目标: 但这就是我设法做到的。 你能帮我实现预期的结果吗? 更新: 如果我删除 bootstrap.css 依赖项,问题就会消失。我怎样才能让它与 Bootstrap 一起工作?
我目前正在构建一个网站,但遇到了 transform: scale 的问题。我有一个按钮,当用户将鼠标悬停在它上面时,会发生两件事: 背景以对 Angular 线“扫过” 按钮标签颜色改变 按钮稍微变
我需要使用直线和仿射变换绘制大量数据点的图形(缩放图形以适合 View )。 目前,我正在使用 NSBezierPath,但我认为它效率很低(因为点在绘制之前被复制到贝塞尔路径)。通过将我的数据切割成
我正在使用基于 SVM 分类的 HOG 特征检测器。我可以成功提取车牌,但提取的车牌除了车牌号外还有一些不必要的像素/线。我的图像处理流程如下: 在灰度图像上应用 HOG 检测器 裁剪检测到的区域 调
我有以下图片: 我想填充它的轮廓(即我想在这张图片中填充线条)。 我尝试了形态学闭合,但使用大小为 3x3 的矩形内核和 10 迭代并没有填满整个边界。我还尝试了一个 21x21 内核和 1 迭代,但
我必须找到一种算法,可以找到两组数组之间的交集总数,而其中一个数组已排序。 举个例子,我们有这两个数组,我们向相应的数字画直线。 这两个数组为我们提供了总共 7 个交集。 有什么样的算法可以帮助我解决
简单地说 - 我想使用透视投影从近裁剪平面绘制一条射线/线到远裁剪平面。我有我认为是使用各种 OpenGL/图形编程指南中描述的方法通过单击鼠标生成的正确标准化的世界坐标。 我遇到的问题是我的光线似乎
我是一名优秀的程序员,十分优秀!