python - 深度排序使用大量 CPU

Question

我正在创建一个软件，它使用 OpenCV 在不同线程中读取多个摄像头，然后使用 YOLOv4 Tensorflow 模型在主线程中处理它们。这样我的 GPU 就以大约 40% 的容量运行，而我的 CPU 内核在 gnome-system-monitor 中也都在 30-40% 左右。

但是，当我集成深度排序时，GPU 的使用率基本保持不变，但每个内核的 CPU 负载都达到 100%。

我的问题是，这正常吗？深度排序主要在 CPU 上运行吗？

我正在初始化并运行深度排序，就像在这个 repo 文件中一样: https://github.com/theAIGuysCode/yolov4-deepsort/blob/9e745bfb3ea5e7c7505cb11a8e8654f5b1319ad9/object_tracker.py#L48

使用:

• Ubuntu 18.04
• python 3.8
• tensorflow 2.3.1
• OpenCV Python 4.4.0.44
• CUDA 10.1.243、cuDNN 7.6.5 和驱动程序 418.152

规范工作站笔记本电脑:

• NVIDIA RTX Quadro 5000
• Intel® Xeon(R) E-2276M CPU @ 2.80GHz × 12
• 32 GB 内存

Answer 1

没有。这是不正常的。这是一个错误。检查我的 repo 是否有修复

https://github.com/mikel-brostrom/Yolov5_DeepSort_Pytorch/issues/48

您需要像这样对 HPC 库使用的 CPU 添加限制:

# limit the number of cpus used by high performance libraries
import os
os.environ["OMP_NUM_THREADS"] = "1"
os.environ["OPENBLAS_NUM_THREADS"] = "1"
os.environ["MKL_NUM_THREADS"] = "1"
os.environ["VECLIB_MAXIMUM_THREADS"] = "1"
os.environ["NUMEXPR_NUM_THREADS"] = "1"