are there any methods to get per layer inference time of an onnx model?(有什么方法可以得到ONX模型的每层推理时间吗？)

转载 作者：bug小助手 更新时间：2023-10-24 19:42:44 46 4

import onnxruntime

onnx_input= np.random.normal(size=[1, 3, 224, 224]).astype(np.float32)
ort_sess = onnxruntime.InferenceSession('model.onnx')
ort_inputs = {ort_sess.get_inputs()[0].name: onnx_input}
ort_outs = ort_sess.run(None, ort_inputs)

import onnx
model = onnx.load("model.onnx")
print(onnx.helper.printable_graph(model.graph))

import time

start = time.time()
ort_outs = ort_sess.run(None, ort_inputs)
end = time.time()
print(end - start)

46 4 0

• c# - 使用{设置;得到;}而不是{得到;放;}

  在 C# 及其同类语言中，我们总是使用 public string SomeString { get; set;} 但是你也可以使用(我最近才发现这个，而且是在和编译器闲逛的时候发现的) public

• php - Laravel Swagger 得到 [语法错误] 预期值，得到 '@'

  我已经为 Controller 中的函数编写了 Swagger 注释，但在生成 swagger-ui 代码时出现错误。以下是我的注释代码 /*** End of Annotation For dele

• java - 得到??通过php代码调用jar文件时的字符

  我正在 PHP 中开发一项服务，该服务使用 exec 函数调用 jar 文件，如下所示: $text = "string with accents á, ó, ú or العربية"; exec(

• c - 随机大小缓冲区的缓冲区溢出？ (得到)

  我正在尝试了解有关在程序中利用/防止缓冲区溢出的方法的更多信息。我知道如果大小是恒定的，下面的代码很容易受到攻击，但是如果大小每次都是随机的怎么办？是否还有办法从堆栈中获取它并以某种方式动态改变溢出字

• c# - 得到;不能正常工作

  对于一项学校作业，我应该制作一个可以以小时、分钟和秒为单位存储时间的时间类。一切正常，但仅声明 get 时属性总是返回 0；并设置； private int seconds, minutes, hou

• javascript - 得到“未定义ReferenceError”

  我正在遍历一些测验对象并将结果存储到json变量中。出现"ReferenceError is not defined"错误，不确定原因。 JS代码 // This function will send

• mysql - 得到？？？通过Nifi将非拉丁数据放入mysql时

  使用 Nifi 的 PutDatabaseRecord 处理器在 MySQL 中插入阿拉伯字符(非拉丁语)时，字符被“？？？？？？”替换 插入后，阿拉伯字符串被替换为??????。我已经使用 utf8

• c++ - 得到(变量)

  谁能告诉我为什么 gets(abc) 使用 char[] 而不是使用 int？ int abc; char name[] = "lolrofl"; printf("Hello %s.\n",na

• r as.POSIXct 得到 NA

  为什么在使用 as.POSIXct 转换下面的时间戳时得到所有 NA？ > head(tmp$timestamp_utc) [1] Fri Jul 03 00:15:00 EDT 2015 Fri J

• python - 得到 n 的所有约数的这个算法的运行时间复杂度是多少？

  def get_submultiples(n): # Get all submultiples of n if n == 1: return [1] i = 2

• Django 模型继承 - 得到 child

  有没有办法访问基本模型的实际 child ，意思是:继续使用 django Docs 中的示例，让我们假设我正在建模不同的外卖餐厅，它们只是有共同点 姓名 都有deliver方法 至此: class

• javascript - 范围总和---得到 "undefined"

  我正在寻找一个范围的总和，但我总是得到“未定义”。我相信有些东西出现在错误的位置，但我不确定它是什么。 第 1 部分:“编写一个范围函数，它接受两个参数(start 和 end)，并返回一个包含从 s

• java - 得到 JdkVersion classNotFoundException

  我已将 spring 版本从 4.2.3 更新到 5.0.2，并将安全性从 5.0.1 更新到 5.0.10 并使用 spring -flex版本1.6.0.RC1。 像这样使用 BlazeDS 依赖

• java - 得到 0 输出而不是正确的输出

  我可以输入但在输出中，我得到的结果为零。我使用两门类(class)，一门是主要的，是日志，另一门是成绩计算。在成绩计算器中，我编写了方法和构造函数，在日志中，类通过构造函数调用这些方法。 import

• go - 构建时出错，得到 : "suspect or "

  我在使用 go 时遇到了构建问题。我想知道这是编译器中的错误还是代码的问题。 // removed the error handling for sake of clarity file, _ :=

• c# - 尝试与光线转换命中的对象上的组件进行交互，得到 NullReferenceException

  我的角色在与盒子互动时出现问题。我有一个 GameObject Player 附加了一个脚本来与游戏中的盒子交互，脚本是: using UnityEngine; using System.Collec

• javascript - 无法可视化百分比数字(得到 NaN)

  有谁知道为什么我不能在下面生成百分比 codeIshere (第 97-117 行)？ var format=d3.format(".1%"); var percent = format(functi

• python - 需要整数参数，得到 float

  我正在尝试编写图像识别代码，以针对不同动物图像训练系统，这就是代码。我使用 anaconda 作为解释器，使用pycharm作为环境。 import tensorflow as tf import o

• java - 使用初始化的字符串初始化匹配器，得到 NullPointerException

  我正在尝试在 Java 中初始化 Matcher，但无论字符串是否已初始化且不为 null，都会继续获取 NPE。 这是代码: pattern.compile("\\s"); System.out.p

• javascript语法错误预期表达式，得到 '<'

  所以我有这段代码: ; (function (g) { var d = document, i, am = d.createElement('script'), h = d.head || d.g