input: dynamic input is missing dimensions in profile

转载 作者：知者 更新时间：2024-03-12 08:54:55 30 4

import numpy as np
import tensorrt as trt
import os
import pycuda.driver as cuda
import argparse

def GiB(val):
    return val * 1 << 30

def ONNX_build_engine(onnx_file_path, write_engine=True):
    # :return: engine

    G_LOGGER = trt.Logger(trt.Logger.WARNING)
    # 1、动态输入第一点必须要写的
    explicit_batch = 1 << (int)(trt.NetworkDefinitionCreationFlag.EXPLICIT_BATCH)
    batch_size = 8  # trt推理时最大支持的batchsize
    with trt.Builder(G_LOGGER) as builder, builder.create_network(explicit_batch) as network, trt.OnnxParser(network,
                                                                                                             G_LOGGER) as parser:
        builder.max_batch_size = batch_size
        config = builder.create_builder_config()
        config.max_workspace_size = GiB(2)
        config.set_flag(trt.BuilderFlag.FP16)
        print('Loading ONNX file from path {}...'.format(onnx_file_path))
        with open(onnx_file_path, 'rb') as model:
            print('Beginning ONNX file parsing')
            parser.parse(model.read())
        print('Completed parsing of ONNX file')
        print('Building an engine from file {}; this may take a while...'.format(onnx_file_path))
        # 重点
        profile = builder.create_optimization_profile()  # 动态输入时候需要 分别为最小输入、常规输入、最大输入
        # 有几个输入就要写几个profile.set_shape 名字和转onnx的时候要对应
        # tensorrt6以后的版本是支持动态输入的，需要给每个动态输入绑定一个profile，用于指定最小值，常规值和最大值，如果超出这个范围会报异常。
        profile.set_shape("input", (1, 3, 128, 128), (4, 3, 128, 128), (16, 3, 128, 128))
        config.add_optimization_profile(profile)

        engine = builder.build_engine(network, config)
        print("Completed creating Engine")
        # 保存engine文件
        if write_engine:
            engine_file_path = 'efficientnet_b1.trt'
            with open(engine_file_path, "wb") as f:
                f.write(engine.serialize())
        return engine

onnx_file_path = r'skipnet_0712.onnx'
onnx_file_path = r'model2.onnx'
onnx_file_path = r'skip_simp2.onnx'
# onnx_file_path = r'mobileone_0713.onnx'
write_engine = True
engine = ONNX_build_engine(onnx_file_path, write_engine)

30 4 0

• r - if((dimension <1)|(dimension> n))stop (“wrong embedding dimension”): argument is of length zero中的错误

  我的代码如下所示: unemp n)) stop("wrong embedding dimension") : argument is of length zero Called from: emb

• python - 可见弃用警告 : boolean index did not match indexed array along dimension 1; dimension is 2 but corresponding boolean dimension is 1

  Macports 更新后，我认为更新了 numpy，我收到警告: VisibleDeprecationWarning: boolean index did not match indexed arra

• pytorch - 运行时错误: dimension specified as 0 but tensor has no dimensions

  我试图使用 MNIST 数据集实现简单的神经网络，但我不断收到此错误 将 matplotlib.pyplot 导入为 plt import torch from torchvision import

• java - 安卓 : Camera's dimensions doesn't match screen's dimensions

  我编写了自己的相机 Activity ，我在FrameLayout中显示照片的实时预览，但是实时图片看起来不自然，有点高，我认为这是因为尺寸FrameLayout 的尺寸与相机的尺寸不匹配。我应该做什

• python - 值错误 : Invalid reduction dimension 1 for input with 1 dimensions

  tf.reduce_mean() 函数以 axis 参数中引用的索引的方式对数组元素求和。 在下面的代码中: import tensorflow as tf x = tf.Variable([1, 2

• tableau-api - 画面 : How do I create categories from a dimension based on the count of another dimension?

  我有一个航类延误数据电子表格，我正在处理一个显示每个机场总延误时间的工作表。我想过滤维度“机场”，即根据每个机场的起飞次数创建机场类别，“小型”、“中型”和“大型”，这是通过计算维度“航类号”计算得出

• python - "ValueError: query data dimension must match training data dimension"

  如何在 3 列 X_train 数据上使用以下代码。错误 "ValueError: query data dimension must match training data dimension" 在

• javascript - 字符串 'properties.dimensions.length' 访问散列 {properties : {dimensions: {length: 23}}}

  JavaScript:给定一个字符串数组: ['properties.dimensions.length', 'properties.name'] 在散列中使用这些来验证或访问它们(实际上只是想验证

• javascript - 字符串 'properties.dimensions.length' 访问散列 {properties : {dimensions: {length: 23}}}

  JavaScript:给定一个字符串数组: ['properties.dimensions.length', 'properties.name'] 在散列中使用这些来验证或访问它们(实际上只是想验证

• c++ - C++ 中的 vector : Why does the outer dimension give EXC_BAD_ACCESS and the inner dimension doesn't?

  我有以下代码用于整数 vector 的 vector (即整数矩阵..) vector > scores (3, vector(2,0)); cout<

• python - IndexError : Dimension out of range - PyTorch dimension expected to be in range of [-1, 0]，但得到 1

  尽管已经有很多关于这个主题的答案，但在下面的例子中没有看到(摘自 https://gist.github.com/lirnli/c16ef186c75588e705d9864fb816a13c on

• JavaScript/HTML : How do I display an IMG with a set dimension and if the image is wider or taller than that dimension, 裁剪/ overflow hidden ？

  我有一堆保证有的图片: 最小宽度 = 200 像素 最大宽度 = 250 像素 最小高度 = 150 像素 最大高度 = 175 像素 我想要做的是显示一个由 200 像素 x 150 像素组成的图像

• input: kMAX dimensions in profile 0 are [2,3,128,128] but input has static dimensions [1,3,128,128]

  转tensorrt时报错： input: kMAX dimensions in profile 0 are [2,3,128,128] but input has static dimensions

• python-3.x - sklearn 中的 K 最近邻 - ValueError : query data dimension must match training data dimension

  我正在尝试对在 UCI 机器学习数据库中找到的一些文本识别数据进行 k 最近邻预测。 (https://archive.ics.uci.edu/ml/datasets/Letter+Recogniti

• dimensions - 高维等值面跟踪

  如何有效地在更高维空间上追踪等值面 最佳答案 你有一个 N 维的标量成本函数， f(y0, y1, .., yN) ∊ ℝ,   y ∊ ℝ 但仅在规则的矩形网格中采样， yk = Ψk + ψk x

• Rjags错误消息: Dimension mismatch

  我正在尝试根据《Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan (2015)》一书来学习贝叶斯分析。 这本书里有例子。所

• MATLAB : Dimension reduction

  LEt x_t = F(x_{t-1}) 是 chaotic regime. 中的一个时间离散动力系统 从初始条件x_0开始，我们可以生成一个时间序列=x_t，其中t =1,2,...,T 表示时间索

• react-native - 找不到变量 : Dimensions

  当我尝试使用: const {width, height} = Dimensions.get('window'); 在 React Native 组件上，我收到一个以前从未见过的奇怪错误: 找不到变量

• tensorflow - 为什么 'dimension' 在机器学习领域有几个不同的含义？

  关闭。这个问题是opinion-based .它目前不接受答案。 想要改进这个问题？ 更新问题，以便 editing this post 可以用事实和引用来回答它. 关闭 2 年前。 Improve

• java - 如何将 Dimension 值转换为字符串或整数

  已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 这个问题似乎与 help center 中定义的范围内的编程无关。 . 已关闭 9 年前。 Improve