gpt4 book ai didi

Cuda Error in NCHWToNCHHW2解决

转载 作者:知者 更新时间:2024-03-12 12:36:31 24 4
gpt4 key购买 nike

tensorrt报错:

Cuda Error in NCHWToNCHHW2

原因:内存数据格式不对,数据向cuda拷贝报错了。

cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w 3 sizeof(float), cudaMemcpyHostToDevice, stream);

     //复制图片数据到GPU
        //cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w 3 sizeof(float), cudaMemcpyHostToDevice, stream);
       std::cout << "114" << std::endl;
        //执行推理
        context->enqueueV2(buffers, stream, nullptr);
        auto t_end_pre = std::chrono::high_resolution_clock::now();
        float total_pre = std::chrono::duration<float, std::milli>(t_end_pre - t_start_pre).count();

错误代码:

//cudaMemcpyAsync(&buffers[inputIndex], &over[0], input_h * input_w 3 sizeof(float), cudaMemcpyHostToDevice, stream);

24 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com