gpt4 book ai didi

cuda - CPU 是否等待 DEVICE 让它完成其内核执行....?

转载 作者:行者123 更新时间:2023-12-04 00:44:55 25 4
gpt4 key购买 nike

主机是否等待设备完成其执行?
例如该程序的结构如下

// cpu code segment

// data transfer from host to device

QUESTION - WILL CPU WAIT FOR DEVICE TO FINISH TRANSFER? IF NO, IS IT POSSIBLE? IF YES, HOW?

// kernel launch

QUESTION - WILL CPU WAIT FOR DEVICE TO LET IT FINISH KERNEL EXECUTION (CONSIDERING KERNEL EXECUTION WILL TAKE NOTABLE TIME say-5 sec)? IF NO, IS IT POSSIBLE? IF YES, HOW?

// data transfer from device to host

// program terminates after printing some information

最佳答案

CUDA 运行时的同步功能可以让您实现您想要的。
cudaDeviceSynchronize() :

当您调用此函数时,CPU 将等待设备完成其所有工作,无论是内存复制还是内核执行。
cudaStreamSynchronize(cudaStream) :

此函数将阻塞 CPU,直到指定的 CUDA 流完成其执行。其他 CUDA 流将继续异步执行。

关于cuda - CPU 是否等待 DEVICE 让它完成其内核执行....?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/12639552/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com