- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我的问题是关于 warp 和调度的。我在这里使用 NVIDIA 费米术语。我的观察如下,它们正确吗?
一个。同一 warp 中的线程执行相同的指令。每个 warp 包含 32 个线程。
根据费米白皮书:“费米的双经线调度器选择两个经线,并发出一个从每个 warp 到一组 16 个内核、16 个加载/存储单元或 4 个 SFU 的指令。 "
从这里开始,我认为一个 warp(32 个线程)被调度了两次,因为 32 个内核中的 16 个被组合在一起。每个调度器在一个周期内将一半的 warp 发送到 16 个内核,总而言之,两个调度器在一个周期内将两个 warp-halves 发送到两个 16 核调度组中。换句话说,在这个费米架构中,一个 warp 需要被调度两次,一半一半。如果一个 warp 只包含 SFU 操作,那么这个 warp 需要发出 8 次(32/4),因为一个 SM 中只有 4 个 SFPU。
B.当启动大量线程(比如一维数组,320 个线程)时,连续的线程将自动分组为 10 个线程束,每个线程束有 32 个线程。因此,如果所有线程都在做相同的工作,它们将执行完全相同的指令。那么在这种情况下,所有 warp 总是携带相同的指令。
问题:Q1。哪一部分处理线程分组(成束)?软件还是硬件?如果是硬件,它是 warp 调度程序吗?以及硬件 warp 调度器是如何实现和工作的?
Q2。如果我有 64 个线程,线程 0-15 和 32-47 正在执行相同的指令,而 16-31 和 48-63 执行另一条指令,调度程序是否足够聪明,可以将不连续的线程(具有相同的指令)分组到同一个 warp 中(即,将线程 0-15 和 32-47 分组到同一个 warp,并将线程 16-31 和 48-63 分组到另一个 warp)?
Q3。 warp 大小 (32) 大于调度组大小(16 核)有什么意义?(这是一个硬件问题)因为在这种情况下(Fermi),无论如何都会将 warp 调度两次(在两个周期内)。如果一个 warp 是 16 宽,那么会简单地调度两个 warp(也是两个周期),这似乎和前面的情况一样。我想知道这个组织是否出于性能考虑。
我现在可以想象的是:可以保证同一个 warp 中的线程同步,这有时很有用,或者其他资源(如寄存器和内存)以 warp 大小为基础进行组织。我不确定这是否正确。
最佳答案
纠正一些误解:
A. ...From here, I think a warp(32 threads) is scheduled twice since 16 cores out of 32 are grouped together.
当向一组 16 个核心发出 warp 指令时,整个 warp 都会执行该指令,因为核心被计时两次(Fermi 的“hotclock”),因此每个核心实际上在一个周期内执行两个线程的计算(= 2 个热点)。调度 warp 指令时,整个 warp 都会得到服务。它不需要被安排两次。
B. ...Therefore, if all threads are doing the same work, they will execute exactly the same instruction. Then all warps are always carrying the same instruction in this case.
的确,一个 block 中的所有线程(以及所有线程束)都从相同的指令流执行,但它们不一定执行相同的指令。当然,warp 中的所有线程在任何给定时间都在执行相同的指令。但是 warp 彼此独立执行,因此 block 内的不同 warp 可能在任何给定时间执行来自流的不同指令。 Fermi whitepaper 第 10 页的图表使这一点显而易见。
Q1: Which part handles the threads grouping (into warps)? software or hardware?
这是由硬件完成的,如 hardware implementation 中所述编程指南的部分:“将 block 划分为 warp 的方式始终相同;每个 warp 包含连续的、增加的线程 ID 的线程,第一个 warp 包含线程 0。Thread Hierarchy 描述了线程 ID 与线程索引的关系 block 。”
and how the hardware warp scheduler is implemented and work?
我认为这在任何地方都没有正式记录。 Greg Smith 对此提供了各种解释,您可能希望搜索“user:124092 scheduler”或类似的搜索,以阅读他的一些评论。
Q2. If I have 64 threads, threads 0-15 and 32-47 are executing the same instruction while 16-31 and 48-63 executes another instruction, is the scheduler smart enough to group nonconsecutive threads( with the same instruction) into the same warp (i.e., to group threads 0-15 and 32-47 into the same warp, and to group threads 16-31 and 48-63 into another warp)?
这个问题是基于前面概述的误解。将线程分组到 warp 中不是动态的;它在 threadblock 启动时是固定的,并且遵循上面对 Q1 的回答中描述的方法。此外,线程 0-15 永远不会与 16-31 以外的任何线程一起调度,因为 0-31 包含一个 warp,它在 Fermi 上对于调度目的是不可分割的。
Q3. What's the point to have a warp size(32) larger than the scheduling group size(16 cores)?
同样,我认为这个问题是基于以前的误解。用于为 warp 提供资源的硬件单元在某些功能级别可能存在 16 个单元(或其他数量),但从操作级别来看,warp 被安排为 32 个线程,每条指令为整个扭曲安排,并在一定数量的费米热时钟内一起执行。
关于cuda - 硬件 warp 调度程序如何形成和处理 warp?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/21535471/
当 SM 上正在运行的 warp 停滞时,必须在 SM 上安排另一个 warp 来交换停滞的 warp 以弥补延迟。但是替代品是否与停滞的扭曲来自同一个 block ,或者它必须属于另一个 block
我的问题是关于 warp 和调度的。我在这里使用 NVIDIA 费米术语。我的观察如下,它们正确吗? 一个。同一 warp 中的线程执行相同的指令。每个 warp 包含 32 个线程。 根据费米白皮书
我的问题是关于 warp 和调度的。我在这里使用 NVIDIA 费米术语。我的观察如下,它们正确吗? 一个。同一 warp 中的线程执行相同的指令。每个 warp 包含 32 个线程。 根据费米白皮书
注意:此问题特定于 nVIDIA 计算能力 2.1 设备。以下信息来自《CUDA 编程指南 v4.1》: In compute capability 2.1 devices, each SM has
假设我有一个函数来检查授权 header 是否有效以及身份验证是否正确。如何制作一个扭曲过滤器来丢弃所有带有无效 header 或虚假凭据的请求? 最佳答案 这是一个构建过滤器的函数示例,该过滤器完全
我一直在研究使用 Haskell Warp 构建的像素服务器,并且一直在努力研究如何在守护进程模式下运行它。 Warp 效果很好 - 我可以使用 run从 Network.Wai.Handler.Wa
我正在尝试构建一个不平凡的 warp将 REST 应用程序集成到模块中,同时优雅地处理错误和拒绝。它没有按我预期的方式工作。考虑这个简单的应用程序: 主要.rs use warp_sample::ro
我正在用 Rust 编写带有 warp 的服务。当服务收到 SIGTERM 信号时,我希望它正常关闭并可能进行一些日志记录或其他工作。 我已经尝试了很多例子,但没有任何效果。最有希望的似乎来自 thi
我正在考虑使用 wai/warp 进行一些自定义的进程间通信。这将有一个不寻常的要求,即我需要在进程中动态启动/停止扭曲实例。主要问题似乎是完全停止扭曲。这个问题在这里解决: How do I imp
我有一个使用 warp 的 Rust 应用程序.它实现了一个 RESTful CRUD API。我需要每个路由处理程序(即最终由 warp 过滤器调用的函数)来访问和(在大多数情况下)改变共享的应用程
我定义了一个路由和一个端点函数。我还注入(inject)了一些依赖项。 pub fn route1() -> BoxedFilter { warp::get() .and(wa
我想使用 Warp 创建一个网站Haskell 中的网络服务器。 由于我是 Haskell 初学者,因此 this one 等示例对我来说太复杂了。 谁能告诉我一个简单的、最小的如何使用 Warp 的
使用 warp.rs 0.2.2 ,让我们考虑一个基本的 Web 服务,它有一个路由 GET / : #[tokio::main] async fn main() -> Result { le
运行 warp 时应用程序使用 run ,它监听所有 IP 地址。 出于安全原因,我只想监听 localhost,使用反向代理处理远程访问。 我需要如何调用 run 才能仅监听特定主机/IP? 注意:
我有一个 HTTP 应用程序服务器,在特定条件下处理特定请求时需要退出(以便由主管重新启动)。 给定一个主要的: import Network.Wai.Handler.Warp (run) main
我使用 yesod init 创建了一个 yesod webapp。在开发过程中,我使用 yesod devel 在 Debug模式下运行 warp 服务器。现在我已经完成了初步版本,我想将其部署在
我有 GeForce GTX460 SE,所以它是:6 SM x 48 CUDA 核心 = 288 CUDA 核心。众所周知,一个Warp中包含32个线程,并且一个 block 中同时(一次)只能执行
我正试图找到一种方法在 iOS 上做类似的事情: 有谁知道一个简单的方法吗? 最佳答案 我不知道有一个 oneliner 可以做到这一点,但您可以使用 OpenGL 渲染带四边形的纹理网格,其纹理坐标
我正在尝试在 Warp 中设置可变路径。我试过这个: use uuid::Uuid; use warp::{self, Filter}; fn main() { let uuid = Uuid
我有一个关于 union cuda 访问的基本问题。 例如,我有一个包含 32 个元素和 32 个线程的数组,每个线程访问一个元素。 __global__ void co_acc ( int A[32
我是一名优秀的程序员,十分优秀!