- Java锁的逻辑(结合对象头和ObjectMonitor)
- 还在用饼状图?来瞧瞧这些炫酷的百分比可视化新图形(附代码实现)⛵
- 自动注册实体类到EntityFrameworkCore上下文,并适配ABP及ABPVNext
- 基于Sklearn机器学习代码实战
本文将介绍 Go 语言中的 WaitGroup 并发原语,包括 WaitGroup 的基本使用方法、实现原理、使用注意事项以及常见的使用方式。能够更好地理解和应用 WaitGroup 来协调多个 Goroutine 的执行,提高 Go 并发编程的效率和稳定性.
WaitGroup 是Go语言标准库中的一个结构体,它提供了一种简单的机制,用于同步多个协程的执行。适用于需要并发执行多个任务并等待它们全部完成后才能继续执行后续操作的场景.
首先主协程创建WaitGroup实例,然后在每个协程的开始处,调用 Add(1) 方法,表示需要等待一个任务执行完成,然后协程在任务执行完成之后,调用 Done 方法,表示任务已经执行完成了.
主协程中,需要调用 Wait() 方法,等待所有协程完成任务,示例如下
func main(){
//首先主协程创建WaitGroup实例
var wg sync.WaitGroup
// 开始时调用Add方法表示有个任务开始执行
wg.Add(1)
go func() {
// 开始执行...
//完成之后,调用Done方法
wg.Done()
}()
// 调用Wait()方法,等待所有协程完成任务
wg.Wait()
// 执行后续逻辑
}
package main
import (
"fmt"
"sync"
)
func main() {
var wg sync.WaitGroup
for i := 0; i < 5; i++ {
wg.Add(1)
go func(i int) {
defer wg.Done()
fmt.Printf("任务%d开始执行\n", i)
// 模拟协程任务执行一段时间
time.Sleep(time.Duration(rand.Int() % 100))
// 线程任务执行完成
fmt.Printf("任务%d执行完毕\n", i)
}(i)
}
fmt.Println("主协程开始等待所有任务执行完成...")
wg.Wait()
fmt.Println("所有协程已经执行完毕...")
}
在这个例子中,我们使用了 sync.WaitGroup 来等待5个协程执行完毕。在循环中,每创建一个任务,我们调用一次 wg.Add(1) 方法,然后启动一个协程去执行任务,当协程完成任务后,调用 wg.Done 方法,告知主协程任务已经执行完毕。然后主协程会在5个协程任务全部执行完毕之后,才会继续向下执行.
WaitGroup 的设计初衷就是为了等待一组操作完成后再执行下一步操作,通常会在一组协程中使用.
sync.WaitGroup 结构体中的 state1 和 state2 字段是用于实现 WaitGroup 功能的重要变量.
type WaitGroup struct {
noCopy noCopy
state1 uint64
state2 uint32
}
由于 WaitGroup 需要等待一组操作完成之后再执行,因此需要等待所有操作完成之后才能继续执行。为了实现这个功能,WaitGroup 使用了一个计数器 counter 来记录还有多少个操作没有完成,如果 counter 的值为 0,则表示所有操作已经完成.
同时, WaitGroup 在所有任务都完成之后,需要唤醒所有处于等待的协程,此时需要知道有多少个协程处于等待状态。为了实现这个功能,WaitGroup 使用了一个等待计数器 waiter 来记录当前有多少个协程正在等待操作完成.
这里 WaitGroup 对于计数器和等待计数器的实现,是通过一个64位无符号整数来实现的,也就是 WaitGroup 结构体中的state1,其中高32位保存了任务计数器 counter 的值,低32位保存了等待计数器 waiter 的值。当我们创建一个 WaitGroup 实例时,该实例的 任务计数器 和 等待计数器 都被初始化为 0.
而且,等待协程需要等待所有任务完成之后才能继续执行,所以等待协程在任务未完成时会被阻塞,当任务全部完成后,自动被唤醒。 WaitGroup 使用 state2 用于实现信号量机制。通过调用 runtime_Semacquire() 和 runtime_Semrelease() 函数,可以在不阻塞线程的情况下进行等待和通知操作。下面是 Add , Done 和 Wait 方法的具体实现
调用 Add() 方法增加/减小 counter 的值,delta的值可以是正数,也可以是负数,下面是 Add 方法的源码实现
func (wg *WaitGroup) Add(delta int) {
// delta 的值可以为负数,Done方法便是通过Add(-1)来实现的
// statep: 为state1的地址 semap: 为state2的地址
statep, semap := wg.state()
// 高32位的值 加上 delta,增加任务计数器的值
state := atomic.AddUint64(statep, uint64(delta)<<32)
// v: 取高32位数据,获取到待完成任务数
v := int32(state >> 32)
// 取低32位数据,获取到等待线程的值
w := uint32(state)
// v > 0: 说明还有待完成的任务数,此时不应该唤醒等待协程
// w = 0: 说明没有协程在等待,此时可以直接退出
if v > 0 || w == 0 {
return
}
// 此时v = 0,所有任务都完成了,唤醒等待协程
*statep = 0
for ; w != 0; w-- {
runtime_Semrelease(semap, false, 0)
}
}
调用 Done() 方法表示完成了一个任务,通过调用 Add 方法, delta 值为-1,减少任务计数器 counter 的值,当其归为0时,便自动唤醒所有处于等待的协程.
// Done decrements the WaitGroup counter by one.
func (wg *WaitGroup) Done() {
wg.Add(-1)
}
调用 Wait 方法,等待任务执行完成,增加等待计数器 Waiter 的值
func (wg *WaitGroup) Wait() {
// statep: 为state1的地址 semap: 为state2的地址
statep, semap := wg.state()
for {
// 加载state1的值
state := atomic.LoadUint64(statep)
// v: 取高32位数据,获取到待完成任务数
v := int32(state >> 32)
// 没有任务待执行,全部都完成了
if v == 0 {
return
}
// 增加waiter计数器的值
if atomic.CompareAndSwapUint64(statep, state, state+1) {
// 等待被唤醒
runtime_Semacquire(semap)
return
}
}
}
Add 方法, Done 方法以及 Wait 方法实现中,有一些异常场景的验证逻辑被我删除掉了。当出现异常场景时,说明用户使用方式和 WaitGroup 的设计初衷相违背了,此时 WaitGroup 就会直接panic.
下面通过说明使用的注意事项,来间接介绍 WaitGroup 的异常验证逻辑.
下面是一个Add方法和Done方法没有成对出现的例子,此时Add方法调多了,此时计数器永远大于0,Wait 方法会一直阻塞等待.
package main
import (
"fmt"
"sync"
)
func main() {
var wg sync.WaitGroup
wg.Add(2)
go func() {
defer wg.Done()
fmt.Println("Goroutine 1")
}()
go func() {
fmt.Println("Goroutine 2")
}()
wg.Wait()
fmt.Println("All goroutines finished")
}
在上述代码中,我们调用了 wg.Add(2) ,但只调用了一次 wg.Done() 。这会导致 counter 的值大于0,因此调用 wg.Wait() 会被永久阻塞,不会继续向下继续执行.
还有另外一种情况时Done方法调用多了,此时任务计数器 counter 的值为负数,从 WaitGroup 设计的语意来看,就是需要等待完成的任务数为负数,这个不符合预期,此时将会直接 panic 。
package main
import (
"fmt"
"sync"
)
func main() {
var wg sync.WaitGroup
wg.Add(1)
go func() {
fmt.Println("Goroutine 1 started")
wg.Done() // 第一次调用Done方法
wg.Done() // 第二次调用Done方法
fmt.Println("Goroutine 1 completed")
}()
wg.Wait()
fmt.Println("All goroutines completed")
}
在上面的例子中,我们启动了一个goroutine,第一次调用 Add 方法,counter的值变为1,在第14行调用 Done ,此时计数器的值变为0,此时等待中的goroutine将会被唤醒。在第15行又调用了一次 Done 方法,当counter减小为0时,再次调用 Done 方法会导致panic,因为此时 waitGroup 的计数器已经为0,再次减少将导致负数计数,这是不被允许的.
所以在调用Done方法时,需要保证每次调用都与Add方法的调用一一对应,否则会导致程序出现错误.
WaitGroup 的设计初衷就是为了等待一组操作完成后再执行下一步操作。所以,如果在所有任务添加之前,便调用 Wait 方法进行等待,此时有可能会导致等待协程提前被唤醒,执行下一步操作,而尚未添加的任务则不会被等待,这违反了WaitGroup的设计初衷,也不符合预期。下面是一个简单的例子
package main
import (
"fmt"
"sync"
"time"
)
func main() {
var wg sync.WaitGroup
for i := 1; i <= 3; i++ {
go func(id int) {
wg.Add(1)
defer wg.Done()
fmt.Printf("Goroutine %d started\n", id)
time.Sleep(time.Duration(id) * time.Second)
fmt.Printf("Goroutine %d finished\n", id)
}(i)
}
// 不等待所有任务添加,就开始等待
wg.Wait()
fmt.Println("All goroutines finished")
time.Sleep(10 * time.Second)
}
代码执行结果如下,等待协程被提前唤醒,执行之后的操作,而子任务在等待协程唤醒后才开始执行
All goroutines finished
Goroutine 1 started
Goroutine 3 started
Goroutine 2 started
Goroutine 1 finished
Goroutine 2 finished
Goroutine 3 finished
在这个例子中,我们创建了三个协程并打印出它们开始和结束的消息。但是,我们没有在任务开始前调用 Add 方法添加任务,而是在任务开始之后再调用 Add 方法添加任务.
这可能会导致某些任务未被加入到 WaitGroup 中,等待协程就调用了 wg.Wait 方法,这样就会导致一些任务未被加入 WaitGrou ,从而导致等待协程不会等待这些任务执行完成。如果这种情况发生了,我们会看到"All goroutines finished"被输出,但实际上有一些协程还没有完成.
因此,我们应该在所有任务添加完毕之后再调用 Wait 方法,以保证等待的正确性.
在函数或方法中使用,如果一个大任务可以拆分为多个独立的子任务,此时会将其进行拆分,并使用多个协程来并发执行这些任务,提高执行效率,同时使用 WaitGroup 等待所有子任务执行完成,完成协程间的同步.
使用方式也比较简单,先创建一个 sync.WaitGroup ,在函数/方法中启动多个协程,每个协程执行一个任务。然后在协程开始执行任务前,调用 WaitGroup.Add(1) ,表示有一个任务要执行,然后在任务执行完成后调用 WaitGroup.Done() ,表示这个任务执行完成了.
最后,在函数/方法返回之前,需要调用 WaitGroup.Wait() ,等待所有的任务执行完成。大概示例如下
func funcName() {
var wg sync.WaitGroup
for _, 任务 := range 任务列表 {
wg.Add(1)
go func() {
defer wg.Done()
//执行任务
}
}
// 调用wait方法等待所有任务完成
wg.Wait()
}
下面来看go-redis中 ClusterClient 结构体中 ForEachMaster 方法中对于 WaitGroup 的使用。 ForEachMaster 方法通常用于在 Redis 集群中执行针对所有主节点的某种操作,例如在集群中添加或删除键,或者执行一些全局的诊断操作,具体执行的操作由传入参数 fn 指定.
这里 ForEachMaster 方法会对所有主节点执行某种操作,这里的实现是对所有主节点执行某种操作这个大任务,拆分为多个独立的子任务,每个子任务完成对一个Master节点执行指定操作,然后每个子任务启动一个协程去执行,主协程使用 WaitGroup 等待所有协程完成指定子任务, ForEachMaster 也就完成了对所有主节点执行某种操作的任务。具体实现如下:
func (c *ClusterClient) ForEachMaster(
ctx context.Context,
fn func(ctx context.Context, client *Client) error,
) error {
// 重新加载集群状态,以确保状态信息是最新的
state, err := c.state.ReloadOrGet(ctx)
if err != nil {
return err
}
var wg sync.WaitGroup
// 用于协程间通信
errCh := make(chan error, 1)
// 获取到redis集群中所有的master节点
for _, master := range state.Masters {
// 启动一个协程来执行该任务
wg.Add(1)
go func(node *clusterNode) {
// 任务完成时,调用Done告知WaitGroup任务已完成
defer wg.Done()
err := fn(ctx, node.Client)
if err != nil {
select {
case errCh <- err:
default:
}
}
}(master)
}
// 主协程等待所有任务完成
wg.Wait()
return nil
}
本文介绍了 Go 语言中的 WaitGroup 并发原语,它提供了一种简单且强大的机制来协调多个 Goroutine 的执行。我们首先学习了 WaitGroup 的基本使用方法,包括如何创建 WaitGroup、如何向计数器中添加值、如何等待所有 Goroutine 完成以及如何在 Goroutine 中通知 WaitGroup 完成.
接着,我们了解了 WaitGroup 的实现原理,包括计数器和等待计数器的实现。了解了实现原理之后,我们可以更好地理解 WaitGroup 的内部机制以及如何更好地使用它来实现我们的需求.
在接下来的部分中,我们介绍了一些使用 WaitGroup 的注意事项,以及常见的使用方式。基于此,我们完成了对WaitGroup的介绍.
最后此篇关于同步协程的必备工具:WaitGroup的文章就讲到这里了,如果你想了解更多关于同步协程的必备工具:WaitGroup的内容请搜索CFSDN的文章或继续浏览相关文章,希望大家以后支持我的博客! 。
这个问题在这里已经有了答案: Android ADT version required 20.0.0 and above (10 个答案) 关闭 9 年前。 我刚刚安装了 Eclipse Juno
按照 This page from codeplex 上的指南进行操作后,我无法在我的工具/选项窗口中看到 Python 选项。我认为我与指南的唯一偏差是: 发行版:没有安装 activestate
我有一个非常大的 .sql 脚本。我将此脚本添加到 Visual Studio 2013 下的 SQL Server 项目中。当我尝试构建它时,我收到此错误消息 This T-SQL script e
当我在SpringBoot项目中想加个依赖,但是不确定现有依赖的依赖的依赖.....有没有添加过这个依赖,怎么办呢?如果添加过了但是不知道我需要的这个依赖属于哪个依赖的下面,怎么查呢? IDEA中提供
我正在做一个项目来减少 PDF 的大小,压缩它们。我想知道市场上是否有任何非常好的工具/库(.NET)。 我确实尝试了一些像 Onstream Compression 这样的工具,但结果并不令人满意。
我想从我的源代码编译一个安卓内核。 但我想使用工具或类似的东西。 所以我只需单击一个按钮并获得一个可闪存的 zip 文件... 有工具吗? 我可以用脚本来做吗? 谢谢! 最佳答案 这取决于您从哪里获得
我们生成 pdf 文件,其中包含有关数万名客户每月财务余额的数据。在高峰期(年底有 100.000 个文件),使用在 5 台服务器之间分配负载,该过程可能需要长达 5 天的时间才能完成。工作负载的分配
模块:xmllib xmllib 是一个非验证的低级语法分析器。应用程序员使用的 xmllib 可以覆盖 XMLParser 类,并提供处理文档元素(如特定或类属标记,或字符实体)的方法。从 Py
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 我们不允许提问寻求书籍、工具、软件库等的推荐。您可以编辑问题,以便用事实和引用来回答。 关闭 3 年前。
我在一家医疗保健公司工作,拥有有关患者位置(地址、城市、州、 zip )的信息。我试图确定有多少百分比的患者住在离 5 个特定位置最近的地方。我正在寻找的答案是“25% 的患者住在离#1 地点最近的地
关闭。这个问题不符合Stack Overflow guidelines .它目前不接受答案。 4年前关闭。 我们不允许在 Stack Overflow 上提出有关通用计算硬件和软件的问题。您可以编辑问
As it currently stands, this question is not a good fit for our Q&A format. We expect answers to be
请问我在哪里可以得到 SvcTraceViewer 工具? 我尝试下载并安装许多 SDK。 我查看了程序文件的垃圾箱。 我需要它来跟踪我的 WCF 调用出了什么问题。 最佳答案 您可以通过下载 Win
我正在尝试在我最喜欢的编辑器中设置适当的代码完成功能,我们将其称为AnEditor,以避免互联网上充斥着特定于程序的答案。 (您知道语言是ALanguage。)编辑器具有两个我喜欢的功能:它既可以在控
就目前而言,这个问题不适合我们的问答形式。我们希望答案得到事实、引用或专业知识的支持,但这个问题可能会引起辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开,visit the he
当 merge 的两个分支对同一文件有更改时,Mercurial 是否总是使用外部 merge 工具? 或者它是否首先查看它是否可以 merge 文件本身,如果不能,则仅转向外部工具? 我问的原因是我
我正在为我使用的编辑器编写 Scala 插件,该插件将突出显示所有未使用的代码路径(可能未使用 defs 、 vals 、 classes 和 implicits ),并为用户提供一个选项以将它们从.
我有 jquery 工具滚动器...我喜欢它只为 swipeLeft swipeRight 实现触摸选项。 当我使用 touch: true 时,它也会在向上/向下滑动时旋转.. 我按照此处的说明
我已经尝试了一些用于构建 UML(对象/依赖图)的 Eclipse 工具,但我真正需要的是一个工具来生成这样的代码外 UML。 (反之亦然) 我更喜欢一个简单的 UML 工具,它易于安装并且没有任何依
已关闭。此问题不符合Stack Overflow guidelines 。目前不接受答案。 要求我们推荐或查找工具、库或最喜欢的场外资源的问题对于 Stack Overflow 来说是偏离主题的,因为
我是一名优秀的程序员,十分优秀!