golang实现协程池

作者: 小昔小怪兽 | 来源:发表于2021-02-18 11:19 被阅读0次

简介

go语言的协程是十分轻量级的线程,它的销毁创建都在用户空间,因此一般没有必要对协程进行限制,但是某些场景还是需要控制并发数的。

1、可重复利用的协程

//协程池定义
type Pool struct {
    work chan func() //工作协程的chan,无缓冲区(同步)
    sem chan struct{} //控制并发数,带缓冲区
}

Step1:初始化协程池

func NewPool(size int)  *Pool{
    return &Pool{
        work: make(chan func()),
        sem: make(chan struct{}, size),
    }
}

Step2:任务Push接口

func (pool *Pool)NewTask(task func())  {
    select {
    case pool.work <-task:
        fmt.Println("pool.work sends success.")
    case pool.sem  <- struct{}{}:
        go pool.worker(task)
    }
}

1、work chan是一个无缓冲的chan,此处作为生产者往chan内push,如果消费者不存在,不会push成功,也就是select事件不会触发,就会走第二个case。
2、如果两个case都存在事件,那么select会挑选一个分支执行,也即是说,开启的协程是根据当前是否有空闲协程可用,如果有则可能复用,如果没有,则新开协程执行新的任务,协程上限为设置的最大值。

Step3:接收任务,执行任务

func (pool *Pool)worker(task func())  {
    defer func() {
        <- pool.sem //理论上是不会走这个流程
    }()

    //重复利用开启的goroutine 
    for  {
        task()
        //消费者 (如果消费者没准备好,同步的channel就不会发送成功,也就是pool.work <-task 事件不会被触发
        task = <-pool.work
    }
}

优点:可最大化利用协程资源,如果任务频繁,可使用该方式
缺点:
1、开启的协程资源不会被回收,即使没有任务。
2、如果任务中包含阻塞操作,会引发其他任务无法获取资源而一直处于等待

2、每次新建协程执行

与第一种方法一样,使用chan来控制并发数,但是不需要work chan,因为每次都是新建协程,在未达到最大并发之前,直接执行即可。

type Pool2 struct {
    sem chan struct{}
}

func NewPool2(size int)  *Pool2{
    return &Pool2{
        sem: make(chan struct{}, size),
    }
}

func (pool *Pool2)NewTask(task func())  {
    select {
    case pool.sem <- struct{}{}:
        go pool.Worker(task)
    }
}

func (pool *Pool2)Worker(task func())  {
    defer func() {
        fmt.Println("go routing ends.")
        <-pool.sem
    }()

    //此处不能使用go 开启协程,如果开启go,那么defer的内容会被直接执行,也就是达不到限制同时使用的goroutine 数量
    task()
}

相关文章

  • golang实现协程池

    golang中启动一个协程不会消耗太多资源,有人认为可以不用协程池。但是当访问量增大时,可能造成内存消耗完,程序崩...

  • golang实现协程池

    简介 go语言的协程是十分轻量级的线程,它的销毁创建都在用户空间,因此一般没有必要对协程进行限制,但是某些场景还是...

  • go 中 限制 goroutine 数量以及使用协程池

    需要使用协程池? Golang 开发需要协程池吗[https://www.zhihu.com/question/3...

  • 协程池糗百爬虫(五)

    使用协程池实现爬虫的具体实现

  • 浅谈GoLang协程

    GoLang协程 学习golang也有一段时间了,这里讲一下自己对golang协程的使用理解,golang很多人都...

  • tbox协程使用之切换与等待

    tbox的协程实现,是stackfull模式的,需要指定独立堆栈和协程函数,目前暂时还不能像golang那样实现堆...

  • go-ethereum事件机制设计与实现

    总体介绍 以太坊内部有大量协程,协程间的调度驱动通过事件机制来完成;具体实现使用golang的chan机制。主要方...

  • golang协程池的设计

    前言 现在很多公司都在陆续的搭建golang的语言栈,大家有没有想过为什么会出现这种情况?一是因为go比较适合做中...

  • golang协程池模型思考

    一、问题的思考 以前我们在做多线程开发时,经常提到线程池的概念,那么为啥要有线程池的概念那?为啥在golang开发...

  • golang协程实现探讨

    问题一:介绍一下协程的运行时runtime,以及他跟协程有什么关系,为什么需要先介绍它? 答:你要能从根本上了解一...

网友评论

    本文标题:golang实现协程池

    本文链接:https://www.haomeiwen.com/subject/rlpgxltx.html