美文网首页
(转)Concurrency in Go 2 --gorouti

(转)Concurrency in Go 2 --gorouti

作者: one_zheng | 来源:发表于2018-06-24 16:48 被阅读7次

    Goroutines的运行机制

    goroutines对Go来说是独一无二的(尽管其他一些语言有类似的并发原语)。它们不是操作系统线程,它们不完全是绿色的线程(由语言运行时管理的线程),它们是更高级别的抽象,被称为协程(coroutines)。协程是非抢占的并发子程序,也就是说,它们不能被中断。

    Go的独特之处在于goutine与Go的运行时深度整合。Goroutine没有定义自己的暂停或再入点; Go的运行时观察着goroutine的行为,并在阻塞时自动挂起它们,然后在它们变畅通时恢复它们。在某种程度上,这使得它们可以抢占,但只是在goroutine被阻止的地方。它是运行时和goroutine逻辑之间的一种优雅合作关系。 因此,goroutine可以被认为是一种特殊的协程。

    协程,因此可以被认为是goroutine的隐式并发构造,但并发并非协程自带的属性:某些东西必须能够同时托管几个协程,并给每个协程执行的机会,否则它们无法实现并发。当然,有可能有几个协程按顺序执行,但看起来就像并行一样,在Go中这样的情况比较常见。

    Go的宿主机制实现了所谓的M:N调度器,这意味着它将M个绿色线程映射到N个系统线程。 Goroutines随后被安排在绿色线程上。 当我们拥有比绿色线程更多的goroutine时,调度程序处理可用线程间goroutines的分布,并确保当这些goroutine被阻塞时,可以运行其他goroutines。我们将在第六章讨论所有这些机制是如何工作的,但在这里我们将介绍Go如何对并发进行建模。

    Go遵循称为fork-join模型的并发模型.fork这个词指的是在程序中的任何一点,它都可以将一个子执行的分支分离出来,以便与其父代同时运行。join这个词指的是这样一个事实,即在将来的某个时候,这些并发的执行分支将重新组合在一起。子分支重新加入的地方称为连接点。这里有一个图形表示来帮助你理解它:

    fork-join模型.png

    go关键字为Go程序实现了fork,fork的执行者是goroutine,让我们回到之前的例子:

    sayHello := func() {
        fmt.Println("hello")
    }
    go sayHello()
    // continue doing other things
    

    sayHello函数会在属于它的goroutine上运行,与此同时程序的其他部分继续执行。在这个例子中,没有连接点。执行sayHello的goroutine将在未来某个不确定的时间退出,并且该程序的其余部分将继续执行。

    然而,这个例子存在一个问题:我们不确定sayHello函数是否可以运行。goroutine将被创建并交由Go的运行时安排执行,但在main goroutine退出前它实际上可能没有机会运行。

    事实上,由于我们为了简单而省略了其他主要功能部分,所以当我们运行这个小例子时,几乎可以肯定的是,程序将在主办sayHello调用的goroutine开始之前完成执行。 因此,你不会看到打印到标准输出的单词“hello”。 你可以在创建goroutine之后为main goroutine添加一段休眠时间,但请记住,这实际上并不创建一个连接点,只是一个竞争条件。如果你记得第一章,你会增加退出前goroutine将运行的可能性,但你无法保证它。加入连接点是确保程序正确性并消除竞争条件的保证。

    为了创建一个连接点,你必须同步main goroutine和sayHello goroutine。 这可以通过多种方式完成,但我将使用sync包中提供的一个解决方案:sync.WaitGroup。现在了解这个示例如何创建一个连接点并不重要,只是需要清楚它在两个goroutine之间创建了一个连接点。 这是我们的示例版本:

    var wg sync.WaitGroup
    sayHello := func() {
        defer wg.Done()
        fmt.Println("hello")
    }
    wg.Add(1)
    go sayHello()
    wg.Wait() //1
    

    1.在这里加入连接点。
    这会输出:

    hello
    

    这个例子明确的阻塞了main goroutine,直到承载sayHello函数的main goroutine终止。你将在随后的sync包章节了解到更详细的内容。

    我们在示例中使用了匿名函数。让我们把注意力转移到闭包。闭包围绕它们创建的词法范围,从而捕捉变量。如果在goroutine中使用闭包,闭包是否在这些变量或原始引用的副本上运行?让我们试试看:

    var wg sync.WaitGroup
    salutation := "hello"
    wg.Add(1)
    go func() {
        defer wg.Done()
        salutation = "welcome" // 1
    }()
    wg.Wait()
    fmt.Println(salutation)
    

    你认为salutation的值是"hello"还是"welcome"?运行后会看到:

    wlecome
    

    有趣!事实证明,goroutine在它创建的同一地址空间内执行,因此我们的程序打印出“welcome”。让我们再来尝试一个例子。 你认为这个程序会输出什么?

    var wg sync.WaitGroup
    for _, salutation := range []string{"hello", "greetings", "good day"} {
        wg.Add(1)
        go func() {
            defer wg.Done()
            fmt.Println(salutation) // 1
        }()
    }
    wg.Wait()
    

    这里我们测试打印字符串切片创建的循环变量salutation。
    答案比大多数人所预期的不同,而且是Go中为数不多的令人惊讶的事情之一。 大多数人直觉上认为这会以某种不确定的顺序打印出“hello”,”greeting”和“good day”,但实际上:

    good day 
    good day 
    good day
    

    这有点令人惊讶。让我们来看看这里发生了什么。 在这个例子中,goroutine正在运行一个已经关闭迭代变量salutation的闭包,它有一个字符串类型。 当我们的循环迭代时,salutation被分配给切片中的下一个字符串值。 由于运行时调度器安排的goroutine可能会在将来的任何时间点运行,因此不确定在goroutine内将打印哪些值。 在我的机器上,在goroutines开始之前,循环很可能会退出。 这意味着salutation变量超出了范围。 然后会发生什么? goroutines仍然可以引用已经超出范围的东西吗? 这个goroutine会访问可能已经被回收的内存吗?

    这是关于Go如何管理内存的一个有趣的侧面说明。Go运行时足够敏锐地知道对salutation变量的引用仍然保留,因此会将内存传输到堆中,以便goroutine可以继续访问它。

    在这个例子中,循环在任何goroutines开始运行之前退出,所以salutation转移到堆中,并保存对字符串切片“good day”中最后一个值的引用。所以会看到“good day”打印三次 。 编写该循环的正确方法是将salutation的副本传递给闭包,以便在运行goroutine时,它将对来自其循环迭代的数据进行操作:

    var wg sync.WaitGroup
    for _, salutation := range []string{"hello", "greetings", "good day"} {
        wg.Add(1)
        go func(salutation string) { // 1
            defer wg.Done()
            fmt.Println(salutation)
        }(salutation) // 2
    }
    wg.Wait()
    

    1.在这里我们声明了一个参数,和其他的函数看起来差不多。我们将原始的salutation变量映射到更加明显的位置。
    2.在这里,我们将当前迭代的变量传递给闭包。 一个字符串的副本被创建,从而确保当goroutine运行时,我们引用正确的字符串。
    正如我们所看到的,我们得到的输出看起来没那么奇怪了:

    good day 
    hello 
    greetings
    

    goroutine创建之前和之后分配的内存量:

    memConsumed := func() uint64 {
        runtime.GC()
        var s runtime.MemStats
        runtime.ReadMemStats(&s)
        return s.Sys
    }
    
    var c <-chan interface{}
    var wg sync.WaitGroup
    noop := func() { wg.Done(); <-c } // 1
    
    const numGoroutines = 1e4 // 2
    wg.Add(numGoroutines)
    before := memConsumed() // 3
    for i := numGoroutines; i > 0; i-- {
        go noop()
    }
    wg.Wait()
    after := memConsumed() // 4
    fmt.Printf("%.3fkb", float64(after-before)/numGoroutines/1000)
    

    我们需要一个永不退出的goroutine,以便我们可以将它们中的一部分保存在内存中进行测量。 不要担心我们目前如何实现这一目标。 只知道这个goroutine不会退出,直到这个过程结束。
    这里我们定义要创建的goroutines的数量。 我们将使用大数定律渐近地逼近一个goroutine的大小。
    这里测量创建分区之前所消耗的内存量。
    这里测量创建goroutines后消耗的内存量。
    在控制台会输出:

    2.817kb
    

    在我的笔记本上,我有8G内存,这意味着理论上我可以支持数百万的goroutines。当然,这忽略了在电脑上运行的其他东西。但这个快速估算的结果表明了goroutine是多么的轻量级。
    存在一些可能会影响我们的goroutine规模的因素,例如上下文切换,即当某个并发进程承载的某些内容必须保存其状态以切换到其他进程时。如果我们有太多的并发进程,上下文切换可能花费所有的CPU时间,并且无法完成任何实际工作。在操作系统级别,使用线程,这样做代价可能会非常高昂。操作系统线程必须保存寄存器值,查找表和内存映射等内容,才能在操作成功后切换回当前线程。 然后它必须为传入线程加载相同的信息。

    在软件中的上下文切换代价相对小得多。在软件定义的调度程序下,运行时可以更具选择性地进行持久检索,例如如何持久化以及何时发生持续化。我们来看看操作系统线程和goroutines之间上下文切换的相对性能。 首先,我们将利用Linux内置的基准测试套件来测量在同一内核的两个线程之间发送消息需要多长时间:

    taskset -c 0 perf bench sched pipe -T
    

    这会输出:

    # Running 'sched/pipe' benchmark:
    # Executed 1000000 pipe operations between two threads 
    
            Total time: 2.935 [sec]
                2.935784 usecs/op
                   340624 ops/sec
    

    这个基准测量实际上是衡量在一个线程上发送和接收消息所需的时间,所以我们将把结果分成两部分。 每个上下文切换1.467微秒。 这看起来不算太坏,但让我们先别急着下判断,再来比较下goroutine之间的上下文切换。

    我们将使用Go构建一个类似的基准测试。下面的代码涉及到一些尚未讨论过的东西,所以如果有什么困惑的话,只需根据注释关注结果即可。 以下示例将创建两个goroutine并在它们之间发送消息:

    func BenchmarkContextSwitch(b *testing.B) {
        var wg sync.WaitGroup
        begin := make(chan struct{})
        c := make(chan struct{})
    
        var token struct{}
        sender := func() {
            defer wg.Done()
            <-begin //1
            for i := 0; i < b.N; i++ {
                c <- token //2
            }
        }
        receiver := func() {
            defer wg.Done()
            <-begin //1
            for i := 0; i < b.N; i++ {
                <-c //3
            }
        }
    
        wg.Add(2)
        go sender()
        go receiver()
        b.StartTimer() //4
        close(begin)   //5
        wg.Wait()
    }
    

    这里会被阻塞,直到接受到数据。我们不希望设置和启动goroutine影响上下文切换的度量。
    在这里向接收者发送数据。struct{}{}是空结构体且不占用内存;这样我们就可以做到只测量发送信息所需要的时间。
    在这里,我们接收传递过来的数据,但不做任何事。
    开始启动计时器。
    在这里我们通知发送和接收的goroutine启动。
    我们运行该基准测试,指定只使用一个CPU,以便与之前的Linux基准测试想比较,我们来看看结果:

    go test -bench=. -cpu=1 /src/gos-concurrency-building-blocks/goroutines/fig-ctx-switch_test.go
    

    每个上下文切换225 ns,哇! 这是0.225μs,比我机器上的操作系统上下文切换快92%,如果你记得1.467μs的话。很难说有多少goroutines会导致过多的上下文切换,但我们可以很自然地说上限可能不会成为使用goroutines的障碍。

    BenchmarkContextSwitch 5000000 225ns/op
    PASS
    ok command-line-arguments 1.393s

    每个上下文切换225 ns,哇! 这是0.225μs,比我机器上的操作系统上下文切换快92%,如果你记得1.467μs的话。很难说有多少goroutines会导致过多的上下文切换,但我们可以很自然地说上限可能不会成为使用goroutines的障碍。

    相关文章

      网友评论

          本文标题:(转)Concurrency in Go 2 --gorouti

          本文链接:https://www.haomeiwen.com/subject/fycsyftx.html