golang限制协程数量

虽然golang中协程开销很低,但是在一些情况下还是有必要限制一下协程的开启数,比如爬虫中的下载协程,因为受到带宽限制,开的多了也没有效果。本来想在网上找找有没协程池,类似其它语言线程池这样的东西,可以限制最大开启数。找了一番,这方面的资料非常少,难道golang不需要协程池这种东东?自己动手写一个吧。

要限制协程最大数量,就是考虑开启一个协程的时候记录一下,然后超过最大数就不再开启。可以考虑用一个变量count来记录协程开启数量,不过这种方式比较out了,golang中可以用channel来实现。

不限制的代码

package main

import (
    "fmt"
    "strconv"
    "time"
)

// 模拟下载页面方法
func download(url string) {
    fmt.Println("download from ",url)
}

func main() {
    urls := [100]string{}
    for i := 0; i < 100; i++ {
        urls[i] = "url" + strconv.Itoa(i)
    }
    for i := 0; i < len(urls); i++ {
        go download(urls[i])
    }

    // 休眠一下
    for {
        time.Sleep(1 * 1e9)
    }
}

根据url数量开启若干协程,每个协程会去下载页面内容,通常受到带宽的限制,协程开多了没有什么提升效果

限制一下

package main

import (
    "fmt"
    "strconv"
    "time"
)

var (
    maxRoutineNum = 10
)

// 模拟下载页面方法
func download(url string,ch chan int) {
    fmt.Println("download from ",url)
    // 休眠两秒模拟下载页面
    time.Sleep(2 * 1e9)
    // 下载完成则从ch推出数据
    <-ch
}

func main() {
    ch := make(chan int,maxRoutineNum)

    urls := [100]string{}
    for i := 0; i < 100; i++ {
        urls[i] = "url" + strconv.Itoa(i)
    }
    for i := 0; i < len(urls); i++ {
        // 开启下载协程前往ch塞一个数据
        // 如果ch满了则会处于阻塞,从而达到限制最大协程的功能
        ch <- 1
        go download(urls[i],ch)
    }

    // 休眠一下
    for {
        time.Sleep(1 * 1e9)
    }
}

主要就是用golang中channel的阻塞性和最大数量处理,可以考虑封装一下提供使用。

golang真的不需要协程池?

来源: http://www.tuicool.com/articles/6ZvEfy

相关文章

程序目录结构 简单实现,用户登录后返回一个jwt的token,下次请求带上token请求用户信息接口并返回信息...
本篇博客的主要内容是用go写一个简单的Proof-of-Work共识机制,不涉及到网络通信环节,只是一个本地的简...
简介 默克尔树(MerkleTree)是一种典型的二叉树结构,其主要特点为: 最下面的叶节点包含存储数据或其...
接下来学习并发编程, 并发编程是go语言最有特色的地方, go对并发编程是原生支持. goroutine是go中最近本...
先普及一下, 什么是广度优先搜索 广度优先搜索类似于树的层次遍历。从图中的某一顶点出发,遍历每一个顶...
第一天: 接口的定义和实现 第二天: 一. go语言是面向接口编程. 在学习继承的时候说过, go语言只有封装,...