美文网首页go
通过项目学习Go语言之gatekeeper项目介绍

通过项目学习Go语言之gatekeeper项目介绍

作者: whatiscoding | 来源:发表于2019-12-12 21:21 被阅读0次

    目前,go语言已然成为各大厂的标配开发语言,各大厂都在使用go语言构建一些重要的支撑系统。当今最流行的容器Docker及容器编排和管理工具k8s都是使用go来构建的,并且是开源的,这给go开发者提供了很好的学习资料。但是,这些项目对初学者来说过于复杂,很难通读其源码。国内大厂也开源了一些go开发的项目,比如baidu的应用负载均衡产品bfe、bilibili开源的go微服务框架kratos、didi最近开源的gatekeeper都是开发者值得学习的好项目。

    接下来,通过didi开源的gatekeeper为例,来深入学习go语言。为什么选择gatekeeper为例来学习go语言呢?

    • 微服务已经成为各个公司构建系统首先倡导的架构风格,对于微服务架构来说一个很重要的组件就是网关,gatekeeper就是一个这样的项目
    • go语言以其简单和高性能,部署快捷简单著称,很多公司都是用go开发前端接口服务,getekeeper使用了最著名的一个http web开发框架gin
    • gatekeeper既包含了接口服务也包括了管理后台,使用了mysql也使用了redis
      鉴于以上原因,笔者选中了它来作为需要使用go语言开发生产级项目的剖析原型。

    在此也非常感谢didi的gatekeeper团队开源出来这么优秀的产品。

    项目介绍

    GateKeeper 是一个使用 Go (golang) 编写的不依赖分布式数据库的 API 网关, 使用它可以高效进行服务代理 以及 在线化服务配置并且你无需重启服务器。具备以下特性:

    • http、websocket、tcp服务代理
    • 服务探测
    • 加权负载轮询
    • URL地址重写
    • 服务限流:支持独立IP限流
    • 高拓展性:支持自定义 请求前验证request方法、请求后更改response方法、tcp中间件、http中间件 等。
    • 高可用性:单个服务异常不影响其他服务。
    • 最少依赖:无需任何额外组件即可运行,mysql、redis 只做管理和统计使用可随时关闭。
      通过官方的介绍,我们可以看到getekeeper具备了网关的几乎全部功能。其中最重要的特性就是支持http的代理,还支持websocket和tcp,同时也支持插件。gatekeeper处理http代理时,直接是使用了go内置的代理组件ReverseProxy。

    运行

    getakeeper官方给了很详细的运行说明,我们看一下其部署的步骤:

    1. 下载github上的源代码到本地
    git clone git@github.com:didichuxing/gatekeeper.git
    
    1. 设置运行环境,gatekeeper是通过go mod来管理构建项目的,需要按照如下步骤开启go mod模式
    export GO111MODULE=on
    export GOPROXY=https://goproxy.cn
    

    3.getekeeper为我们提供了管理后台,用于配置管理的api和租户,查看调用统计,需要我们设置mysql和redis
    创建数据库

    mysql -h localhost -u root -p -e "CREATE DATABASE gatekeeper DEFAULT CHARACTER SET utf8 COLLATE utf8_general_ci;"
    mysql -h localhost -u root -p gatekeeper < install/db.sql --default-character-set=utf8
    

    创建数据库导入表后,我们看到创建了如下表:


    数据库表

    redis为了方便将通过docker启动

    docker run -p 6379:6379 -d redis:latest redis-server
    6fce8bf5cc2faa0ca462939161960dcdf137a07f1fd587d93da51dc2b5f3a8cb
    docker ps
    CONTAINER ID        IMAGE               COMMAND                  CREATED             STATUS              PORTS                    NAMES
    6fce8bf5cc2f        redis:latest        "docker-entrypoint.s…"   4 seconds ago       Up 3 seconds        0.0.0.0:6379->6379/tcp   brave_shtern
    

    4.调整配置文件,修改 ./conf/dev/mysql.toml 和 ./conf/dev/redis.toml 为自己的环境配置

    # this is mysql config  将数据库的用户名和密码 数据库ip和端口修改成实际的环境配置即可
    [list]
        [list.default]
            driver_name = "mysql"
            data_source_name = "root:123456@tcp(127.0.0.1:3306)/gatekeeper?charset=utf8&parseTime=true&loc=Asia%2FChongqing"
            max_open_conn = 20
            max_idle_conn = 10
            max_conn_life_time = 100
    
    # this is redis config file  将redis地址和端口修改为实际环境配置
    [list]
        [list.default]
            proxy_list = ["127.0.0.1:6379"]
            conn_timeout = 50 #ms
            read_timeout = 100
            write_timeout = 100
    

    5.运行

    go run main.go 
    
    2019/12/12 21:12:16 ------------------------------------------------------------------------
    2019/12/12 21:12:16 [INFO]  config=./conf/dev/
    2019/12/12 21:12:16 [INFO]  start loading resources.
    2019/12/12 21:12:16 [INFO]  success loading resources.
    2019/12/12 21:12:16 ------------------------------------------------------------------------
    [GIN-debug] [WARNING] Running in "debug" mode. Switch to "release" mode in production.
     - using env:   export GIN_MODE=release
     - using code:  gin.SetMode(gin.ReleaseMode)
    ....省略路由映射日志
    2019/12/12 21:12:16  [INFO] HttpServer :8081 listening
    2019/12/12 21:12:16  [INFO] TCPServer :8900 listening
    

    访问:http://127.0.0.1:8081/admin/login,打开页面登陆:admin / 123456

    管理页面
    6.配置一个http api
    添加api

    访问http://127.0.0.1:8081/gatekeeper/pvst/stat/ping

    返回正确结果

    至此,api网关已经正常运行起来了。

    组件分析

    在上文中我们也提到getekeeper的http部分是基于优秀的框架gin构建的,由gin来处理全部的http请求。

    //HTTPServerRun 服务启动
    func HTTPServerRun() {
        gin.SetMode(lib.ConfBase.DebugMode)
    //初始化engine
        r := InitRouter()
        HTTPSrvHandler = &http.Server{
            Addr:           lib.GetStringConf("base.http.addr"),
            Handler:        r,
            ReadTimeout:    time.Duration(lib.GetIntConf("base.http.read_timeout")) * time.Second,
            WriteTimeout:   time.Duration(lib.GetIntConf("base.http.write_timeout")) * time.Second,
            MaxHeaderBytes: 1 << uint(lib.GetIntConf("base.http.max_header_bytes")),
        }
        go func() {
            defer func() {
                if err := recover(); err != nil {
                    public.SysLogger.Error("HttpServerRun_recover:%v", err)
                }
            }()
            log.Printf(" [INFO] HttpServer %s listening\n",lib.GetStringConf("base.http.addr"))
            if err := HTTPSrvHandler.ListenAndServe(); err != nil && err != http.ErrServerClosed {
                log.Fatalf(" [ERROR] HttpServer %s err:%v\n", lib.GetStringConf("base.http.addr"), err)
            }
        }()
    }
    

    通过r := InitRouter(),对gin Engine进行初始化,以接管来自外部的全部http请求,接下来我们看看 InitRouter()做了哪些事。

    //InitRouter 声明http路由
    func InitRouter() *gin.Engine {
        router := gin.New()
        router.Use(middleware.Recovery())
    
        //admin
        admin := router.Group("/admin")
        admin.Use(middleware.RequestTraceLog())
        {
            controller.AdminRegister(admin)
        }
    
        //assets
        router.Static("/assets", "./tmpl/green/assets")
    
        //gateway
        gateway := controller.Gateway{}
        router.GET("/ping", gateway.Ping)
    
        //cluster
        csr:=router.Group("/")
        csr.Use(middleware.ClusterAuth())
        csr.GET("/reload", gateway.Reload)
    //注册网关路由
        gw:=router.Group(lib.GetStringConf("base.http.route_prefix"))
        gw.Use(
            middleware.RequestTraceLog(),
            middleware.MatchRule(),
            middleware.AccessControl(),
            middleware.HTTPLimit(),
            //todo 拓展中间件
            middleware.LoadBalance())
        {
            gw.GET("/*action", gateway.Index)
            gw.POST("/*action", gateway.Index)
            gw.DELETE("/*action", gateway.Index)
            gw.OPTIONS("/*action", gateway.Index)
        }
        return router
    }
    

    通过gw:=router.Group(lib.GetStringConf("base.http.route_prefix"))注册了请求URI以/gatekeeper开头的全部请求会进入gw路由组的处理逻辑,即经过注册的一系列的插件转发到实际的realserver进行请求的处理和响应。

    在请求代理处理部分,getekeeper直接使用了go内置的代理组件ReverseProxy来处理请求的转发代理:proxy.ServeHTTP(c.Writer, c.Request)。

    //LoadBalance 负载均衡中间件
    func LoadBalance() gin.HandlerFunc {
        return func(c *gin.Context) {
            gws,ok:=c.MustGet(MiddlewareServiceKey).(*service.GateWayService)
            if !ok{
                public.ResponseError(c, http.StatusBadRequest, errors.New("gateway_service not valid"))
                return
            }
            proxy, err := gws.LoadBalance()
            if err != nil {
                public.ResponseError(c, http.StatusProxyAuthRequired, err)
                return
            }
            requestBody,ok:=c.MustGet(MiddlewareRequestBodyKey).([]byte)
            if !ok{
                public.ResponseError(c, http.StatusBadRequest, errors.New("request_body not valid"))
                return
            }
            c.Request.Body = ioutil.NopCloser(bytes.NewBuffer(requestBody))
            proxy.ServeHTTP(c.Writer, c.Request)
            c.Abort()
        }
    }
    

    go语言net包为我们提供了丰富的关于http的处理工具,其中http代理就是其提供的一个强大的正向代理和反向代理的工具,在这里我们就对其进行展开分析了。

    本节完。

    相关文章

      网友评论

        本文标题:通过项目学习Go语言之gatekeeper项目介绍

        本文链接:https://www.haomeiwen.com/subject/homigctx.html