美文网首页
Spring Cloud—六、使用Ribbon实现负载均衡

Spring Cloud—六、使用Ribbon实现负载均衡

作者: zuoqy | 来源:发表于2018-11-21 09:20 被阅读0次

    首先,我们思考一个问题,如果为同一个提供者在Eureka中注册了多个服务,那么客户端该如何选择服务呢?

    这时,就需要在客户端实现服务的负载均衡。

    在Spring Cloud中推荐使用Ribbon来实现负载均衡。

    6.1、Ribbon简介

    Ribbon是Netflix发布的负载均衡器,它有助于控制HTTP和TCP客户端的行为。为Ribbon配置服务提供者地址列表后,Ribbon就可基于某种负载均衡算法,自动地帮助服务消费者去请求。Ribbon默认为我们提供了很多的负载均衡算法,例如轮询、随机等。当然,我们也可以为Ribbon实现自定义的负载均衡算法。

    6.2、架构

    架构.png

    6.3、开始使用Ribbon

    6.3.1、为springcloud-demo-order增肌ribbon依赖

    该依赖是在spring-cloud-start-eureka-server中已经包含了。


    依赖.png
    6.3.2、为RestTemplate设置@LoadBalanced注解
    开启负载均衡.png

    这样,RestTemplate就具备了负载均衡的功能。

    6.3.3、改造ItemService的实现
    public Item queryItemById(Long id) {
        String sericeId = "springcloud-demo-item";
        String url = "http://" + sericeId + ":/item/query/" + id;
        return this.restTemplate.getForObject(url,Item.class);
    }
    

    可以发现,实现更加简化了。

    6.3.4、重启订单服务进行测试:
    结果.png

    在执行请求前会经过org.springframework.cloud.client.loadbalancer.LoadBalancerInterceptor这个拦截器,并且通过org.springframework.cloud.netfix.ribbon.RibbonLoadBalancerClient中,通过servreId查找服务地址,然后再去做真正的请求。

    6.3.5、测试负载均衡

    测试方法:
    第一步:启动2个springcloud-demo-item服务(多个也可以)


    eureka.png

    第二步,编写单元测试用例,导入测试依赖:

    <dependency>
        <groupId>org.springframework.boot</groupId>
        <artifactId>spring-boot-starter-test</artifactId>
        <scope>test</scope>
    </dependency>
    

    第三步,编写测试用例

    package cn.zuoqy.springclouddemoorder.service;
    
    import cn.zuoqy.springclouddemoorder.SpringcloudDemoOrderApplication;
    import org.junit.Test;
    import org.junit.runner.RunWith;
    import org.springframework.beans.factory.annotation.Autowired;
    import org.springframework.boot.test.context.SpringBootTest;
    import org.springframework.cloud.client.ServiceInstance;
    import org.springframework.cloud.client.loadbalancer.LoadBalancerClient;
    import org.springframework.context.annotation.Import;
    import org.springframework.test.context.junit4.SpringJUnit4ClassRunner;
    
    /**
    * Created by zuoqy on 14:06 2018/11/14.
    */
    @RunWith(SpringJUnit4ClassRunner.class)
    @SpringBootTest
    @Import(SpringcloudDemoOrderApplication.class)
    public class ItemServiceTest {
    
        @Autowired
        private LoadBalancerClient loadBalancerClient;
    
        @Test
        public void test() {
            String serviceId = "springcloud-demo-item";
            for (int i=0; i<100; i++) {
                ServiceInstance instance = this.loadBalancerClient.choose(serviceId);
                System.out.println("第"+(i+1)+"次:"+instance.getHost()+":"+instance.getPort());
            }
        }
    }
    
    测试结果: 负载均衡测试结果.png

    6.4、设置负载均衡的为随机

    配置:

    #负载均衡随机策略
    springcloud-demo-item.ribbon.NFLoadBalancerRuleClassName=com.netflix.loadbalancer.RandomRule
    
    测试: 负载均衡测试结果.png

    6.5、其它策略

    AbstractLoadBalancerRule:负载均衡策略的抽象类,在该抽象类中定义了负载均衡器ILoadBalancer对象,该对象能够在具体实现选择服务策略时,获取到一些负载均衡器中维护的信息来作为分配依据,并以此设计一些算法来实现针对特定场景的高效策略。

    RandomRule:该策略实现了从服务实例清单中随机选择一个服务实例的功能。它的具体实现如下,可以看到IRule接口choose(Object key)函数实现,委托给了该类中的choose(ILoadBalancer lb,Object key),该方法增肌了一个负载均衡对象的参数。从具体的实现上看,它会使用传入的负载均衡器来获得可用实例列表upList和所有实例列表allList,并通过rand.nextInt(serverCount)函数来获取一个随机数,并将该随机数作为upList的索引值来返回具体实例。同时,具体的选择逻辑在一个while(server==null)循环之内,而根据选择逻辑的实现,正常情况下每次选择都应该能够选出一个服务实例,如果出现死循环获取不到服务实例,则很有可能存在并。发的Bug。

    RoundRobinRule:该策略实现了按照线性轮询的方式依次选择每个服务实例的功能。它的具体实现如下,其详细结构与RandomRule非常类似。除了循环条件不同外,就是从可用列表中获取所谓的逻辑不同。从循环条件中,我们可以看到增加了一个count计数变量,该变量会在每次循环之后累加,也就是说如果一直选择不到server超过10次,那么就会结束尝试,并打印一个警告信息No available alive servers after 10 tries from load balancer:...。而线性轮询的实现则是通过AtomicInteger nextServerCylicCounter对象实现,每次进行实例选择时通过调用incrementAndGetModulo函数试下递增。

    RetryRule:该策略实现了一个具备重试机制的实例选择功能。从下面的实例中我们可以看到,在其内部还定义了一个IRule对象,默认使用了RoundRobinRule实例。而在choose方法中的则实现了对内部定义的策略进行反复尝试的策略,若期间能够选择到具体的服务实例就返回,若选择不到就根据设置的尝试结束时间为阈值(maxRetryMillis参数定义的值+choose方法开始执行的时间戳),当超过该阈值后就返回null。

    建议:采用默认策略即可。

    Spring Cloud—一、微服务架构
    Spring Cloud—二、Spring Cloud简介
    Spring Cloud—三、使用Spring Cloud实现微服务
    Spring Cloud—四、Spring Cloud快速入门
    Spring Cloud—五、注册中心Eureka
    Spring Cloud—六、使用Ribbon实现负载均衡
    Spring Cloud—七、容错保护:Hystrix
    Spring Cloud—八、使用Feign实现声明式的Rest调用
    Spring Cloud—九、服务网关Spring Cloud Zuul
    Spring Cloud—十、使用Spring Cloud Config统一管理微服务
    Spring Cloud—十一、使用Spring Cloud Bus(消息总线)实现自动更新

    demo源码

    相关文章

      网友评论

          本文标题:Spring Cloud—六、使用Ribbon实现负载均衡

          本文链接:https://www.haomeiwen.com/subject/hxlqqqtx.html