微服务的那些事(五)强大的负载均衡组件Robbin,看完这篇你全知道
1.负载均衡Robbin
在刚才的案例中,我们启动了一个user-service,然后通过DiscoveryClient来获取服务实例信息,然后获取ip和端口来访问。
但是实际环境中,我们往往会开启很多个user-service的集群。此时我们获取的服务列表中就会有多个,到底该访问哪一个呢?
一般这种情况下我们就需要编写负载均衡算法,在多个实例列表中进行选择。
不过Eureka中已经帮我们集成了负载均衡组件:Ribbon,简单修改代码即可使用。
什么是Ribbon:
接下来,我们就来使用Ribbon实现负载均衡。
1.1.启动两个服务实例
首先我们启动两个user-service实例,一个8081,一个8082。
Eureka监控面板:
1.2.开启负载均衡
因为Eureka中已经集成了Ribbon,所以我们无需引入新的依赖。直接修改代码:
在RestTemplate的配置方法上添加@LoadBalanced注解:@Bean @LoadBalanced publicRestTemplaterestTemplate() { returnnewRestTemplate(newOkHttp3ClientHttpRequestFactory()); }
修改调用方式,不再手动获取id和端口修改调用方式,不再手动获取ip和端口,而是直接通过服务名称调用: @Service publicclassUserService{ @Autowired privateRestTemplaterestTemplate; @Autowired privateDiscoveryClientdiscoveryClient; publicListqueryUserByIds(Listids) { Listusers=newArrayList<>(); // 地址直接写服务名称即可 StringbaseUrl="http://user-service/user/"; ids.forEach(id->{ // 我们测试多次查询, users.add(this.restTemplate.getForObject(baseUrl+id, User.class)); // 每次间隔500毫秒 try{ Thread.sleep(500); } catch(InterruptedExceptione) { e.printStackTrace(); } }); return users; } }
访问页面查看结果。
完美1.3.源码跟踪
为什么我们只输入了service名称就可以访问了呢?之前还要获取ip和端口。
显然有人帮我们根据service名称,获取到了服务实例的ip和端口。它就是LoadBalancerInterceptor
我们进行源码跟踪:
继续跟入execute方法:发现获取了8081端口的服务
再跟下一次,发现获取的是8082:1.4.负载均衡策略
Ribbon默认的负载均衡策略是简单的轮询,我们可以测试一下:
编写测试类,在刚才的源码中我们看到拦截中是使用RibbonLoadBalanceClient来进行负载均衡的,其中有一个choose方法,是这样介绍的:
现在这个就是负载均衡获取实例的方法。
我们对注入这个类的对象,然后对其测试
@RunWith(SpringRunner.class)
@SpringBootTest(classes=UserConsumerDemoApplication.class)
public class LoadBalanceTest{
@Autowired
RibbonLoadBalancerClientclient;
@Test
public void test(){
for(inti=0; i<100; i++) {
ServiceInstanceinstance=this.client.choose("user-service");
System.out.println(instance.getHost() +":"+instance.getPort());
}
}
}
结果
符合了我们的预期推测,确实是轮询方式。
我们是否可以修改负载均衡的策略呢?
继续跟踪源码,发现这么一段代码:
我们看看这个rule是谁:
这里的rule默认值是一个RoundRobinRule,看类的介绍:
这不就是轮询的意思嘛。
我们注意到,这个类其实是实现了接口IRule的,查看一下:
定义负载均衡的规则接口。
它有以下实现:
SpringBoot也帮我们提供了修改负载均衡规则的配置入口:
user-service: ribbon: NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
格式是:{服务名称}.ribbon.NFLoadBalancerRuleClassName,值就是IRule的实现类。
再次测试,发现结果变成了随机:
1.5.重试机制
Eureka的服务治理强调了CAP原则中的AP,即可用性和可靠性。它与Zookeeper这一类强调CP(一致性,可靠性)的服务治理框架最大的区别在于:Eureka为了实现更高的服务可用性,牺牲了一定的一致性,极端情况下它宁愿接收故障实例也不愿丢掉健康实例,正如我们上面所说的自我保护机制。
但是,此时如果我们调用了这些不正常的服务,调用就会失败,从而导致其它服务不能正常工作!这显然不是我们愿意看到的。
我们现在关闭一个user-service实例
因为服务剔除的延迟,consumer并不会立即得到最新的服务列表,此时再次访问你会得到错误提示:
但是此时,8081服务其实是正常的。
因此Spring Cloud 整合了Spring Retry 来增强RestTemplate的重试能力,当一次服务调用失败后,不会立即抛出一次,而是再次重试另一个服务。
只需要简单配置即可实现Ribbon的重试:
spring:
cloud:
loadbalancer:
retry:
enabled: true # 开启Spring Cloud的重试功能
user-service:
ribbon:
ConnectTimeout: 250 # Ribbon的连接超时时间
ReadTimeout: 1000 # Ribbon的数据读取超时时间
OkToRetryOnAllOperations: true # 是否对所有操作都进行重试
MaxAutoRetriesNextServer: 1 # 切换实例的重试次数
MaxAutoRetries: 1 # 对当前实例的重试次数
根据如上配置,当访问到某个服务超时后,它会再次尝试访问下一个服务实例,如果不行就再换一个实例,如果不行,则返回失败。切换次数取决于MaxAutoRetriesNextServer参数的值
引入spring-retry依赖 org.springframework.retry spring-retry
我们重启user-consumer-demo,测试,发现即使user-service2宕机,也能通过另一台服务实例获取到结果!
鸣谢
感谢各位的拜读,关于微服务,我写了很多篇文章,我也会持续的写下去,这是第五篇,如果你觉得还可以,请您就关注我。你的支持,是我创作的动力。
母婴行业如何利用小程序抢占市场?实现客源销量双增长随着小程序的火爆,线下店铺实现线上转型已成必然趋势,餐饮服装美妆等行业都在利用小程序实现转型,抢占市场,那么面对客户群体巨大的母婴行业自然也不能落后,那么母婴行业应该怎样利用小程序
小程序开店步骤是什么?怎么搭建一个小程序店铺?想拥有一个小程序,要看这三个关键步骤1,申请小程序账号并做认证登录微信公众平台,注册,在帐户类型页面中,选择小程序,按照提示创建,根据步骤提示做认证,需要300元认证费,以后每年都
人类高质量的选择!三款国货SUV是谁让你种草?随着网络用词人类高质量的爆火,可以看出当代人对生活质量在不断苛刻,既要朴实无华,又要有内涵。就拿购车来说,消费者不光需要好看的皮囊,同时还要兼顾家用,尤其是三胎政策的放宽,儿童的用
小户型到底装不装榻榻米,竟有这些猫腻由于放假的居高不下,现如今小户型成为了年轻伙伴们的首选,可小户型中的卧室空间较小,放上床柜等家具就会满登登,不过又有什么办法呢?别急,我们可以通过设计把有限的空间巧妙地利用起来。在
夏季降温有招法,让你家清凉一夏进入夏天,一想到火辣辣的太阳,闷热的天气,整个人都有种被蒸的感觉,实在是不好受。这个时候人们会选择吃些冷饮躲在阴凉处乘凉可小编却喜欢宅在家里,有的伙伴会问,难道你有什么好的降温方法
这台房车这样设计,个人感觉相对实用依维柯欧胜目前算得上主流的C型车底盘,在此基础上近两年改了几个版本的C型,结合目前的房车设计理念,海王星用十多台车做了以下几个实践并证明了理念的可操作性柴油锅炉加热防冻液的热中心,
中牟县开展守护童梦,与爱同行圆梦困境儿童微心愿服务活动中国公益在线郑州讯(公益记者张文孟)元旦假期前夕,郑州市中牟县民政局联合郑州市金水区恩夕社会工作服务中心发起了守护童梦,与爱同行圆梦困境儿童微心愿认领活动,短短一周时间,所有困境儿
冬日打造暖意家居,让家温馨一片进入寒冬,天气很冷,您的家里是不是也该换上温暖的家居了呢?如果还没拿定主意的话,今天我就和伙伴们来分享的一些冬日家居,说不定哪件就是你家的菜在寒冷的冬季能让家里暖暖的,让人感觉是那
端午节的家居应该怎么装?弄些应景好物来扮靓端午节是我们中华民族的传统节日,这不马上就要到啦!我们为了迎接它的到来,是不是应该把房间好好的布置一番呢?营造一个干净舒适的环境,这样才符合端午节幸福安康的主题,你们说是不是这个理
佩戴安全头盔,幸福你我他记经开区朝凤路小学1月15日发放佩戴安全头盔倡议书活动2021年1月15日下午,经开区朝凤路小学学生学雷锋志愿小队队员们已经穿戴好志愿服装在学校大门口集结整齐,将要开始今天的学雷锋
绿城使者守护玉娃因市政施工,郑州经开区瑞锦小学的学生路队线路发生变化,上下学时段在校门口马路中央两侧拉起了警戒线,为学生秩序安全入校,志愿服务的教师做足了准备。天蒙蒙亮,学校路口却川流不息,分列在