zookeeper宕机与dubbo直连
现象
zookeeper注册中心宕机,还可以消费dubbo暴露的服务。
原因
健壮性
- l 监控中心宕掉不影响使用,只是丢失部分采样数据
- l 数据库宕掉后,注册中心仍能通过缓存提供服务列表查询,但不能注册新服务
- l 注册中心对等集群,任意一台宕掉后,将自动切换到另一台
- l 注册中心全部宕掉后,服务提供者和服务消费者仍能通过本地缓存通讯
- l 服务提供者无状态,任意一台宕掉后,不影响使用
- l 服务提供者全部宕掉后,服务消费者应用将无法使用,并无限次重连等待服务提供者恢复
如果没有注册中心,可以使用dubbo直连的形式调用服务
集群下dubbo负载均衡配置
在集群负载均衡时,Dubbo 提供了多种均衡策略,缺省为 random 随机调用。
负载均衡策略
Random LoadBalance
随机,按权重设置随机概率。
在一个截面上碰撞的概率高,但调用量越大分布越均匀,而且按概率使用权重后也比较均匀,有利于动态调整提供者权重。
RoundRobin LoadBalance
轮循,按公约后的权重设置轮循比率。
存在慢的提供者累积请求的问题,比如:第二台机器很慢,但没挂,当请求调到第二台时就卡在那,久而久之,所有请求都卡在调到第二台上。
LeastActive LoadBalance
最少活跃调用数,相同活跃数的随机,活跃数指调用前后计数差。
使慢的提供者收到更少请求,因为越慢的提供者的调用前后计数差会越大。
ConsistentHash LoadBalance
一致性 Hash,相同参数的请求总是发到同一提供者。
当某一台提供者挂时,原本发往该提供者的请求,基于虚拟节点,平摊到其它提供者,不会引起剧烈变动。算法参见:http://en.wikipedia.org/wiki/Consistent_hashing
缺省只对第一个参数 Hash,如果要修改,请配置 <dubbo:parameter key="hash.arguments" value="0,1" />
缺省用 160 份虚拟节点,如果要修改,请配置 <dubbo:parameter key="hash.nodes" value="320" />
负载均衡策略配置
服务端服务级别
<dubbo:service interface="..." loadbalance="roundrobin" />
客户端服务级别
<dubbo:reference interface="..." loadbalance="roundrobin" />
服务端方法级别
<dubbo:service interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:service>
客户端方法级别
<dubbo:reference interface="...">
<dubbo:method name="..." loadbalance="roundrobin"/>
</dubbo:reference>
同时还可以在dubbo-admin提供的管理平台上给相关服务去提升或降低权重,这个可以在项目运行过程中动态更改。
服务熔断与降级处理
服务降级
当服务器压力剧增的情况下,根据实际业务情况及流量,对一些服务和页面有策略的不处理或换种简单的方式处理,从而释放服务器资源以保证核心交易正常运作或高效运作。
可以通过服务降级功能临时屏蔽某个出错的非关键服务,并定义降级后的返回策略。
向注册中心写入动态配置覆盖规则:
RegistryFactory registryFactory = ExtensionLoader.getExtensionLoader(RegistryFactory.class).getAdaptiveExtension();
Registry registry = registryFactory.getRegistry(URL.valueOf("zookeeper://10.20.153.10:2181"));
registry.register(URL.valueOf("override://0.0.0.0/com.foo.BarService?category=configurators&dynamic=false&application=foo&mock=force:return+null"));
其中:
- mock=force:return+null 表示消费方对该服务的方法调用都直接返回 null 值,不发起远程调用。用来屏蔽不重要服务不可用时对调用方的影响。
- 还可以改为 mock=fail:return+null 表示消费方对该服务的方法调用在失败后,再返回 null 值,不抛异常。用来容忍不重要服务不稳定时对调用方的影响。
这两种方式分别对应下图的屏蔽与容错(消费者端):
集群容错
在集群调用失败时,Dubbo 提供了多种容错方案,缺省为 failover 重试。
1、Failover Cluster
失败自动切换,当出现失败,重试其它服务器。通常用于读操作,但重试会带来更长延迟。可通过 retries="2" 来设置重试次数(不含第一次)。
重试次数配置如下:
<dubbo:service retries="2" />
或
<dubbo:reference retries="2" />
或
<dubbo:reference>
<dubbo:method name="findFoo" retries="2" />
</dubbo:reference>
2、Failfast Cluster
快速失败,只发起一次调用,失败立即报错。通常用于非幂等性的写操作,比如新增记录。
3、Failsafe Cluster
失败安全,出现异常时,直接忽略。通常用于写入审计日志等操作。
4、Failback Cluster
失败自动恢复,后台记录失败请求,定时重发。通常用于消息通知操作。
5、Forking Cluster
并行调用多个服务器,只要一个成功即返回。通常用于实时性要求较高的读操作,但需要浪费更多服务资源。可通过 forks="2" 来设置最大并行数。
6、Broadcast Cluster
广播调用所有提供者,逐个调用,任意一台报错则报错 [2]。通常用于通知所有提供者更新缓存或日志等本地资源信息。
集群模式配置
按照以下示例在服务提供方和消费方配置集群模式
<dubbo:service cluster="failsafe" />
或
<dubbo:reference cluster="failsafe" />
整合hystrix
Hystrix 旨在通过控制那些访问远程系统、服务和第三方库的节点,从而对延迟和故障提供更强大的容错能力。Hystrix具备拥有回退机制和断路器功能的线程和信号隔离,请求缓存和请求打包,以及监控和配置等功能。
1、配置spring-cloud-starter-netflix-hystrix
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-netflix-hystrix</artifactId>
<version>1.4.4.RELEASE</version>
</dependency>
然后在Application类上增加@EnableHystrix来启用hystrix starter:
@SpringBootApplication
@EnableHystrix
public class ProviderApplication {
}
2、配置Provider端
在Dubbo的Provider上增加@HystrixCommand配置,这样子调用就会经过Hystrix代理。
@Service(version = "1.0.0")
public class HelloServiceImpl implements HelloService {
@HystrixCommand(commandProperties = {
@HystrixProperty(name = "circuitBreaker.requestVolumeThreshold", value = "10"),
@HystrixProperty(name = "execution.isolation.thread.timeoutInMilliseconds", value = "2000") })
@Override
public String sayHello(String name) {
// System.out.println("async provider received: " + name);
// return "annotation: hello, " + name;
throw new RuntimeException("Exception to show hystrix enabled.");
}
}
3、配置Consumer端
对于Consumer端,则可以增加一层method调用,并在method上配置@HystrixCommand。当调用出错时,会走到fallbackMethod = "reliable"的调用里。
@Reference(version = "1.0.0")
private HelloService demoService;
@HystrixCommand(fallbackMethod = "reliable")
public String doSayHello(String name) {
return demoService.sayHello(name);
}
public String reliable(String name) {
return "hystrix fallback value";
}
dubbo异步调用与事件通知
异步调用
配置方式
<dubbo:method name=“xxx" async="true" />
示例
例如store服务需要调用order服务,配置以及代码如下:
<dubbo:reference id="orderService" interface="com.enjoy.service.OrderService" loadbalance="last" >
<dubbo:method name="cancel" async="true" />
</dubbo:reference>
<dubbo:reference id="payService" interface="com.enjoy.service.PayService" >
<dubbo:method name="cancelPay" async="true" />
</dubbo:reference>
//若设置了async=true,方法立即返回null
cancel_order = orderService.cancel(orderView);
//只有async=true,才能得到此对象,否则为null
Future<String> cancelOrder = RpcContext.getContext().getFuture();
cancel_pay = payService.cancelPay(orderView.getMoney());
Future<String> cancelpay = RpcContext.getContext().getFuture();
/**
* Future模式
*
*/
try {
cancel_order = cancelOrder.get();
cancel_pay = cancelpay.get();
} catch (InterruptedException e) {
e.printStackTrace();
} catch (ExecutionException e) {
e.printStackTrace();
}
事件通知
适用场景
- 异步-多个请求并发
- 异步回调-时机(当前不需要返回值)
配置以及代码
<dubbo:reference id="orderService" interface="com.enjoy.service.OrderService" loadbalance="last" >
<dubbo:method name="submit" async="true" onreturn="callBack.onOrderSubmit" onthrow="callBack.onError"/>
</dubbo:reference>
<bean id="callBack" class="com.enjoy.callback.CallBack" />
业务层调用
//rpc调用order服务的方法
orderService.submit(orderView);
CallBack
public class CallBack {
//第一个参数,为返回结果值,后续参数是入参
public void onOrderSubmit(OrderEntiry result,OrderEntiry form){
System.out.println("生成了一单,金额:"+ result.getMoney());
}
//第一个参数,为返回结果值,后续参数是入参
public void onError(Throwable ex,OrderEntiry form){
System.out.println("生成订单异常,请紧急处理,订单金额:"+ form.getMoney());
System.out.println(ex.getMessage());
}
}
回声测试
功能
判断reference的服务是否都就绪
使用方法
//例如服务里需要用到的reference主要有以下四个 String[] serviceIds = new String[]{"productService","userService","orderService","payService"}; HashMap<String,String> retMap = new HashMap<>(); Object ret = null; for (String id:serviceIds){ try { //所有rpc引用的代理对象,都实现了接口-----EchoService EchoService echoService = (EchoService)ctx.getBean(id); ret = echoService.$echo("ok"); retMap.put(id,ret.toString()); } catch (Exception e) { retMap.put(id,"not ready"); } } return retMap;