spring-cloud-hystrix.md

目录

问题产生： 雪崩效应是一种因服务提供者的不可用导致服务调用者的不可用,并将不可用逐渐放大的过程

Hystrix是一个用于处理分布式系统的延迟和容错的开源库，在分布式系统中，服务间的调用不可避免会失败，比如超时、异常等。Hystrix能保证在一个依赖出问题的情况下，不会导致整体服务的失败，避免级联故障。

Hystrix是Netflix开源的一个限流熔断的项目，主要有以下功能：

1. 隔离（线程池隔离和信号量隔离）: 限制调用分布式服务资源的使用，通过线程池隔离或者信号量隔离来保证当某一个服务请求响应非常慢的时候，不会影响其他服务。使用线程池隔离或信号量隔离的目的是将各依赖服务的访问交由独立的线程池来处理，会为每个依赖服务创建一个线程池，当自己的资源用完了，直接返回失败而不是占用别人的资源。

   > 线程池方式：
   优点：
   1. 使用线程池隔离可以完全隔离各个请求
   2. 线程可以被回收用来接收新的请求，并且不用新建线程，可以加快请求的速度
   3. 独立的线程池提高了并发性
   缺点：
   线程池隔离增加了系统资源如CPU的开销，每隔命令涉及到系统调度和上下文切换
   > 信号量方式：
   使用一个原子计数器来记录当前有多少线程在运行，当请求进来时先判断计数器的数值，若超过设置的最大线程池个数则拒绝该请求；若不超过则同行，计数器+1，请求返回成功后计数器-1。信号量模式下任务由当前线程直接处理，不涉及到线程切换，自然也就没有超时控制。TryableSemaphoreActual类中使用AtomicInteger（Unsafe.cas来保证）来计数
   

2. 熔断：熔断机制是应对雪崩效应的一种微服务链路保护机制，当微服务链路的某个服务出错不可用或者响应时间太长，会进行服务的降级，进而熔断该节点微服务的调用，快速返回错误的响应信息。当检测到节点微服务调用响应正常后，恢复调用链路。在SpringCloud框架中，熔断机制通过Hystrix实现，Hystrix会监控微服务间调用的状况，当失败的调用达到一定阈值，缺省值是5秒20次调用失败，就会开启熔断机制。熔断机制使用的是@HystrixCommand注解。

   熔断器是位于线程池之前的组件，用户请求某一服务之后，Hystrix会先经过熔断器，此时如果熔断器是打开，则说明已经熔断，直接进行降级处理；如果熔断器是关闭的状态，则会继续将请求发到对应的线程池。
   熔断器状态：
   1. closed： 熔断器关闭状态 - 所有请求返回成功
   2. open: 熔断器打开状态 - 调用次数累计达到阈值或者比例，熔断器打开，服务直接返回错误
   3. half open: 熔断器半开状态 - 默认时间过后，进入半熔断状态，允许定量服务请求，如果调用都成功，则认为恢复了，关闭熔断器；否则打开熔断器
   

3. 降级：服务降级，将服务的级别降低，原本的服务时返回一个业务的正确的结果，现在服务出现了问题，但是又得有个返回值，因此服务端会自己准备一个fallBack的回调，返回一个缺省值，这样总比直接挂掉要强。使用时在方法的注解@HystrixCommand(fallbackMethod=xxxMethod)

   可能出现服务降级的情况：
   1. 程序运行异常
   2. 服务超时
   3. 服务熔断触发服务降级
   4. 服务隔离中线程池或信号量跑满也会导致服务降级
   

4. 请求缓存：高并发场景下，通过请求缓存来减少服务器的压力。SpringClound Hystrix中有两种方式来实现，一种是重写HystrixCommand下的getCacheKey()方法，另外一种是使用注解。注解有三个
   • @CacheResult： 注解在方法上，表示该方法开启缓存，默认情况下方法的所有参数都作为缓存key
   • @CacheKey：注解在方法上，指定缓存的key
   • @CacheRemove：注解在方法上，该注解用来让请求的缓存失效，失效的缓存根据定义的key决定