SpringCloud:Gateway之限流、熔断

一、服务雪崩简介及压测实践演示

编辑

二、sentinel简单模式之流控QPS案例

什么是Sentinel

安装Sentinel控制台

三、sentinel流控简单模式之并发线程数案例

四、sentinel流控之关联模式&链路模式

关联模式

链路模式

五、sentinel降级之平均响应时间&异常比例模式

降级规则

异常比例

一、服务雪崩简介及压测实践演示

高并发带来的问题

在微服务架构中，我们将业务拆分成一个个的服务，服务与服务之间可以相互调用，但是由于网络原因或者自身的原因，服务并不能保证服务的100%可用，如果单个服务出现问题，调用这个服务就会出现网络延迟，此时若有大量的网络涌入，会形成任务堆积，最终导致服务瘫痪。

服务雪崩效应

在分布式系统中,由于网络原因或自身的原因,服务一般无法保证 100% 可用。如果一个服务出现了问题，调用这个服务就会出现线程阻塞的情况，此时若有大量的请求涌入，就会出现多条线程阻塞等待，进而导致服务瘫痪。由于服务与服务之间的依赖性，故障会传播，会对整个微服务系统造成灾难性的严重后果，这就是服务故障的 “雪崩效应” 。

雪崩发生的原因多种多样，有不合理的容量设计，或者是高并发下某一个方法响应变慢，亦或是某台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生，只有做好足够的容错，保证在一个服务发生问题，不会影响到其它服务的正常运行。也就是＂雪落而不雪崩＂

启动端口为8080的商品微服务、订单微服务、用户微服务

注意：启动服务前一定要启动nacos的注册中心

测试是否能正常访问页面

使用压测工具,对请求进行压力测试

下载地址Apache JMeter - Apache JMeter™

下载解压后

第一步：修改配置，并启动软件

进入bin目录,修改jmeter.properties文件中的语言支持为language=zh_CN，然后点击jmeter.bat，启动软件。

用高级记事本打开

双击快捷方式

第二步：添加线程组

第三步：配置线程并发数

第四步：添加监听器

第五步：添加HTTP取样

第六步：配置取样，并启动测试

点击可以放大字体

启动，此时后台

可以看见发送了4000个请求并且没有出错

修改配置文件中tomcat的并发数

1秒钟20个请求，最大连接数10，最大等待数10，最大线程数2，相当于一个线程1s能处理5个请求（2个处理10个请求）

server:
port: 8091
tomcat:
max-threads: 2 #最大线程数
max-connections: 10 #最大连接数
accept-count: 10 #最大线程等待数

修改shop-order中的application.yml

spring:application:name: shop-ordercloud:nacos:discovery:server-addr: localhost:8848
server:port: 8090tomcat:max-threads: 2     #最大线程数max-connections: 10  #最大连接数accept-count: 10     #最大线程等待数

再重新启动一下订单微服务

此时再看出现了大量的错误

再将并发数调低一点

全部成功

二、sentinel简单模式之流控QPS案例

什么是Sentinel

Sentinel (分布式系统的流量防卫兵) 是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点, 从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。 Sentinel 具有以下特征:

丰富的应用场景：Sentinel 承接了阿里巴巴近 10 年的双十一大促流量的核心场景, 例如秒杀（即突发流量控制在系统容量可以承受的范围）、消息削峰填谷、集群流量控制、实时熔断下游不可用应用等。

完备的实时监控：Sentinel 提供了实时的监控功能。通过控制台可以看到接入应用的单台机器秒级数据, 甚至 500 台以下规模的集群的汇总运行情况。

广泛的开源生态：Sentinel 提供开箱即用的与其它开源框架/库的整合模块, 例如与 Spring Cloud、Dubbo、gRPC 的整合。只需要引入相应的依赖并进行简单的配置即可快速地接入 Sentinel。

完善的 SPI 扩展点：Sentinel 提供简单易用、完善的 SPI 扩展接口。您可以通过实现扩展接口来快速地定制逻辑。例如定制规则管理、适配动态数据源等。

Sentinel 分为两个部分:

核心库（Java 客户端）不依赖任何框架/库,能够运行于所有 Java 运行时环境，同时对 Dubbo / Spring Cloud 等框架也有较好的支持。

控制台（Dashboard）基于 Spring Boot 开发，打包后可以直接运行，不需要额外的 Tomcat 等应用容器。

在shop-order的pom中添加Sentinel的依赖

<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-sentinel</artifactId>
</dependency>

pom.xml

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"><parent><artifactId>spcloud-shop</artifactId><groupId>com.cdl</groupId><version>1.0-SNAPSHOT</version></parent><modelVersion>4.0.0</modelVersion><artifactId>shop-order</artifactId><dependencies><!--springboot-web--><dependency><groupId>org.springframework.boot</groupId><artifactId>spring-boot-starter-web</artifactId></dependency><!--shop-common--><dependency><groupId>com.cdl</groupId><artifactId>shop-common</artifactId><version>1.0-SNAPSHOT</version></dependency><!--sentinel--><dependency><groupId>com.alibaba.cloud</groupId><artifactId>spring-cloud-starter-alibaba-sentinel</artifactId></dependency></dependencies></project>

安装Sentinel控制台

Sentinel 提供一个轻量级的控制台, 它提供机器发现、单机资源实时监控以及规则管理等功能。

1 下载jar包,解压到文件夹

下载的网址： Releases · alibaba/Sentinel · GitHub

2 启动控制台

解压后会得到一个jar包

# 直接使用jar命令启动项目(控制台本身是一个SpringBoot项目)

启动完之后就可以访问一下流控的监控平台

登录成功

修改shop-order ,在里面加入有关控制台的配置

application.yml

spring:application:name: shop-ordercloud:nacos:discovery:server-addr: localhost:8848sentinel:transport:port: 9999 #跟控制台交流的端口,随意指定一个未使用的端口即可dashboard: localhost:8080 # 指定控制台服务的地址web-context-unify: false
server:port: 8090tomcat:max-threads: 2     #最大线程数max-connections: 10  #最大连接数accept-count: 10     #最大线程等待数

启动订单的微服务

设置限流

测试一下

正常点击订单微服务的页面此时能访问

非正常点即快速的不断地刷新

可见已经受限制了，但是只要正常的再刷就还是能够访问

三、sentinel流控简单模式之并发线程数案例

将之前的流控删除

此时非正常点击刷新不会有限制

资源名：唯一名称，默认是请求路径，可自定义针对来源：指定对哪个微服务进行限流，默认指default，意思是不区分来源，全部限制 阈值类型/单机阈值：

QPS（每秒请求数量）: 当调用该接口的QPS达到阈值的时候，进行限流

线程数：当调用该接口的线程数达到阈值的时候，进行限流

是否集群：暂不需要集群接下来我们以QPS为例来研究限流规则的配置。

此时需要用压测工具进行测试

启动压测工具然后不断的非正常刷新页面

这是直接流控模式

直接流控模式是最简单的模式，当指定的接口达到限流条件时开启限流。上面案例使用的就是直接流控模式。

四、sentinel流控之关联模式&链路模式

关联模式

关联流控模式指的是，当指定接口关联的接口达到限流条件时，开启对指定接口开启限流。

将刚刚的流控删除掉

OrderCtroller

package com.cdl.shoporder.Controller;import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;import javax.servlet.http.HttpServletRequest;
import java.util.concurrent.TimeUnit;/*** @author cdl* @site www.cdl.com* @create 2022-11-25 15:43*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {@Autowiredprivate ProductService productService;@Autowiredprivate RestTemplate restTemplate;@RequestMapping("/get/{uid}/{pid}")public Order get(@PathVariable("uid") Integer uid,@PathVariable("pid") Integer pid,HttpServletRequest request){User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);Product product = productService.get(pid);Order order = new Order();order.setUsername(user.getUsername());order.setUid(user.getUid());order.setPprice(product.getPprice());order.setPname(product.getPname());order.setPid(product.getPid());order.setOid(System.currentTimeMillis());order.setNumber(product.getStock());return order;}//    流控模式：关联模式@RequestMapping("/message1")public String message1(){System.out.println("message1..................................");return "message1....";}//    sentinel中的熔断降级：平均响应时间
//    预测的结果：平均时间大于0.22s，那么会出现降级处理结果
//    如果平均时间小于0.22s，就正常响应结果@RequestMapping("/message2")public String message2() {try {
//        代表当前方法至少需要执行0.22sTimeUnit.MILLISECONDS.sleep(220);} catch (InterruptedException e) {e.printStackTrace();}return "message2";}}

添加关联模式

修改压测工具

启动压测工具

非正常也不受影响

受影响

链路模式

链路流控模式指的是，当从某个接口过来的资源达到限流条件时，开启限流。它的功能有点类似于针对来源配置项，区别在于：针对来源是针对上级微服务，而链路流控是针对上级接口，也就是说它的粒度更细。

第1步：编写一个service，在里面添加一个方法message

OrderServiceImpl2

package com.cdl.shoporder.service;import com.alibaba.csp.sentinel.annotation.SentinelResource;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import org.springframework.stereotype.Service;import java.util.HashMap;
import java.util.Map;@Service
public class OrderServiceImpl2 {@SentinelResource(value = "message", blockHandler = "failBlockHandler")public Map message() {Map map = new HashMap();map.put("code","200");map.put("msg","正常响应成功");return map;}public Map failBlockHandler(BlockException be) {Map map = new HashMap();map.put("code","-1");map.put("msg","接口被限流了...");return map;}
}

第2步：在Controller中声明两个方法，分别调用service中的方法message

package com.cdl.shoporder.Controller;import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;/*** @author cdl* @site www.cdl.com* @create 2022-11-25 15:43*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {@Autowiredprivate ProductService productService;@Autowiredprivate RestTemplate restTemplate;@RequestMapping("/get/{uid}/{pid}")public Order get(@PathVariable("uid") Integer uid,@PathVariable("pid") Integer pid,HttpServletRequest request){User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);Product product = productService.get(pid);Order order = new Order();order.setUsername(user.getUsername());order.setUid(user.getUid());order.setPprice(product.getPprice());order.setPname(product.getPname());order.setPid(product.getPid());order.setOid(System.currentTimeMillis());order.setNumber(product.getStock());return order;}//    流控模式：关联模式@RequestMapping("/message1")public String message1(){System.out.println("message1..................................");return "message1....";}@Autowiredprivate OrderServiceImpl2 orderService;//        主要讲解 sentinel 中的 链路流控模式@RequestMapping("/message3")public Map message3() {return orderService.message();}@RequestMapping("/message4")public Map message4() {return orderService.message();}}

删除掉之前的关联模式，重启订单的微服务

sentinel控制台

修改配置application.yml

第3步: 禁止收敛URL的入口

context 从1.6.3 版本开始，Sentinel Web filter默认收敛所有URL的入口context，因此链路限流不生效。 1.7.0 版本开始（对应SCA的2.1.1.RELEASE)，官方在CommonFilter 引入了 WEB_CONTEXT_UNIFY 参数，用于控制是否收敛context。将其配置为 false 即可根据不同的 URL 进行链路限流。 SCA 2.1.1.RELEASE之后的版本,可以通过配置spring.cloud.sentinel.web-context-unify=false即可关闭收敛

第4步: 控制台配置限流规则

注意：message3和message4调的是同一个方法

五、sentinel降级之平均响应时间&异常比例模式

降级规则

本质就是一个托底方案

降级规则就是设置当满足什么条件的时候，对服务进行降级。

在controller中增加一些代码用以证明

OrderCtroller

package com.cdl.shoporder.Controller;import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;/*** @author cdl* @site www.cdl.com* @create 2022-11-25 15:43*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {@Autowiredprivate ProductService productService;@Autowiredprivate RestTemplate restTemplate;@RequestMapping("/get/{uid}/{pid}")public Order get(@PathVariable("uid") Integer uid,@PathVariable("pid") Integer pid,HttpServletRequest request){User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);Product product = productService.get(pid);Order order = new Order();order.setUsername(user.getUsername());order.setUid(user.getUid());order.setPprice(product.getPprice());order.setPname(product.getPname());order.setPid(product.getPid());order.setOid(System.currentTimeMillis());order.setNumber(product.getStock());return order;}//    流控模式：关联模式@RequestMapping("/message1")public String message1(){System.out.println("message1..................................");return "message1....";}//    sentinel中的熔断降级：平均响应时间
//    预测的结果：平均时间大于0.22s，那么会出现降级处理结果
//    如果平均时间小于0.22s，就正常响应结果@RequestMapping("/message2")public String message2() {try {
//        代表当前方法至少需要执行0.22sTimeUnit.MILLISECONDS.sleep(220);} catch (InterruptedException e) {e.printStackTrace();}return "message2";}@Autowiredprivate OrderServiceImpl2 orderService;//        主要讲解 sentinel 中的 链路流控模式@RequestMapping("/message3")public Map message3() {return orderService.message();}@RequestMapping("/message4")public Map message4() {return orderService.message();}}

点击熔断

解释这个配置：在1秒钟发送5个请求，其中20%的请求时间是大于200ms，那么就做熔断降级处理

修改压测工具并且启动

刷新被限流

异常比例

当资源的每秒异常总数占通过量的比值超过阈值之后，资源进入降级状态，即在接下的时间窗口（以 s 为单位）之内，对这个方法的调用都会自动地返回。异常比率的阈值范围是 [0.0, 1.0]。

在controlle中添加一定的代码

package com.cdl.shoporder.Controller;import com.cdl.model.Order;
import com.cdl.model.Product;
import com.cdl.model.User;
import com.cdl.shoporder.service.OrderServiceImpl2;
import com.cdl.shoporder.service.ProductService;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.PathVariable;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
import org.springframework.web.client.RestTemplate;import javax.servlet.http.HttpServletRequest;
import java.util.Map;
import java.util.concurrent.TimeUnit;/*** @author cdl* @site www.cdl.com* @create 2022-11-25 15:43*/
@RestController
@RequestMapping("/order")
public class OrderCtroller {@Autowiredprivate ProductService productService;@Autowiredprivate RestTemplate restTemplate;@RequestMapping("/get/{uid}/{pid}")public Order get(@PathVariable("uid") Integer uid,@PathVariable("pid") Integer pid,HttpServletRequest request){User user = restTemplate.getForObject("http://shop-user/user/get/" + uid, User.class);Product product = productService.get(pid);Order order = new Order();order.setUsername(user.getUsername());order.setUid(user.getUid());order.setPprice(product.getPprice());order.setPname(product.getPname());order.setPid(product.getPid());order.setOid(System.currentTimeMillis());order.setNumber(product.getStock());return order;}//    流控模式：关联模式@RequestMapping("/message1")public String message1(){System.out.println("message1..................................");return "message1....";}//    sentinel中的熔断降级：平均响应时间
//    预测的结果：平均时间大于0.22s，那么会出现降级处理结果
//    如果平均时间小于0.22s，就正常响应结果@RequestMapping("/message2")public String message2() {try {
//        代表当前方法至少需要执行0.22sTimeUnit.MILLISECONDS.sleep(220);} catch (InterruptedException e) {e.printStackTrace();}return "message2";}@Autowiredprivate OrderServiceImpl2 orderService;//        主要讲解 sentinel 中的 链路流控模式@RequestMapping("/message3")public Map message3() {return orderService.message();}@RequestMapping("/message4")public Map message4() {return orderService.message();}//    //    sentinel中的熔断降级：异常比例int i = 0;@RequestMapping("/message5")public String message5() {i++;//异常比例为0.333if (i % 3 == 0){throw new RuntimeException();}return "message5";}
}

新增熔断

和之前一样记得修改压测工具并且启动

当压测工具已经结束运行的时候，再点击刷新就会报页面错误

自定义异常返回

新建一个config的包直接复制进去

import com.alibaba.csp.sentinel.adapter.spring.webmvc.callback.BlockExceptionHandler;
import com.alibaba.csp.sentinel.slots.block.BlockException;
import com.alibaba.csp.sentinel.slots.block.degrade.DegradeException;
import com.alibaba.csp.sentinel.slots.block.flow.FlowException;
import com.alibaba.fastjson.JSON;
import lombok.AllArgsConstructor;
import lombok.Data;
import lombok.NoArgsConstructor;
import org.springframework.stereotype.Component;import javax.servlet.http.HttpServletRequest;
import javax.servlet.http.HttpServletResponse;
import java.io.IOException;//异常处理页面
@Component
public class ExceptionHandlerPage implements BlockExceptionHandler {@Overridepublic void handle(HttpServletRequest request, HttpServletResponse response, BlockException e) throws Exception {response.setContentType("application/json;charset=utf-8");ResponseData data = null;if (e instanceof FlowException) {data = new ResponseData(-1, "接口被限流了...");} else if (e instanceof DegradeException) {data = new ResponseData(-2, "接口被降级了...");}response.getWriter().write(JSON.toJSONString(data));}
}@Data
@AllArgsConstructor//全参构造
@NoArgsConstructor//无参构造
class ResponseData {private int code;private String message;
}

重新启动订单微服务，新增熔断，启动压测工具