springclou微服务技术栈-01

1 微服务认识

SpringCloud ！= 微服务

1.1 如何学

  1. 核心思想是拆分，把大的业务模块划分成多个小的模块，每个模块叫服务。多个服务形成了服务集群。
  2. 服务集群多了之后，各个服务之间的调用关系会很复杂，需要靠注册中心管理。
  3. 同理，随着服务集群的增多，配置文件也不断增长需要配置中心来管理(实现配置的热更新)。
  4. 用户访问组件需要经过网关，其作用主要是：身份验证、路由规则、负载均衡。
  5. 把数据库数据放入内存中，为了应对高并发，不能是单体缓存而是集群，称为分布式缓存。
  6. 进行搜索的时候用上分布式搜索。
  7. 最后还需要异步通信的消息队列，为了减少服务通知的链路，缩短响应时间，增加吞吐量。
  8. 最后这么多组件，一旦出了问题，不好定位，引入分布式日志服务。
  9. 实时监控系统中各个服务的状态和内存占用，可以定位到某个方法栈信息，便于找到异常所在称为系统监控链路追踪。

1.2 学习规划

在这里插入图片描述

1.3 单体架构和分布式架构

1.3.1 单体架构

单体架构：将业务的所有功能集中在一个项目中开发，打成一个包部署。

优点：

  • 架构简单
  • 部署成本低

缺点：

  • 耦合度高（维护困难、升级困难）

1.3.2 分布式架构

分布式架构：根据业务功能对系统做拆分，每个业务功能模块作为独立项目开发，称为一个服务。

优点：

  • 降低服务耦合
  • 有利于服务升级和拓展

缺点：

  • 服务调用关系错综复杂

分布式架构虽然降低了服务耦合，但是服务拆分时也有很多问题需要思考：

  • 服务拆分的粒度如何界定？
  • 服务之间如何调用？
  • 服务的调用关系如何管理？

1.4 微服务

微服务的架构特征：

  • 单一职责：微服务拆分粒度更小，每一个服务都对应唯一的业务能力，做到单一职责
  • 自治：团队独立、技术独立、数据独立，独立部署和交付
  • 面向服务：服务提供统一标准的接口，与语言和技术无关
  • 隔离性强：服务调用做好隔离、容错、降级，避免出现级联问题

1.4.1 微服务技术对比

在这里插入图片描述

1.4.2 SpringCloud

SpringCloud是目前国内使用最广泛的微服务框架。集成了各种微服务功能组件，并基于SpringBoot实现了这些组件的自动装配，从而提供了良好的开箱即用体验。

常用组件：

在这里插入图片描述

版本关系：

在这里插入图片描述

2 服务拆分和远程调用

2.1 服务拆分原则

  • 不同微服务，不要重复开发相同业务
  • 微服务数据独立，不要访问其它微服务的数据库
  • 微服务可以将自己的业务暴露为接口，供其它微服务调用

2.2 demo

在这里插入图片描述

cloud-demo：父工程，管理依赖

  • order-service：订单微服务，负责订单相关业务
  • user-service：用户微服务，负责用户相关业务

在这里插入图片描述

2.3 远程调用

在order-service服务中，有一个根据id查询订单的接口：

在这里插入图片描述

http://localhost:8080/order/101 进行查询

在这里插入图片描述

在user-service中有一个根据id查询用户的接口：

在这里插入图片描述

http://localhost:8081/user/1 进行查询
在这里插入图片描述

那么此时如何可以在查询订单的时候将用户信息返回呢？

在这里插入图片描述

2.4 实现

2.4.1 注册RestTemplate

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
package cn.itcast.order;

import org.mybatis.spring.annotation.MapperScan;
import org.springframework.boot.SpringApplication;
import org.springframework.boot.autoconfigure.SpringBootApplication;
import org.springframework.context.annotation.Bean;
import org.springframework.web.client.RestTemplate;

@MapperScan("cn.itcast.order.mapper")
@SpringBootApplication
public class OrderApplication {

    public static void main(String[] args) {
        SpringApplication.run(OrderApplication.class, args);
    }

    @Bean
    public RestTemplate restTemplate() {
        return new RestTemplate();
    }
}

2.4.2 实现远程调用

在这里插入图片描述

这样再次访问http://localhost:8080/order/101 就能在查询订单信息的时候查询出用户相关信息

2.5 提供者和消费者

在服务调用关系中，会有两个不同的角色：

服务提供者：一次业务中，被其它微服务调用的服务。（提供接口给其它微服务）
服务消费者：一次业务中，调用其它微服务的服务。（调用其它微服务提供的接口）

在这里插入图片描述

但是提供者和消费者只是相对而言，没有绝对的定义，需要依据提供的服务以及使用的服务进行决定的。

3 Eureka注册中心

3.1 Eureka的作用

当user-service部署多个的时候，存在一下几个问题：

  1. order-service在发起远程调用的时候，该如何得知user-service实例的ip地址和端口？
  2. 有多个user-service实例地址，order-service调用时该如何选择？
  3. order-service如何得知某个user-service实例是否依然健康，是不是已经宕机？

因此针对上面的问题，利用SpringCloud的注册中心就可以解决，其中最广为人知的注册中心就是Eureka。

3.2 Eureka结构

在这里插入图片描述

问题1：order-service如何得知user-service实例地址？

获取地址信息的流程如下：

  1. user-service服务实例启动后，将自己的信息注册到eureka-server（Eureka服务端）。这个叫服务注册
  2. eureka-server保存服务名称到服务实例地址列表的映射关系。
  3. order-service根据服务名称，拉取实例地址列表。这个叫服务发现或服务拉取。

问题2：order-service如何从多个user-service实例中选择具体的实例？

  1. order-service从实例列表中利用负载均衡算法选中一个实例地址向该实例地址发起远程调用。

问题3：order-service如何得知某个user-service实例是否依然健康，是不是已经宕机？

  1. user-service会每隔一段时间（默认30秒）向eureka-server发起请求，报告自己状态，称为心跳当超过一定时间没有发送心跳时，eureka-server会认为微服务实例故障，将该实例从服务列表中剔除order-service拉取服务时，就能将故障实例排除了。

一个微服务，既可以是服务提供者，又可以是服务消费者，因此eureka将服务注册、服务发现等功能统一封装到了eureka-client端

3.3 动手搭建

首先搭建注册中心服务端：eureka-server，这必须是一个独立的微服务

3.3.1 创建eureka-server

  1. 新建模块：在cloud-demo父工程下，创建一个子模块：

在这里插入图片描述

  1. 引入依赖：

    1
    2
    3
    4
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-eureka-server</artifactId>
    </dependency>

  2. 编写启动类

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    package cn.itcast.eureka;

    import org.springframework.boot.SpringApplication;
    import org.springframework.boot.autoconfigure.SpringBootApplication;
    import org.springframework.cloud.netflix.eureka.server.EnableEurekaServer;

    @SpringBootApplication
    @EnableEurekaServer
    public class EurekaApplication {
        public static void main(String[] args) {
            SpringApplication.run(EurekaApplication.class, args);
        }
    }

    使用@EnableEurekaServer注解，这样就开启eureka的注册中心功能

  3. 编写配置文件

    1
    2
    3
    4
    5
    6
    7
    8
    9
    server:
      port: 10086
    spring:
      application:
        name: eureka-server
    eureka:
      client:
        service-url: 
          defaultZone: http://127.0.0.1:10086/eureka

启动该服务，发现无任何异常

3.3.2 服务注册

即：哪个服务需要对外提供服务能力，哪个服务进行注册

  1. 引入依赖

    1
    2
    3
    4
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
    </dependency>

  2. 修改配置文件

    1
    2
    3
    4
    5
    6
    7
    spring:
      application:
        name: userservice
    eureka:
      client:
        service-url:
          defaultZone: http://127.0.0.1:10086/eureka

  3. 启动多user-service实例

    复制原user-service启动配置

    在这里插入图片描述

    修改配置信息：-Dserver.port=8082

    在这里插入图片描述

    在这里插入图片描述

3.3.3 服务发现

  1. 引入依赖

    1
    2
    3
    4
    <dependency>
        <groupId>org.springframework.cloud</groupId>
        <artifactId>spring-cloud-starter-netflix-eureka-client</artifactId>
    </dependency>

  2. 配置文件

    1
    2
    3
    4
    5
    6
    7
    spring:
      application:
        name: orderservice
    eureka:
      client:
        service-url:
          defaultZone: http://127.0.0.1:10086/eureka

  3. 服务拉取和负载均衡

    1. 在order-service中的Application中添加一个@LoadBalanced

      在这里插入图片描述

    2. 修改之前的url，使用服务名代替ip和端口：

      在这里插入图片描述

    3. 重启后访问：http://localhost:8080/order/102和http://localhost:8080/order/101发现两个服务都有日志输出。

4 Ribbon负载均衡

4.1 负载均衡原理

在SpringCloud的底层其实使用了一个名为Ribbon的组件，实现了负载均衡。

在这里插入图片描述

4.2 源码跟踪

在源码跟踪前，思考一下为什么我们使用服务名替换了原来的ip和端口就可以访问了，并且请求明明是http://userservice/user/1，为什么最后变成了http://localhost:8081

4.2.1 LoadBalacerInterceptor

这个类会在对RestTemplate的请求进行拦截，然后从Eureka根据服务id获取服务列表，随后利用负载均衡算法得到真实的服务地址信息，替换服务id。

在这里插入图片描述

可以看到这里的intercept方法，拦截了用户的HttpRequest请求，然后做了几件事：

  • request.getURI()：获取请求uri，本例中就是 http://user-service/user/8
  • originalUri.getHost()：获取uri路径的主机名，其实就是服务id，user-service
  • this.loadBalancer.execute()：处理服务id，和用户请求。

这里的this.loadBalancer是LoadBalancerClient类型，我们继续跟入。

4.2.2 LoadBalancerClient

在这里插入图片描述

  • getLoadBalancer(serviceId)：根据服务id获取ILoadBalancer，而ILoadBalancer会拿着服务id去eureka中获取服务列表并保存起来。

  • getServer(loadBalancer)：利用内置的负载均衡算法，从服务列表中选择一个。本例中，可以看到获取了8082端口的服务

放行后，再次访问并跟踪，发现获取的是8081：

在这里插入图片描述
果然实现了负载均衡。

4.2.3 负载均衡策略IRule

在刚才的代码中，可以看到获取服务使通过一个getServer方法来做负载均衡，内部跟进

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

那么这个RoundRobinRule就是轮询策略

4.2.4 总结

pringCloudRibbon的底层采用了一个拦截器，拦截了RestTemplate发出的请求，对地址做了修改。

在这里插入图片描述

基本流程如下：

  1. 拦截我们的RestTemplate请求http://userservice/user/1
  2. RibbonLoadBalancerClient会从请求url中获取服务名称，也就是user-service
  3. DynamicServerListLoadBalancer根据user-service到eureka拉取服务列表
  4. eureka返回列表，localhost:8081、localhost:8082
  5. IRule利用内置负载均衡规则，从列表中选择一个，例如localhost:8081
  6. RibbonLoadBalancerClient修改请求地址，用localhost:8081替代userservice，得到http://localhost:8081/user/1，发起真实请求。

4.3 负载均衡策略

4.3.1 类图

在这里插入图片描述

内置负载均衡规则类 规则描述
RoundRobinRule 简单轮询服务列表来选择服务器。它是Ribbon默认的负载均衡规则。
AvailabilityFilteringRule 对以下两种服务器进行忽略： （1）在默认情况下，这台服务器如果3次连接失败，这台服务器就会被设置为“短路”状态。短路状态将持续30秒，如果再次连接失败，短路的持续时间就会几何级地增加。 （2）并发数过高的服务器。如果一个服务器的并发连接数过高，配置了AvailabilityFilteringRule规则的客户端也会将其忽略。并发连接数的上限，可以由客户端的< clientName >.< clientConfigNameSpace >.ActiveConnectionsLimit属性进行配置。
WeightedResponseTimeRule 为每一个服务器赋予一个权重值。服务器响应时间越长，这个服务器的权重就越小。这个规则会随机选择服务器，这个权重值会影响服务器的选择。
ZoneAvoidanceRule 以区域可用的服务器为基础进行服务器的选择。使用Zone对服务器进行分类，这个Zone可以理解为一个机房、一个机架等。而后再对Zone内的多个服务做轮询。
BestAvailableRule 忽略那些短路的服务器，并选择并发数较低的服务器。
RandomRule 随机选择一个可用的服务器。
RetryRule 重试机制的选择逻辑

默认实现：ZoneAvoidanceRule

4.3.2 自定义负载均衡策略

  • 方式1：代码方式：在order-service中的OrderApplication类中，定义一个新的IRule：

    1
    2
    3
    4
    @Bean
    public IRule randomRule(){
        return new RandomRule();
    }

  • 方式2：配置文件：在order-service的application.yml文件中，添加新的配置也可以修改规则：

    1
    2
    3
    userservice: # 给某个微服务配置负载均衡规则，这里是userservice服务
      ribbon:
        NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule # 负载均衡规则

4.4 饥饿加载

当重启重启order-service，访问http://localhost:8080/order/101

在这里插入图片描述

发现耗时很高，重新刷新后
在这里插入图片描述

为何差别如此大？

Ribbon默认是采用懒加载，即第一次访问时才会去创建LoadBalanceClient，请求时间会很长。

如何降低第一次访问耗时？

在这里插入图片描述

1
2
3
4
5
6
7
ribbon:
  eager-load:
    enabled: true
    clients: userservice
      # 多个需要用-分割、换行
      # -userservice1
      # -userservice2

5 Nacos注册中心

5.1 介绍

国内公司一般都推崇阿里巴巴的技术，比如注册中心，SpringCloudAlibaba也推出了一个名为Nacos的注册中心。

5.2 依赖

项目根目录下的pom.xml引入依赖

1
2
3
4
5
6
7
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-alibaba-dependencies</artifactId>
    <version>2.2.5.RELEASE</version>
    <type>pom</type>
    <scope>import</scope>
</dependency>

nacos客户端依赖包

1
2
3
4
5
<!-- nacos客户端依赖包 -->
<dependency>
    <groupId>com.alibaba.cloud</groupId>
    <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
</dependency>

5.3 服务注册

  1. 引入依赖

    在cloud-demo父工程的pom文件中的<dependencyManagement>中引入SpringCloudAlibaba的依赖：

    1
    2
    3
    4
    5
    6
    7
    <dependency>
        <groupId>com.alibaba.cloud</groupId>
        <artifactId>spring-cloud-alibaba-dependencies</artifactId>
        <version>2.2.6.RELEASE</version>
        <type>pom</type>
        <scope>import</scope>
    </dependency>

    在user-service和order-service中的pom文件中引入nacos-discovery依赖：

    1
    2
    3
    4
    <dependency>
        <groupId>com.alibaba.cloud</groupId>
        <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId>
    </dependency>

  2. 配置nacos地址

    在user-service和order-service的配置文件添加nacos地址

    1
    2
    3
    4
    5
    spring:
      cloud:
        nacos:
          server-addr: localhost:8848

  3. 重启服务

    在这里插入图片描述

5.4 服务分级存储模型

一个服务可以有多个实例，例如我们的user-service，可以有:

127.0.0.1:8081
127.0.0.1:8082
127.0.0.1:8083
假如这些实例分布于全国各地的不同机房，例如：

127.0.0.1:8081，在上海机房
127.0.0.1:8082，在上海机房
127.0.0.1:8083，在杭州机房
Nacos就将同一机房内的实例 划分为一个集群。

即：user-service是服务，一个服务可以包含多个集群，如杭州、上海，每个集群下可以有多个实例，形成分级模型，如图：

在这里插入图片描述

微服务互相访问时，应该尽可能访问同集群实例，因为本地访问速度更快。当本集群内不可用时，才访问其它集群。

5.4.1 user-service配置集群

修改user-service的application.yml文件，添加集群相关配置

1
2
3
4
5
6
spring:
  cloud:
    nacos:
      server-addr: localhost:8848
      discovery:
        cluster-name: HZ # 集群名称

重启两个user-service实例：

在这里插入图片描述

同时再复制一个user-service启动配置，添加相关属性-Dserver.port=8083 -Dspring.cloud.nacos.discovery.cluster-name=SH

在这里插入图片描述

启动UserApplication3后再次查看nacos控制台

在这里插入图片描述

在这里插入图片描述

5.4.2 同集群优先的负载均衡

默认的ZoneAvoidanceRule并不能实现根据同集群优先来实现负载均衡。
因此Nacos中提供了一个NacosRule的实现，可以优先从同集群中挑选实例。

  1. 修改order-service的application.yaml文件，添加集群相关配置

    1
    2
    3
    4
    5
    6
    spring:
      cloud:
        nacos:
          server-addr: localhost:8848
          discovery:
            cluster-name: HZ # 集群名称

    但是多次访问后还是轮询调用，我们现在只想访问HZ集群下的，不想让SH集群的实例被访问

  2. 修改order-service的application.yml文件，修改负载均衡规则：

    1
    2
    3
    userservice:
      ribbon:
        NFLoadBalancerRuleClassName: com.alibaba.cloud.nacos.ribbon.NacosRule # 负载均衡规则

    随后再访问发现SH集群下载user-service3没有任何日志输出

  3. 当HZ集群都停掉，此时会调用SH集群下的服务

5.5 权重配置

实际部署中会出现这样的场景：
• 服务器设备性能有差异，部分实例所在机器性能较好，另一些较差，我们希望性能好的机器承担更多的用户请求。

但默认情况下NacosRule是同集群内随机挑选，不会考虑机器的性能问题。

因此，Nacos提供了权重配置来控制访问频率，权重越大则访问频率越高。

在nacos控制台，找到user-service的实例列表，点击编辑，即可修改权重：

在这里插入图片描述

在这里插入图片描述

如果权重修改为0，则该实例永远不会被访问
权重为0通常用于系统升级。
先将某个服务器的权重设置为0，然后做升级，升级完后，把权重调小，放一部分用户进来，无问题，再把权重扩大。(平滑升级)

5.6 环境隔离

Nacos提供了namespace来实现环境隔离功能。

  • nacos中可以有多个namespace
  • namespace下可以有group、service等
  • 不同namespace之间相互隔离，例如不同namespace的服务互相不可见

其实namespace针对开发人员解决开发环境、测试环境、生产环境切换等。

5.6.1 创建namespace

默认情况下，所有service、data、group都在同一个namespace，名为public：

在这里插入图片描述

我们可以点击页面新增按钮，添加一个namespace：

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

5.6.2 服务配置namespace

给微服务配置namespace只能通过修改配置来实现。

例如，修改order-service的application.yml文件：

1
2
3
4
5
6
7
spring:
  cloud:
    nacos:
      server-addr: localhost:8848
      discovery:
        cluster-name: HZ
        namespace: 492a7d5d-237b-46a1-a99a-fa8e98e4b0f9 # 命名空间，填ID

5.7 Nacos和Eureka区别

Nacos的服务实例分为两种l类型：

  • 临时实例：每隔30秒会向Nacos发送心跳，靠Nacos进行监控，一旦发现超时未发送心跳，就会被Nacos从服务列表中移除。
  • 非临时实例：不会发送心跳，是Nacos主动向provider进行询问。如果询问超时也不会剔除服务列表，而是仅仅标记为不健康，等待其恢复健康即可。

默认情况下，所有实例都是临时实例

在这里插入图片描述

5.7.1 修改为永久实例

Order-service:

1
2
3
4
5
spring:
  cloud:
    nacos:
      discovery:
        ephemeral: false # 设置为非临时实例

在这里插入图片描述

当关闭的时候，nacos控制台只是把它标记为不健康

5.7.2 区别

相同点：

  • 都支持服务注册和服务拉取
  • 都支持服务提供者心跳方式做健康检测

不同点：

  • Nacos支持服务端主动检测提供者状态：临时实例采用心跳模式，非临时实例采用主动检测模式临时实例心跳不正常会被剔除，非临时实例则不会被剔除
  • Nacos支持服务列表变更的消息推送模式，服务列表更新更及时
  • Nacos集群默认采用AP方式(强调服务可用性)，当集群中存在非临时实例时，采用CP模式(可靠性和一致性)；Eureka采用AP方式。
springcloud
#springcloud
springclou微服务技术栈-01
https://baijianglai.cn/springclou微服务技术栈-01/f0aa2e2b38d0/
作者
Lai Baijiang
发布于
2024年3月16日
许可协议