Redis(五)主从复制、集群

news/2024/4/29 8:04:19/文章来源:https://www.cnblogs.com/wkfvawl/p/16743057.html

第一章 Redis 主从复制

1.1 主从复制是什么

主机数据更新后根据配置和策略, 自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主

1.2 主从复制能干嘛

  • 读写分离,性能扩展
  • 容灾快速恢复

img

1.3 怎么玩:主从复制

拷贝多个redis.conf(redis配置文件)文件include(写绝对路径)

开启daemonize yes

Pid文件名字pidfile

指定端口port

Log文件名字

dump.rdb名字dbfilename

Appendonly 关掉或者换名字

新建redis6379.conf

填写以下内容

include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb

img

新建redis6380.conf

填写以下内容

img

新建redis6381.conf

填写以下内容

img

slave-priority 10

设置从机的优先级,值越小,优先级越高,用于选举主机时使用。默认100

启动三台redis服务器

img

查看系统进程,看看三台服务器是否启动

img

查看三台主机运行情况

info replication #查看运行情况

打印主从复制的相关信息

img

配从(库)不配主(库)

slaveof  <ip><port>

成为某个实例的从服务器

1、在6380和6381上执行: slaveof 127.0.0.1 6379

img

2、在主机上写,在从机上可以读取数据

在从机上写数据报错

img

3、主机挂掉,重启就行,一切如初

4、从机重启需重设:slaveof 127.0.0.1 6379

可以将配置增加到文件中。永久生效。

img

1.4 常用3招

一主二仆

切入点问题?slave1、slave2是从头开始复制还是从切入点开始复制?比如从k4进来,那之前的k1,k2,k3是否也可以复制?

从头复制

从机是否可以写?set可否?

不可以

主机shutdown后情况如何?从机是上位还是原地待命?

原地待命

主机又回来了后,主机新增记录,从机还能否顺利复制?

可以

其中一台从机down后情况如何?依照原有它能跟上大部队吗?

需要重新配置主机,能跟上

img

薪火相传

上一个Slave可以是下一个slave的Master,Slave同样可以接收其他 slaves的连接和同步请求,那么该slave作为了链条中下一个的master, 可以有效减轻master的写压力,去中心化降低风险。

slaveof  <ip><port>

中途变更转向:会清除之前的数据,重新建立拷贝最新的

  • 风险是一旦某个slave宕机,后面的slave都没法备份
  • 主机挂了,从机还是从机,无法写数据了

img

img

反客为主

当一个master宕机后,后面的slave可以立刻升为master,其后面的slave不用做任何修改。

slaveof  no one

将从机变为主机。

img

缺点:手动完成,想要自动完成需要哨兵模式

1.5 复制原理

  1. Slave启动成功连接到master后会发送一个sync命令
  2. Master接到命令启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令, 在后台进程执行完毕之后,master将传送整个数据文件(rdb)到slave,Slave拿到rdb进行读取
  3. 每次Master进行写操作之后,和slave进行数据同步

全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。

增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步

但是只要是重新连接master,一次完全同步(全量复制)将被自动执行

img

1.6 哨兵模式(sentinel)

哨兵模式是什么?

反客为主的自动版,能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库

img

哨兵模式使用步骤

调整为一主二仆模式

6379带着6380、6381

img

自定义的/myredis目录下新建sentinel.conf文件,名字绝不能错

配置哨兵,填写内容

sentinel monitor mymaster 127.0.0.1 6379 1

其中mymaster为监控对象起的服务器名称, 1 为至少有多少个哨兵同意迁移的数量(这里为了测试,设置为1)。

启动哨兵

/usr/local/bin

redis做压测可以用自带的redis-benchmark工具

执行

redis-sentinel  /myredis/sentinel.conf 

img

哨兵默认26379端口

当主机挂掉,从机选举中产生新的主机

(大概10秒左右可以看到哨兵窗口日志,切换了新的主机)

哪个从机会被选举为主机呢?根据优先级别:slave-priority

原主机重启后会变为从机。

img

复制延时

由于所有的写操作都是先在Master上操作,然后同步更新到Slave上,所以从Master同步到Slave机器有一定的延迟,当系统很繁忙的时候,延迟问题会更加严重,Slave机器数量的增加也会使这个问题更加严重。

故障恢复

img

优先级在redis.conf中默认:replica-priority 100,值越小优先级越高

偏移量是指获得原主机数据最全的

每个redis实例启动后都会随机生成一个40位的runid

主从复制

private static JedisSentinelPool jedisSentinelPool=null;
public static  Jedis getJedisFromSentinel(){if(jedisSentinelPool==null){Set<String> sentinelSet=new HashSet<>();sentinelSet.add("192.168.11.103:26379");JedisPoolConfig jedisPoolConfig =new JedisPoolConfig();jedisPoolConfig.setMaxTotal(10); //最大可用连接数jedisPoolConfig.setMaxIdle(5); //最大闲置连接数jedisPoolConfig.setMinIdle(5); //最小闲置连接数jedisPoolConfig.setBlockWhenExhausted(true); //连接耗尽是否等待jedisPoolConfig.setMaxWaitMillis(2000); //等待时间jedisPoolConfig.setTestOnBorrow(true); //取连接的时候进行一下测试 ping pongjedisSentinelPool=new JedisSentinelPool("mymaster",sentinelSet,jedisPoolConfig);return jedisSentinelPool.getResource();}else{return jedisSentinelPool.getResource();}
}

第二章 Redis集群

2.1 问题背景

  • 容量不够,redis如何进行扩容?
  • 并发操作, redis如何分摊?

另外,主从模式,薪火相传模式,主机宕机,导致ip地址发生变化,应用程序中配置需要修改对应的主机地址、端口等信息。

之前通过代理主机来解决(缺点:服务器数量多),但是redis3.0中提供了解决方案。就是无中心化集群配置(任何一台服务器都可以作为集群的入口,责任链模式)。

2.2 什么是Redis集群?

Redis 集群实现了对Redis的水平扩容,即启动N个redis节点,将整个数据库分布存储在这N个节点中,每个节点存储总数据的1/N(均分)。

Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。

2.3 删除持久化数据

将rdb,aof文件都删除掉。

2.4 制作6个实例

6379,6380,6381,6389,6390,6391

3主3从

配置基本信息

开启daemonize yes

Pid文件名字

指定端口

Log文件名字

Dump.rdb名字

Appendonly 关掉或者换名字

redis cluster配置修改

cluster-enabled yes

打开集群模式

cluster-config-file nodes-6379.conf 

设定节点配置文件名

cluster-node-timeout 15000  

设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换。

include /home/bigdata/redis.conf
port 6379
pidfile "/var/run/redis_6379.pid"
dbfilename "dump6379.rdb"
dir "/home/bigdata/redis_cluster"
logfile "/home/bigdata/redis_cluster/redis_err_6379.log"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000

修改好redis6379.conf文件,拷贝多个redis.conf文件

img

使用查找替换修改另外5个文件

shell中

:%s/6379/6380

启动6个redis服务

img

2.5 将六个节点合成一个集群

组合之前,请确保所有redis实例启动后,nodes-xxxx.conf文件都生成正常。

img

合体:

cd /opt/redis-6.2.1/src

redis-cli --cluster create --cluster-replicas 1 192.168.11.101:6379 192.168.11.101:6380 192.168.11.101:6381 192.168.11.101:6389 192.168.11.101:6390 192.168.11.101:6391

此处不要用127.0.0.1, 请用真实IP地址

--replicas 1 采用最简单的方式配置集群,一台主机,一台从机,正好三组。

img

img

普通方式登录

可能直接进入读主机,存储数据时,会出现MOVED重定向操作。所以,应该以集群方式登录。

img

2.6 -c 采用集群策略连接,设置数据会自动切换到相应的写主机

img

2.7 通过 cluster nodes 命令查看集群信息

img

2.8 redis cluster 如何分配这六个节点?

一个集群至少要有三个主节点。

选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。

分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。(交叉部署,保证高可用)

2.9 什么是slots?

[OK] All nodes agree about slots configuration.

>>> Check for open slots...

>>> Check slots coverage...

[OK] All 16384 slots covered.

一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个,

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:

  • 节点 A 负责处理 0 号至 5460 号插槽。
  • 节点 B 负责处理 5461 号至 10922 号插槽。
  • 节点 C 负责处理 10923 号至 16383 号插槽。

插槽起到了负载均衡的作用,根据插槽的值来决定由哪个主机来存储key

2.10 在集群中录入值

在redis-cli每次录入、查询键值,redis都会计算出该key应该送往的插槽,如果不是该客户端对应服务器的插槽,redis会报错,并告知应前往的redis实例地址和端口。

redis-cli客户端提供了 –c 参数实现自动重定向。

如 redis-cli -c –p 6379 登入后,再录入、查询键值对可以自动重定向。

不在一个slot下的键值,是不能使用mget,mset等多键操作。

img

可以通过{}来定义组的概念,从而使key中{}内相同内容的键值对放到一个slot中去。

计算cust所在的插槽值

img

2.11 查询集群中的值

CLUSTER GETKEYSINSLOT <slot><count> 

返回 count 个 slot 槽中的键。

img

注意插槽的范围

2.12 故障恢复

如果主节点下线?从节点能否自动升为主节点?注意:15秒超时

img

主节点恢复后,主从关系会如何?主节点回来变成从机。

img

如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉

如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储。

redis.conf中的参数 cluster-require-full-coverage

2.13 集群的Jedis开发

即使连接的不是主机,集群会自动切换主机存储。主机写,从机读。

无中心化主从集群。无论从哪台主机写的数据,其他主机上都能读到数据。

public class JedisClusterTest {public static void main(String[] args) { Set<HostAndPort>set =new HashSet<HostAndPort>();set.add(new HostAndPort("192.168.31.211",6379));JedisCluster jedisCluster=new JedisCluster(set);jedisCluster.set("k1", "v1");System.out.println(jedisCluster.get("k1"));}
}

2.14 Redis集群提供了以下好处

  • 实现扩容
  • 分摊压力
  • 无中心配置相对简单

2.15 Redis集群的不足

  • 多键操作是不被支持的
  • 多键的Redis事务是不被支持的。lua脚本不被支持
  • 由于集群方案出现较晚,很多公司已经采用了其他的集群方案,而代理或者客户端分片的方案想要迁移至redis cluster,需要整体迁移而不是逐步过渡,复杂度较大。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_16024.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Oralce ORA-00018超出最大会话数处理记录

项目场景&#xff1a; 线上系统JBOSS异常报错,信息如下 018-07-18 10:55:12,851 WARN [org.jboss.resource.connectionmanager.JBossManagedConnectionPool] Throwable while attempting to get a new connection: null org.jboss.resource.JBossResourceException: Could n…

基于Python-django-spider的影视演员影评爬虫与检索系统

目录 影视爬虫与检索系统 设计文档 1 一、 功能介绍展示 1 二、 性能统计信息 8 1、爬虫数据量统计 8 2、查询时间统计 8 三、 各个功能涉及的技术和实现方式 9 1、爬虫 9 2、django 10 3、html 10 4、css 10 一、功能介绍展示 1、影视列表页 为系统主页&#xff0c;通过分页方…

Dinky,让 Flink SQL 纵享丝滑

大家好&#xff0c;我是脚丫先生 流批一体&#xff0c;越来越流行了&#xff0c;牛逼一体。 之前用java封装flink-sql-client提交脚本文件&#xff0c;很是摩擦。 不过&#xff0c;在研发流批一体平台的时候发现了Dinky&#xff0c;终于丝滑了。 今天就给小伙伴们推荐下低调…

SkipList(跳表)

SkipList(跳表) 文章目录SkipList(跳表)参考前言跳表的原理跳表的插入和删除插入操作删除操作跳表的时间空间复杂度分析时间复杂度空间复杂度调表的基本操作插入数据删除数据Go 实现小结参考 https://juejin.cn/post/6844903955831619597#heading-2https://blog.csdn.net/qq_5…

C# ZBar解码测试(QRCode、一维码条码)并记录里面隐藏的坑

实现效果(文中含源码): C# ZBar解码演示 使用提醒(解码能力下降,甚至解错) C# ZXing解码介绍请查看下面文章: C# ZXing.net解码测试(QRCode、DataMatrix、1D-Barcode一维码条码)_Color Space的博客-CSDN博客 实现步骤: 1、需要的包及对应版本: ① ZXing.Net v0.16.8…

基于html+JavaScript+css的飞机射击小游戏网页设计与实现

目录 一、概述 1 1.1项目内容 1 1.2项目开发 5 1.3项目组员 5 1.4组员分工 5 1.5验收标准 5 二、项目介绍 5 2.1 目标 5 2.2 用户的特点 6 2.3 假定和约束 6 2.3.1 开发期限&#xff1a; 6 2.3.2 技术约束&#xff1a; 6 2.4 确定系统运行的要求 6 2.5飞机大作战的整理思路 6 三…

MySQL三种存储引擎的区别

文章目录一、引言二、三个存储引擎的介绍1&#xff0c;InnoDB介绍特点&#xff08;1&#xff09;事务处理、回滚、崩溃修复能力和多版本并发控制的事务安全&#xff08;2&#xff09;支持主键自增&#xff08;3&#xff09;支持外键&#xff08;4&#xff09;支持事务和事务相关…

jar包运行报错jar中没有主清单属性、springGateway访问接口报错302,跳转login接口

此处记录三个错误&#xff1a; 一、jar中没有主清单属性&#xff0c;打包以后运行报错&#xff1a; 这是一个gateway模块&#xff0c;包含了启动类&#xff0c;因为在pom文件中没有指定&#xff0c;所以报错&#xff1a;在该模块的pom文件中加入如下代码&#xff1a;com.xxxx…

Spring中IOC容器的基本配置使用

实例化bean对象 为外部定义的bean起别名 基于set方法的依赖注入 使用构造函数进行依赖注入 使用内部注入的方式注入bean对象 使用list集合依赖注入和使用map集合依赖注入 测试类 使用depends-on控制bean的加载顺序 使用懒加载lazy-init 默认为false 使用单例或者多例(原型)…

C#中对象与JSON字符串互相转换的三种方式

JSON(JavaScriptObject Notation, JS 对象标记) 是一种轻量级的数据交换格式。 关于内存对象和JSON字符串的相互转换,在实际项目中应比较广泛,经过一番搜索,找到如下三种方法来解决此问题 分别是使用Newtonsoft.Json.dll、DataContractJsonSerializer、JavaScriptSerializer…

【老板要你啥都会系列】| 前端晋升全栈--项目日志

目录 1.开篇 2.nodejs文件操作 3.stream 4.stream演示 5.写日志 6.拆分日志 7.分析日志介绍 8.readline 1.开篇 日志包含什么访问人数啊、峰值啊、bug 啊什么的&#xff0c;如果没有日志那么很容易失控。 访问日志可以参考我们 http-server&#xff0c;每次访问都会有这…

谐振波导光栅的严格分析

摘要 谐振波导光栅(RWG)由于其在波长、相位和偏振等方面的可调谐性&#xff0c;在研究和工业中有着广泛的应用。RWG的结构包含一个薄的高折射率波导薄膜&#xff0c;该薄膜与光栅接触。波导支持多种导模&#xff0c;并且根据厚度的不同&#xff0c;模式的数量也不同。在这个…

javaFx打包exe程序

文章目录将代码打成jar包准备工作下载exe4j定制jre检测jar包用到jre的哪些jmods生成jre准备exe图标使用exe4j将jar转换成exe程序将代码打成jar包 打jar之前&#xff0c;把那些用不到的依赖统统删除&#xff0c;以免包含一些无用的内容&#xff0c;比如用不上的一些依赖jar&…

特征工程之特征降维-特征选择-PCA/LDA

特征降维之特征选择 特征选择是建模中常用的降维手段&#xff0c;比较暴力&#xff0c;直接将不重要特征删除。 缺点&#xff1a;造成信息丢失&#xff0c;不利于模型精度。【与之形成对比的是PCA、LDA等降维方式。】 主要标准有两个&#xff1a; 特征是否发散。特征与目标的…

简单组件讲解

在编程阶段,会遇到有些页面的某一区域的布局或数据显示类似;那么我们就可以复用这一段代码;在使用原生JS编程时,我们习惯是将代码抽出来自成一个文件,需要时引入即可。而在vue中也存在这样一个模块,可以简便的将可复用的代码抽成一个模块,这个就是组件。在很多人看来,组…

产品-如何让用户“更愿意“付费

学院课程 文章目录学院课程前言如何提高用户体验,吸引用户付费关于程序员等级的划分基础免费试看优质博客内容转化为视频用户关于短视频内容的生成关于利用用户的碎片化时间怎么差异化竞品&#xff1f;短视频赛道理解学院现状分析总结前言 学院地址 今天下午公司组织了一场需求…

线性回归

线性回归 导入库 import numpy as np import pandas as pd import matplotlib.pyplot as plt人工数据集n = 100 true_theta = np.array([[1], [1]]) X = np.insert(np.random.normal(5, 1, size=(n, 1)), 0, 1, 1) y = X @ true_theta + np.random.normal(0, 0.04, size=(n, …

Azure | AZ-204 认证之旅-应用服务(二)

theme: orange 我正在参加「掘金启航计划」 Web应用是构建在PaaS层的服务&#xff0c;它是支持托管的&#xff0c;并且是可缩放的&#xff0c;极大提高了工程效率&#xff0c;并且减少了在运营的层面的消耗&#xff0c;这篇文章介绍如何创建应用程序服务。 创建Web应用程序服务…

pytorch深度学习训练模板(分类、回归)

前言 LeNet-AlexNet-ZFNet: LeNet-AlexNet-ZFNet一维复现pytorch VGG: VGG一维复现pytorch GoogLeNet: GoogLeNet一维复现pytorch ResNet: ResNet残差网络一维复现pytorch-含残差块复现思路分析 DenseNet: DenseNet一维复现pytorch 包含所有一维经典模型的代码可随意切换训练 …

云原生技术 --- k8s节点组件之kube-proxy的学习与理解

k8s 网络代理(kube-proxy)在每个节点上运行。网络代理反映了每个节点上 Kubernetes API 中定义的服务&#xff0c;并且可以执行简单的 TCP、UDP 和 SCTP 流转发&#xff0c;或者在一组后端进行 循环 TCP、UDP 和 SCTP 转发。但是&#xff0c;必须要有一个插件&#xff0c;才可以…