Redis基础架构

news/2024/5/7 2:18:15/文章来源:https://blog.csdn.net/s_frozen/article/details/127754370
可以存哪些数据?
  • 对于键值数据库而言,基本的数据模型是key-value模型。
    • 例如,“hello”: “world”就是一个基本的 KV 对,其中,“hello”是 key,“world”是 value。
    • SimpleKV 也不例外。在 SimpleKV 中,key 是 String 类型,而 value 是基本数据类型,例如 String、整型等
  • 不同键值数据库支持的 key 类型一般差异不大,而 value 类型则有较大差别。我们在对键值数据库进行选型时,一个重要的考虑因素是它支持的 value 类型。例如,Memcached 支持的 value 类型仅为 String 类型,而 Redis 支持的 value 类型包括了 String、哈希表、列表、集合等。Redis 能够在实际业务场景中得到广泛的应用,就是得益于支持多样化类型的 value。
  • 从使用的角度来说,不同 value 类型的实现,不仅可以支撑不同业务的数据需求,而且也隐含着不同数据结构在性能、空间效率等方面的差异,从而导致不同的 value 操作之间存在着差异。
  • 只有深入地理解了这背后的原理,我们才能在选择 Redis value 类型和优化 Redis 性能时,做到游刃有余。
可以对数据做什么操作?

SimpleKV 是一个简单的键值数据库,因此,基本操作无外乎增删改查。

我们先来了解下 SimpleKV 需要支持的 3 种基本操作,即 PUT、GET 和 DELETE。

  • PUT:新写入或更新一个key-value对
  • GET:根据一个key读取相应的value值
  • DELETE:根据一个key删除整个key- value对

需要注意的是,有些键值数据库的新写 / 更新操作叫 SET。新写入和更新虽然是用一个操作接口,但在实际执行时,会根据 key 是否存在而执行相应的新写或更新流程。

在实际的业务场景中,我们经常会碰到这种情况:

查询一个用户在一段时间内的访问记录。
  • 这种操作在键值数据库中属于 SCAN 操作,即根据一段 key 的范围返回相应的 value 值。

  • 因此,PUT/GET/DELETE/SCAN 是一个键值数据库的基本操作集合。

此外,实际业务场景通常还有更加丰富的需求,例如,

在黑白名单应用中,需要判断某个用户是否存在?
  • 如果将该用户的 ID 作为 key,那么,可以增加 EXISTS 操作接口,用于判断某个 key 是否存在。
  • 对于一个具体的键值数据库而言,你可以通过查看操作文档,了解其详细的操作接口。

说到这儿呢,数据模型和操作接口我们就构造完成了。接下来呢,我们就要更进一步,考虑一个非常重要的设计问题:

键值对保存在内存还是外存?
  • 保存在内存的好处是读写很快,毕竟内存的访问速度一般都在百 ns 级别。但是,潜在的风险是一旦掉电,所有的数据都会丢失。

  • 保存在外存,虽然可以避免数据丢失,但是受限于磁盘的慢速读写(通常在几 ms 级别),键值数据库的整体性能会被拉低。

如何进行设计选择,我们通常需要考虑键值数据库的主要应用场景。
  • 缓存场景下的数据需要能快速访问但允许丢失
    • 用于此场景的键值数据库通常采用内存保存键值数据。
    • Memcached 和 Redis 都是属于内存键值数据库。

对于 Redis 而言,缓存是非常重要的一个应用场景。后面我会重点介绍 Redis 作为缓存使用的关键机制、优势,以及常见的优化方法。为了和 Redis 保持一致,我们的 SimpleKV 就采用内存保存键值数据。接下来,我们来了解下 SimpleKV 的基本组件。

大体来说,一个键值数据库包括了
  • 访问框架
  • 索引模块
  • 操作模块
  • 存储模块

接下来,我们就从这四个部分入手,继续构建我们的 SimpleKV。

img

采用什么访问模式?
  • 通过函数调用的方式供外部应用使用
    • libsimplekv.so:以动态链接库的形式链接到我们自己的程序中,提供键值存储功能
  • 通过网络框架以Socket通信的形式对外提供键值对操作,可以提供广泛的键值存储服务。
    • 网络框架中包括Socket Server和协议解析

不同的键值数据库服务器和客户端交互的协议并不相同,我们在对键值数据库进行二次开发、新增功能时,必须要了解和掌握键值数据库的通信协议,这样才能开发出兼容的客户端。

实际的键值数据库也基本采用上述两种方式,例如
  • RocksDB 以动态链接库的形式使用
  • Memcached 和 Redis 则是通过网络框架访问。

后面我还会给你介绍 Redis 现有的客户端和通信协议。

通过网络框架提供键值存储服务的优缺点
  • 一方面扩大了键值数据库的受用面
  • 但另一方面,也给键值数据库的性能、运行模型提供了不同的设计选择,带来了一些潜在的问题
举个例子,当客户端发送一个如下的命令后,该命令会被封装在网络包中发送给键值数据库:
PUT hello world
  • 键值数据库网络框架接收到网络包
  • 并按照相应的协议进行解析之后
  • 就可以知道,客户端想写入一个键值对,并开始实际的写入流程。
此时,我们会遇到一个系统设计上的问题,I/O 模型设计?
  • 简单来说,就是网络连接的处理、网络请求的解析,以及数据存取的处理,是用一个线程、多个线程,还是多个进程来交互处理呢?
  • 该如何进行设计和取舍呢?
  • 我们一般把这个问题称为 I/O 模型设计。
  • 不同的 I/O 模型对键值数据库的性能和可扩展性会有不同的影响。
系统设计上的问题举例
  • 如果一个线程既要处理网络连接、解析请求,又要完成数据存取,一旦某一步操作发生阻塞,整个线程就会阻塞住,这就降低了系统响应速度。
  • 如果我们采用不同线程处理不同操作,那么,某个线程被阻塞时,其他线程还能正常运行。
    • 但是,不同线程间如果需要访问共享资源,那又会产生线程竞争,也会影响系统效率,这又该怎么办呢?

所以,这的确是个“两难”选择,需要我们进行精心的设计。

你可能经常听说 Redis 是单线程,那么,Redis 又是如何做到“单线程,高性能”的呢?后面我再和你好好聊一聊。

如何定位键值对的位置?

当SimpleKV解析了客户端发来的请求,知道了要进行的键值对操作,此时,SimpleKV需要查找所要操作的键值对是否存在,这依赖于键值数据库的索引模块。索引的作用是让键值数据库根据key找到相应value的存储位置,进而执行操作。

索引的类型有很多,常见的有哈希表、B+ 树、字典树等。不同的索引结构在性能、空间消耗、并发控制等方面具有不同的特征。如果你看过其他键值数据库,就会发现,不同键值数据库采用的索引并不相同,例如

  • MemcachedRedis 采用哈希表作为 key-value 索引
  • RocksDB 则采用跳表作为内存中 key-value 的索引。

一般而言,内存键值数据库(例如 Redis)采用哈希表作为索引,很大一部分原因在于,其键值数据基本都是保存在内存中的,而内存的高性能随机访问特性可以很好地与哈希表 O(1) 的操作复杂度相匹配。

SimpleKV 的索引根据 key 找到 value 的存储位置即可。但是,和 SimpleKV 不同,对于 Redis 而言,很有意思的一点是,它的 value 支持多种类型,当我们通过索引找到一个 key 所对应的 value 后,仍然需要从 value 的复杂结构(例如集合和列表)中进一步找到我们实际需要的数据,这个操作的效率本身就依赖于它们的实现结构。

Redis 采用一些常见的高效索引结构作为某些 value 类型的底层数据结构,这一技术路线为 Redis 实现高性能访问提供了良好的支撑。

不同操作的具体逻辑是怎样的?

SimpleKV的索引模块负责根据key找到相应的value存储位置。对于不同的操作来说,找到存储位置之后,需要进一步执行的操作的具体逻辑会有所差异。SimpleKV的操作模块就实现了不同操作的具体逻辑:

  • 对于GET/SCAN操作而言,此时根据value的存储位置返回value值即可
  • 对于PUT一个新的键值对数据而言,SimpleKV需要为该键值对分配内存空间
  • 对于DELETE操作,SimpleKV需要删除键值对,并释放相应的内存空间,这个过程由分配器完成

不知道你注意到没有,对于 PUT 和 DELETE 两种操作来说,除了新写入和删除键值对,还需要分配和释放内存。这就不得不提 SimpleKV 的存储模块了。

如何实现重启后快速提供服务?

SimpleKV采用了常用的内存分配器

  • glibc
  • malloc
  • free

因此,SimpleKV并不需要特别考虑内存空间的管理问题。但是,键值数据库的键值对通常大小不一,glibc 的分配器在处理随机的大小内存块分配时,表现并不好。一旦保存的键值对数据规模过大,就可能会造成较严重的内存碎片问题。

因此,分配器是键值数据库中的一个关键因素。对于以内存存储为主的 Redis 而言,这点尤为重要。Redis 的内存分配器提供了多种选择,分配效率也不一样,后面我会具体讲一讲这个问题。

SimpleKV 虽然依赖于内存保存数据,提供快速访问,但是,我也希望 SimpleKV 重启后能快速重新提供服务,所以,我在 SimpleKV 的存储模块中增加了持久化功能。

不过,鉴于磁盘管理要比内存管理复杂,SimpleKV 就直接采用了文件形式,将键值数据通过调用本地文件系统的操作接口保存在磁盘上。此时,SimpleKV 只需要考虑何时将内存中的键值数据保存到文件中,就可以了。

SimpleKV实现持久化的两种方式
  • 一种方式是,对于每一个键值对,SimpleKV 都对其进行落盘保存,这虽然让 SimpleKV 的数据更加可靠,但是,因为每次都要写盘,SimpleKV 的性能会受到很大影响。

  • 另一种方式是,SimpleKV 只是周期性地把内存中的键值数据保存到文件中,这样可以避免频繁写盘操作的性能影响。但是,一个潜在的代价是 SimpleKV 的数据仍然有丢失的风险。

和 SimpleKV 一样,Redis 也提供了持久化功能。不过,为了适应不同的业务场景,Redis 为持久化提供了诸多的执行机制和优化改进,后面我会和你逐一介绍 Redis 在持久化机制中的关键设计考虑。

小结

SimpleKV 包含了一个键值数据库的基本组件,对这些组件有了了解之后,后面在学习 Redis 这个丰富版的 SimpleKV 时,就会轻松很多。

为了支持更加丰富的业务场景,Redis 对这些组件或者功能进行了扩展,或者说是进行了精细优化,从而满足了功能和性能等方面的要求。

img

从 SimpleKV 演进到 Redis,有以下几个重要变化:
  • Redis主要通过对网络框架进行访问,而不再是动态库了,这也使得Redis可以作为一个基础性的网络服务进行访问,扩大了Redis的应用范围
  • Redis数据模型中的value类型很丰富,因此也带来了更多的操作接口,例如
    • 面向列表的LPUSH/LPOP
    • 面向集合的SADD/SREM
  • Redis的持久化模块能支持两种方式,这两种持久化方式具有不同的优劣势,影响到Redis的访问性能和可靠性
    • 日志(AOF)
    • 快照(RDB)
  • SimpleKV是个简单的单机键值数据库,但是,Redis支持高可靠集群和高可扩展集群。因此,Redis中包含了相应的集群功能支持模块

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_223760.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【Transformers】第 2 章:文本分类

🔎大家好,我是Sonhhxg_柒,希望你看完之后,能对你有所帮助,不足请指正!共同学习交流🔎 📝个人主页-Sonhhxg_柒的博客_CSDN博客 📃 🎁欢迎各位→点赞…

PyCharm连接MySQL数据库竟然如此简单

在 PyCharm 中是可以通过内置的工具来连接、操作数据库的,并且对于市面上大多数主流数据库都是支持的。 本篇教程就教大家如何通过 Pycharm 内置的数据库工具连接 MySQL 数据库。 连接 MySQL 首先打开 PyCharm ,点击菜单栏的 View --> Tool Window…

PyCharm使用心得体会1

一、Pycharm使用的心得体会 1. 查找功能的使用 查找可以使用的小功能 match case区分大小写words 精确匹配?regex 正则表达式 这个是在选择到的内容中继续进行检索 类似二次检索 2. 软件左下角的structure可以看到文件的结构 show inherited表示展示继承的方法 在…

项目搭建(七)爱心代码❤网站部署(静态网站)

爱心代码❤网站部署(静态网站)一、环境基础二、修改Tomcat启动配置三、放置静态网站四、启动Tomcat一、环境基础 如果你已经部署了Apache-Tomcat,恭喜你,你已经完成90%的部署工作 如果没有tomcat,那你先部署tomcat吧 …

Restful风格的编程

Restful风格的编程1、 Restful简介2、查询用户以及用户详情2.1常用注解2.2查询用户详情3、处理创建请求3.1RequestBody注解3.1.1用途3.1.2语法规范3.2日期类型的处理3.3BindingResult4、用户信息修改与删除4.1用户信息修改4.2案例前端界面后端控制器1、 Restful简介 Restful比…

HTML爱心代码 | 一起体验理工男的极致浪漫(电视剧男主同款)

写在前面 大家好,我是陈橘又青,今天中午刷微博,看到最近《点燃我温暖你》中男主角——理工男李峋的爱心代码撩到了无数人,于是把代码开源分享给大家。 文章目录写在前面运行示例完整代码保姆级运行教学添加背景图片修改爱心颜色运…

工业物联网解决方案:PLC数据上云

智能制造已成为工业发展的趋势,以PLC为代表的工控系统时制造业转型的核心,通过对其进行数据采集,可以实现远程监控,及时管理和维护。随着通信技术的发展,PLC的数据上云逐渐成为企业的新需求,可以更好远程监…

国际物流详解:国际物流有哪些特点?国际物流有哪些优势?

随着互联网信息的快速发展,越来越多的人通过通关网络接触到了国外世界,随之而来的采购购物潮也使得国内国际物流业发展迅速。那么国际物流有哪些特点?又有哪些优势呢?下面我们一起来详细了解一下国际物流主要特点和优势吧!一、国际物流是什么 在了解国…

oracle实验七(安全管理)

(实验目的及要求) 实验目的 (1) 掌握 Oracle 数据库安全控制的实现。 (2) 掌握 Oracle 数据库用户管理。 (3) 掌握 Oracle 数据库权限管理。 (4) 掌握 Oracle…

计算两幅图像的相似度(PSNR、SSIM、MSE、余弦相似度、MD5、直方图、互信息、Hash) 代码实现 与举例

MSE(Mean Squared Error)均方误差 MSE公式 MSE 计算模型的预测 Ŷ 与真实标签 Y 的接近程度。公式表示为: 对于两个mn的单通道图像I和K,它们的均方误差可定义为: 优点:MSE的函数曲线光滑、连续&#xff…

什么是HTML?

关于每篇博文的浪漫主义 【4k】镰仓的灰色与青 | irkyar | sonya74【【4k】镰仓的灰色与青 | irkyar | sonya74】 https://www.bilibili.com/video/BV14G411A7eX/?share_sourcecopy_web&vd_source385ba0043075be7c24c4aeb4aaa73352 网页 1.1什么是网页 网站是指在因特网…

排列(全排,前一个,下一个)

目录 一, 前一个排列(字典序更大的最近的一个排列) 1.1 底层实现 1.2 prev_permulation() 二,下一个排列(字典序更小的最近的一个排列) 1.1 底层实现 1.2 next_permulation() 三,全排列 …

C++基础——函数重载

目录 一.函数 重载的三种形式: 1.参数个数不同的重载函数 2. 类型上的不同重载函数 3. 类型顺序上的不同重载函数 二.函数重载缺省参数 返回值不同,能不能构成函数重载? 重载: 重新赋予意义,可以认为是一词多义&…

AssetBundle检测服务使用指南

熟悉UWA的老朋友都知道,UWA有个经典的免费SaaS服务 - 「在线AssetBundle检测」,可以检测包括纹理、网格、动画片段、材质等项目资源使用情况和具体冗余程度。通过快速查看特定的AssetBundle、资源文件和脚本信息,以及AssetBundle和资源之间的…

JAVA线程池 -clt设计与分析

1. 前言 ctl 是线程池源码中常常用到的一个变量。它的主要作用是记录线程池的生命周期状态和当前工作的线程数。作者通过巧妙的设计,将一个整型变量按二进制位分成两部分,分别表示两个信息。 2. 源码解析 源码部分 /*** The main pool control state,…

Pytorch学习笔记6——时间序列RNN

Pytorch学习笔记6——时间序列 判断态度的二分类问题: 对于长句子不适合,因此需要权值共享: 对于某一层: 上一步输出作为下一步输入,存储语境信息: 自我更新语境信息ht ht是最后一次送入得到的m…

提出创意的方法

提出创意的方法 “我不擅长想出创意。” 你是否经常对自己说这样的话? 在公司的会议和学校的集体工作中总是提不出好点子。 即使提出了很多创意,也会偏向于相同的创意,无法得出有趣的提案。 为了打破这样的状况,这次的博客介绍创造性想法…

排序算法:插入排序、冒泡排序、选择排序、希尔排序、堆排序、快速排序

排序算法相关总结,涉及的排序算法有:插入排序、冒泡排序、选择排序、希尔排序、堆排序、快速排序。 这里写目录标题1.插入排序2.冒泡排序3.选择排序4.希尔排序5.堆排序6.快速排序总结稳定性概念: 假定在待排序的记录序列中,存在多个具有相同的…

缓冲区的管理

文章目录什么是缓冲区?有什么作用?单缓冲单缓冲和双缓冲通信时的区别循环缓冲区缓冲池什么是缓冲区?有什么作用? 缓冲区是一个存取区域,可以由专门的硬件寄存器组成,也可以用内存作为缓冲区,本节…

Python中的几种推导式用法,先收藏再说......

嗨害大家好鸭!我是小熊猫❤ 今天我们来整点非常干的干货: 源码、资料电子书点击此处 Python 推导式是一种独特的数据处理方式, 可以从一个数据序列构建另一个新的数据序列的结构体。 Python 支持各种数据结构的推导式: 列表(li…