MySQL在大型网站的应用架构演变

news/2024/5/9 14:46:08/文章来源:https://blog.csdn.net/chuifuhuo6864/article/details/100883767


写在最前:


  本文主要描述在网站的不同的并发访问量级下,Mysql架构的演变。


可扩展性


  架构的可扩展性往往和并发是息息相关,没有并发的增长,也就没有必要做高可扩展性的架构,这里对可扩展性进行简单介绍一下,常用的扩展手段有以下两种
  Scale-up:纵向扩展,通过替换为更好的机器和资源来实现伸缩,提升服务能力
  Scale-out:横向扩展,通过加节点(机器)来实现伸缩,提升服务能力
  对于互联网的高并发应用来说,无疑Scale out才是出路,通过纵向的买更高端的机器一直是我们所避讳的问题,也不是长久之计,在scale out的理论下,可扩展性的理想状态是什么?


可扩展性的理想状态


  一个服务,当面临更高的并发的时候,能够通过简单增加机器来提升服务支撑的并发度,且增加机器过程中对线上服务无影响(no down time),这就是可扩展性的理想状态!

 

架构的演变


V1.0 简单网站架构


  一个简单的小型网站或者应用背后的架构可以非常简单,  数据存储只需要一个mysql instance就能满足数据读取和写入需求(这里忽略掉了数据备份的实例),处于这个时间段的网站,一般会把所有的信息存到一个database instance里面。


  在这样的架构下,我们来看看数据存储的瓶颈是什么
  1.数据量的总大小一个机器放不下时
  2.数据的索引(B+ Tree)一个机器的内存放不下时
  3.访问量(读写混合)一个实例不能承受
  只有当以上3件事情任何一件或多件满足时,我们才需要考虑往下一级演变。 从此我们可以看出,事实上对于很多小公司小应用,这种架构已经足够满足他们的需求了,初期数据量的准确评估是杜绝过度设计很重要的一环,毕竟没有人愿意为不可能发生的事情而浪费自己的经历。

  这里简单举个我的例子,对于用户信息这类表 (3个索引),16G内存能放下大概2000W行数据的索引,简单的读和写混合访问量3000/s左右没有问题,你的应用场景是否


V2.0 垂直拆分


  一般当V1.0 遇到瓶颈时,首先最简便的拆分方法就是垂直拆分,何谓垂直?就是从业务角度来看,将关联性不强的数据拆分到不同的instance上,从而达到消除瓶颈的目标。以图中的为例,将用户信息数据,和业务数据拆分到不同的三个实例上。对于重复读类型比较多的场景,我们还可以加一层cache,来减少对DB的压力。


  在这样的架构下,我们来看看数据存储的瓶颈是什么?

  1.单实例单业务依然存在V1.0所述瓶颈

  遇到瓶颈时可以考虑往本文更高V版本升级,若是读请求导致达到性能瓶颈可以考虑往V3.0升级, 其他瓶颈考虑往V4.0升级

 

V3.0 主从架构


  此类架构主要解决V2.0架构下的读问题,通过给Instance挂数据实时备份的思路来迁移读取的压力,在Mysql的场景下就是通过主从结构,主库抗写压力,通过从库来分担读压力,对于写少读多的应用,V3.0主从架构完全能够胜任。


  在这样的架构下,我们来看看数据存储的瓶颈是什么?
  1.写入量主库不能承受


V4.0 水平拆分


  对于V2.0,V3.0方案遇到瓶颈时,都可以通过水平拆分来解决,水平拆分和垂直拆分有较大区别,垂直拆分拆完的结果,在一个实例上是拥有全量数据的,而水平拆分之后,任何实例都只有全量的1/n的数据。以下图Userinfo的拆分为例,将userinfo拆分为3个cluster,每个cluster持有总量的1/3数据,3个cluster数据的总和等于一份完整数据(注:这里不再叫单个实例 而是叫一个cluster 代表包含主从的一个小mysql集群)。


数据如何路由?

  1.Range拆分

  sharding key按连续区间段路由,一般用在有严格自增ID需求的场景上,如Userid, Userid Range的小例子:以userid 3000W为Range进行拆分,1号cluster userid 1-3000W;2号cluster userid 3001W-6000W,...。

  2.List拆分

  List拆分与Range拆分思路一样,都是通过给不同的sharding key来路由到不同的cluster,但是具体方法有些不同。List主要用做sharding key不是连续区间的序列落到一个cluster的情况,如以下场景:
  假定有20个音像店,分布在4个有经销权的地区,如下表所示:

地区

商店ID 号

北区

3, 5, 6, 9, 17

东区

1, 2, 10, 11, 19, 20

西区

4, 12, 13, 14, 18

中心区

7, 8, 15, 16

  业务希望能够把一个地区的所有数据组织到一起来搜索,这种场景List拆分可以轻松搞定。

  3.Hash拆分

  通过对sharding key进行哈希的方式来进行拆分,常用的哈希方法有除余、字符串哈希等等,除余如按userid%n的值来决定数据读写哪个cluster,其他哈希类算法这里就不细展开讲了。

数据拆分后引入的问题:

  数据水平拆分引入的问题主要是只能通过sharding key来读写操作,例如以userid为sharding key的切分例子,读userid的详细信息时,一定需要先知道userid,这样才能推算出在哪个cluster进而进行查询,假设我需要按username进行检索用户信息,需要引入额外的反向索引机制(类似HBASE二级索引),如在redis上存储username->userid的映射,以username查询的例子变成了先通过查询username->userid,再通过userid查询相应的信息。
  实际上这个做法很简单,但是我们不要忽略了一个额外的隐患,那就是数据不一致的隐患。存储在redis里的username->userid和存储在mysql里的userid->username必须需要是一致的,这个保证起来很多时候是一件比较困难的事情,举个例子来说,对于修改用户名这个场景,你需要同时修改redis和mysql,这两个东西是很难做到事务保证的。如mysql操作成功,但是redis却操作失败了(分布式事务引入成本较高)。对于互联网应用来说,可用性是最重要的,一致性是其次,所以能够容忍小量的不一致出现。毕竟从占比来说,这类的不一致的比例可以微乎其微到忽略不计(一般写更新也会采用mq来保证直到成功为止才停止重试操作)

  在这样的架构下,我们来看看数据存储的瓶颈是什么?
  在这个拆分理念上搭建起来的架构,理论上不存在瓶颈(sharding key能确保各cluster流量相对均衡的前提下)。不过确有一件恶心的事情,那就是cluster扩容的时候重做数据的成本,如我原来有3个cluster,但是现在我的数据增长比较快,我需要6个cluster,那么我们需要将每个cluster 一拆为二,一般的做法是
  1.摘下一个slave,停同步
  2.对写记录增量log(实现上可以让业务方对写操作多一次写持久化mq,或者mysql主服务器创建trigger记录写等等方式)
  3.开始对静态slave做数据,一拆为二
  4.回放增量写入,直到追上的所有增量,与原cluster基本保持同步
  5.写入切换,由原3 cluster切换为6 cluster
  有没有类似飞机空中加油的感觉,这是一个脏活,累活,容易出问题的活,为了避免这个,我们一般在最开始的时候,设计足够多的sharding cluster来防止可能的cluster扩容这件事情


V5.0 云计算 腾飞(云数据库) 


  云计算现在是各大IT公司内部作为节约成本的一个突破口,对于数据存储的mysql来说,如何让其成为一个SaaS(Software as a Service)是关键点。在MySQL的官方文档中,把构建一个足够成熟的SaaS(MySQL简单列出了SaaS应用的4级成熟度)所面临的3个主要挑战:可配置性,可扩展性,多用户存储结构设计称为"three headed monster"。可配置性和多用户存储结构设计在Mysql SaaS这个问题中并不是特别难办的一件事情,所以这里重点说一下可扩展性。
  Mysql作为一个SaaS服务,在架构演变为V4.0之后,依赖良好的sharding key设计,已经不再存在扩展性问题,只是它在面对扩容缩容时,有一些脏活需要干,而作为SaaS并不能避免扩容缩容这个问题,所以只要能把V4.0的脏活变成:1. 扩容缩容对前端APP透明(业务代码不需要任何改动);2.扩容缩容全自动化且对在线服务无影响。那么他就拿到了作为SaaS的门票。


  对于架构实现的关键点,需要满足对业务透明,扩容缩容对业务不需要任何改动,那么就必须eat our own dog food,在你MySQL SaaS内部解决这个问题。一般的做法是我们需要引入一个Proxy来解析sql协议,按sharding key来寻找cluster, 判断是读操作还是写操作来请求主或者从,这一切内部的细节都由proxy来屏蔽。
  这里借淘宝的图来列举一下proxy需要干哪些事情。


  百度公开的技术方案中也有类似的解决方案,见文章最后资料部分链接

  对于架构实现的关键点,扩容缩容全自动化且对在线服务无影响。扩容缩容对应到的数据操作即为数据拆分和数据合并,要做到完全自动化有非常多不同的实现方式,总体思路和V4.0介绍的瓶颈部分有关,目前来看这个问题比较好的方案就是实现一个伪装slave的sync slave,解析mysql同步协议,然后实现数据拆分逻辑,把全量数据进行拆分。具体架构见下图:


  其中Sync slave对于Original Master来说,和一个普通的Mysql Slave没有任何区别,也不需要任何额外的区分对待。需要扩容/缩容时,挂上一个Sync slave,开始全量同步+增量同步,等待一段时间追数据。以扩容为例,若扩容后的服务和扩容前数据已经基本同步了,这时候如何做到切换对业务无影响? 其实关键点还是在引入的proxy,这个问题转换为了如何让proxy做热切换后端的问题。这已经变成一个非常好处理的问题了。
  另外值得关注的是:2014年5月28日——为了满足当下对Web及云应用需求,甲骨文宣布推出MySQL Fabric,在对应的资料部分我也放了很多Fabric的资料,有兴趣的可以看看,说不定会是以后的一个解决云数据库扩容缩容的手段

V more ?

等待革命...

 

其他资料


百度Dbproxy设计:

http://tech.it168.com/a2012/0413/1337/000001337034.shtml

淘宝RDS云数据库设计:

http://blog.csdn.net/ywh147/article/details/8954625

http://www.infoq.com/cn/news/2012/10/taobao-ump

Mysql  Fabric:
http://mysqlmusings.blogspot.jp/2013/09/brief-introduction-to-mysql-fabric.html
http://vnwrites.blogspot.jp/2013/09/mysqlfabric-sharding-introduction.html
http://vnwrites.blogspot.in/2013/09/mysqlfabric-sharding-example.html
http://vnwrites.blogspot.in/2013/09/mysqlfabric-sharding-migration.html
http://vnwrites.blogspot.jp/2013/09/mysqlfabric-sharding-maintenance.html


参考文献:http://www.cnblogs.com/Creator/p/3776110.html

转载于:https://my.oschina.net/abcijkxyz/blog/723257

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_789008.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

最终解决 mouseenter, mouseleave , mouseout mousehover mousemove等事件的区别?

在jquery中, html页面的div的显示和隐藏, 修改等的功能, 最终都要由 事件 触发来引用, 不管是键盘事件, 还是鼠标事件...mouseenter和mouseleave是成对对应的, mouseover & mouseout是对应的, mousedown和mouseup是对应的没有mousehover, 只有hover 事件函数, hover是模拟&…

dedecms php 文件修改,织梦DEDECMS网站怎么修改data目录名称

织梦DEDECMS网站怎么修改data目录名称?最近dedecms漏洞频繁出现,织梦官方也给出了很多相应的措施。今天给大家讲的就是dedecms官方建议用户修改data文件名称。 对于虚拟主机来说,有些虚拟主机限制,不给移动到web目录以外&#xff…

怎么让你的网站快速飞

2019独角兽企业重金招聘Python工程师标准>>> 第一章 怎么让你的网站快速飞 1.1 服务器、VPS、空间的介绍 服务器 服务器,也称伺服器,是提供计算服务的设备。由于服务器需要响应服务请求,并进行处理,因此一般来说服务器…

地址栏加不加www都可以访问网站 -- -- -- -- 配置

需求:加不加www都可以访问网站 www.abc.comabc.com 需要配置几个地方: 一、 服务器(以阿里云服务器为例) 需要插入两条记录,可从新手指导中配置,生效时间为TTL中配置的时间内 二、 服务器电脑中&#xf…

大型网站架构系列:消息队列(二)

本文是大型网站架构系列:消息队列(二),主要分享JMS消息服务,常用消息中间件(Active MQ,Rabbit MQ,Zero MQ,Kafka)。【第二篇的内容大部分为网络资源的整理和汇…

web网站开发培训,JavaScript的if关键字

01 哪些专业转CS成功率高? 根据数据统计,在培养的前端开发工程师人才中,成功拿到offer,约38%是计算机专业毕业,62%都是非计算机专业转行的学员! 在成功拿到大公司前端开发工程师offer的非计算机专业同学中…

Springboot+JPA+Thymeleaf 校园博客完整小网站

本文所属【知识林】:http://www.zslin.com/web/article/detail/35此项目是一个比较简易的校园博客。麻雀虽小五脏俱全,虽然是比较简易的但是涉及的知识点还是比较全面的。 此项目涵盖了【知识林】中Springboot和Thymeleaf中所有知识点的内容。 主要功能有…

Nginx网站根目录更改及导致403 forbidden的问题解决

最近因为工作需要,要将Nginx网站根目录更改下,通过网上的一些教程更改后,但发现测试的时候一直提示403 forbidden错误,后台通过一个朋友的提示也解决了,所以现在将详细的步骤分享给大家,有需要的朋友们可以…

【必看】分析各大招聘网站

目前市场上的招聘网站鱼龙混杂,人力资源市场这块大蛋糕谁都想分一块。工作对于每个人来说都是人生中的一件大事,所以如何选择一个适合自己的经验水平等各方面的正规招聘网站就显得尤为重要,那么今天小编就从客观角度,为大家分析市…

二线视频网站突围战

在并购、自制剧、社交视频等各种概念的炒作之下,2013年毫无悬念地成为国内视频网站最热闹的年份。然而这些大戏并不仅仅是一线大佬们的狂欢宴,二线视频企业也不甘落寞,纷纷出击。在这场异常残酷的竞争中,大家都在用生命刷着存在感…

一个做得很好的电子产品测评类网站:Zealer

无意中发现了一个做得很好的电子产品测评类网站——Zealer。http://www.zealer.com/ 站长王自如很有个人魅力。尤其他在老罗发布会点评的那期节目里。 与他类似,我也是做质量评测的,不过是视频的质量评测。我明白做这种第三方评测是很难盈利的。因为一旦…

最简单的视频网站(JavaEE+FFmpeg)

本文记录一个最简单的视频网站系统。此前做过一些基于JavaEE中的SSH (Strut2 Spring Hibernate)的网站系统,但是一直没有做过一个视频网站系统,所以就打算做一个“精简”的视频网站系统,以方便以后测试以及学习使用。本视频网站支持直播&am…

8x8点阵字体在线生成器_超好玩的生成器工具网站,沙雕又有趣!打开新世界

1. 在线抠图、证件照生成器 :http://t.cn/A67EE9UQ2.爱情小说生成器 :同人小说生成器3.Cp短打生成器 :http://t.cn/Aid6pD1l4.爱豆翻牌体验器:爱豆翻牌体验器5.口罩头像生成器:口罩护目镜头像生成器6.今日吃什么:今天晚饭吃神马?7.记仇表情生成器:bangbang93.lab()8…

王道操作系统ppt课件_推荐5个做PPT课件的免费模板网站

老师做课件找模板网站在于精不在多,以下我就精心整理出来5个免费模板网站,推荐给大家。最主要是免费!免费!免费!1、Office Plus(http://www.officeplus.cn/)官方出品,必属精品&#…

python搭建小程序后端_Python开源Web, CMF,可做微信小程序后端, 网站后端等.Restful Api...

dev(开放更新中,可在Tag中可以选择以往的其他版本) 当前更新比较多,请及时更新新版本 低版本更新到v2.2后,如果出现ROOT用户权限问题,[注销登录]后再次登录 ** 注意:更新到v2.2的童鞋请先看这篇文章 ** Version Status Other 开发…

Forefront TMG 2010 篇(七)--本地网站不需要使用代理

上文记录到使用WEB代理上网,而且添加到允许组才可以正常的浏览网页,但是不知大家有没有发觉我没有添加例外,如果没有添加的话,本地的网站时会提示不能正常的浏览,所以我们需要添加进去。 直接把完整的贴出来吧&#xf…

新代系统cnc怎样连接电脑_电脑故障网络修复不能上网站打不开网络连接维修异常系统问题苹果...

拍前必读更多的电脑问题有我们就够了1.在维修过程中会导致C盘或其它盘数据覆盖,无法恢复,买家务必在维修之前做好数据备份,如不备份导致数据丟失,责任全由买家负责。2.在维修之前,本店维修师并不确定您的电脑是否有隐形硬件问题,如在维修过程中发现硬件问题,会建议您使用其它方…

Mac/Linux Curl代理访问测试网站方法

HTTP协议测试访问 curl -I -x 140.205.32.8:80 "http://www.aliyun.com" HTTPS协议测试访问 curl -I -s -k https://140.205.32.8/ -H Host:www.aliyun.com 解释说明 使用过程中,调整期望的IP以及域名。比如:其他测试通过代理访问http://blog.csdn.ne…

PHP搜索优化插件,8个出色的WordPress SEO插件收集

wordpress是当前网终上最的行的内容发布工具之一。它拥有成千上万的免费主题和插件,帮助新手方便快捷地将内容发布到网络上。但是很多时候仅仅将内容发存到网终上是不够的,吸引用户来你的网站是一门科学也是一门艺术,当然wordpress也有许多插…

第一阶段:前端开发_HTML——网站后台显示页面

2018-03-30 HTML 一、HTML介绍 1)超文本标记语言: 超文本:页面内可以包含图片、链接,甚至音乐、程序等非文字元素,比普通文本更强大。 标记语言:使用一组标签对内容进行描述的一门语言,它不是编…