高可用网站多点部署架构实战经验总结

news/2024/5/20 21:51:32/文章来源:https://blog.csdn.net/weixin_30613433/article/details/98863866

本文是学习大型分布式网站架构的技术总结。对架构一个高性能,高可用,可伸缩,可扩展的分布式网站进行了概要性描述,并给出一个架构参考。一部分为读书笔记,一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。

一、大型网站的特点

用户多,分布广泛

大流量,高并发

海量数据,服务高可用

安全环境恶劣,易受网络攻击

功能多,变更快,频繁发布

从小到大,渐进发展

以用户为中心

免费服务,付费体验

二、大型网站架构目标

高性能:提供快速的访问体验。

高可用:网站服务一直可以正常访问。

可伸缩:通过硬件增加/减少,提高/降低处理能力。

安全性:提供网站安全访问和数据加密,安全存储等策略。

扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块。

敏捷性:随需应变,快速响应;

三、大型网站架构模式

分层:一般可分为,应用层,服务层,数据层,管理层,分析层;

分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页,用户中心。

分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。

集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。

缓存:将数据放在距离应用或用户最近的位置,加快访问速度。

异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。

冗余:增加副本,提高可用性,安全性,性能。

安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。

自动化:将重复的,不需要人工参与的事情,通过工具的方式,使用机器完成。

敏捷性:积极接受需求变更,快速响应业务发展需求。

四、高性能架构

以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

可分为前端优化,应用层优化,代码层优化,存储层优化。

前端优化:网站业务逻辑之前的部分;

浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;

CDN加速,反向代理;

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

五、高可用架构

大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。

应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

六、可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

服务层:与应用层类似;

数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。

七、可扩展架构

可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

模块化,组件化:高内聚,内耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

八、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行子网隔离等手段。

应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。

九、敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

十、大型架构举例

以上采用七层逻辑架构,第一层客户层,第二层前端优化层,第三层应用层,第四层服务层,第五层数据存储层,第六层大数据存储层,第七层大数据处理层。

客户层:支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问,反向代理服务器。

前端层:使用DNS负载均衡,CDN本地加速以及反向代理服务;

应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等;

服务层:提供公用服务,比如用户服务,订单服务,支付服务等;

数据层:支持关系型数据库集群(支持读写分离),NOSQL集群,分布式文件系统集群;以及分布式Cache;

大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和NOSQL数据库的结构化和半结构化数据收集;

大数据处理层:通过Mapreduce进行离线数据分析或Storm实时数据分析,并将处理后的数据存入关系型数据库。(实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层或服务层使用)。

转载于:https://www.cnblogs.com/leijiangsheng/p/8296065.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_817696.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

如何开发一个移动网站

无法改变基于该站点上下文的内容。 对于大多数移动设备和屏幕分辨率来说,很难进行设计。 3.单独设计一个移动站点 如果有大量预算的话,那么最理想的方法就是开发一个独立的专门由移动设备访问的网站。移动网站的设计,组织和填充一直关注移动用…

网站HTTP升级HTTPS完全配置手册

所有使用Google Chrome稳定版的用户迎来了v68正式版首个版本的发布,详细版本号为v68.0.3440.75,上一个正式版v67.0.3396.99发布于6月13日,自Chrome 68起,当在加载非HTTPS站点时,都会在地址栏上明确标记为“Not Secure&…

优化LNMP架构采用“Website Baker”为小型公司创建高性能网站方案

Intel嵌入式设计开发者秘笈(精品) [上海央邦]学一送一,超值! 必读版《十一攻破RHCE6.0、OCP》安博亚威】CCIE考试通过率第一! Cisco网络技术系列讲座 试听一个月,高端IT技术,五大项目3年经验 中国IT实验室收集整理 佚名 2011-11-24 9:07:51 保存本文 推荐给好友 收藏…

用Python从网站爬图片

从极客学院首页爬几张图片&#xff1a; 一下为titita.txt内容&#xff0c;为极客学院首页源代码节选&#xff1a; <div class"jk-uptodate"><h2>最新课程</h2><ul><li class"uptodate"><a href"/zhiye/course/135.h…

SharePoint 2013网站突然不能登录了。

SharePoint 2013网站突然不能登录了&#xff0c;访问的时候&#xff0c;总是报错&#xff1a; The list has not shared with you. 原因&#xff1a; 原来我不知道什么时候把web application的Default authentication provider中的验证方式从NTLM改成 Kerboes了。 【解决方法】…

网易网站设计(思想)

很多人可能认为门户网站首页设计只是把一些导航、资讯内容和广告堆积起来摆放得好看就可以了&#xff0c;虽然这个观点也并不是完全错误的&#xff0c;确实门户网站首页是由这三方面内容组织而成&#xff0c;但随着互联网的快速发展&#xff0c;用户对访问网站的要求也越来越高…

Java开发牛人十大必备网站

摘要&#xff1a; 以下是我收集的 Java 开发牛人必备的网站。这些网站可以提供信息&#xff0c;以及一些很棒的讲座&#xff0c; 还能解答一般问题、面试问题等。质量是衡量一个网站的关键因素&#xff0c;我个人认为这些网站质 量都很好。接下来&#xff0c;我会跟大家分享我是…

程序员必去的几个网站

2019独角兽企业重金招聘Python工程师标准>>> http://www.itheima.com/ 黑马 http://www.itcast.cn/ 传智博客 http://www.imooc.com/ 慕课网 http://www.jikexueyuan.com/ 极客学院 http://www.csdn.com 转载于:https://my.oschina.net/u/588516/blog/755753…

HTML5移动网站制作教程

&#xfeff;&#xfeff;http://www.thinkphp.cn/extend/461.html 希望我的分享能够为正在研究或者想要研究移动端的朋友们带来更高&#xff0c;更好的回报&#xff01; 本文是基于zepto框架下的手机移动端网站制作教程&#xff0c;适用于苹果的ios系统&#xff0c;和android系…

大型网站服务器架构

一、服务器集群改善并发问题 使用集群是网站解决高并发、海量数据问题的常用手段。当一台服务器的处理能力、存储空间不足时&#xff0c;不要企图去更换更强大的服务器&#xff0c;对大型网站而言&#xff0c;不管多么强大的服务器&#xff0c;都满足不了网站持续增长的业务需求…

修改 设置 vs.net 网站 调试 设为 起始页

很简单&#xff0c;右键网站项目&#xff0c;打开【属性&#xff08;R&#xff09;】&#xff0c;找到【web】选项卡&#xff0c;然后会看到右边有一个【启动操作】&#xff0c;设置为当前页即可。 见百度问题: http://zhidao.baidu.com/question/195134372.html?an0&si1 …

HTML的购买按钮添加,将shopify购买按钮添加到流星js网站

不知道最好的方法来连接流星js网站使用购买按钮购物。 要initializie的Shopify API - http://shopify.github.io/js-buy-sdk/ - 直接&#xff0c;我导入使用将shopify购买按钮添加到流星js网站meteor npm install --save shopify-buymeteor npm install --save shopify-promise…

Web网站服务(Apache)

1Apache的主要特点 1&#xff09;开放源代码&#xff1a;这是Apache服务器的重要特性之一&#xff0c;也是其他特性的基础。Apache服务程序由全世界的众多开放者共同维护&#xff0c;并且任何人都可以自由使用&#xff0c;这充分体现了开源软件的精神。2&#xff09; 跨平台应用…

-HTMLCSS-——模拟小企业网站主页导航栏

2019独角兽企业重金招聘Python工程师标准>>> 做出来的作业效果图&#xff08;右键图片选择“在新的窗口打开图片”来查看&#xff09;&#xff1a; 素材图片&#xff1a; &#xff0c;&#xff0c;&#xff0c;&#xff0c; 完成的代码&#xff1a; static.html为&a…

网站的静态页面生成方案 .

提升网站性能的方式有很多&#xff0c;例如有效的使用缓存&#xff0c;生成静态页面等等。今天要说的就是生成静态页面的方式。这个也是我近期一直在搞的一个问题,近期在做使用html servlet做个人网站,为什么是这2个东西呢&#xff1f;1、直接用servlet是为了保证网站能以最快…

给你的网站加上站内搜索---Compass入门教程

给你的网站加上站内搜索---Compass入门教程 syxChina(syxchina.cnblogs.com) Compass(基于Lucene)入门教程 1 序言 2 Compass介绍 3 单独使用Compass 4 springhibernate继承compass 4-1 jar包 4-2 配置文件 4-3 源代码 4-4 说明 4-5 测试 5 总结下吧 1 序言 这些天一直在学点新…

SSH + Lucene + 分页 + 排序 + 高亮 模拟简单新闻网站搜索引擎

前两天看到了一个中国新闻网&#xff0c;这个网站的搜索form的action是http://search.chinanews.com/search.do 便知道是struts1的产物&#xff0c;现在都用struts2了&#xff0c;所以给自己的任务是实现Struts2 SSH分页浏览新闻、Lucene分页高亮排序搜索新闻这个两个功能。 ID…

WordPress速度 - 如何使您的WordPress网站加载速度快

WordPress速度 - 如何使您的WordPress网站加载速度快 快速加载网站对于获取和保持稳定的流量非常重要。因此&#xff0c;对于想要发展WP网站&#xff0c;增加流量和增加收入的每个人来说&#xff0c;WordPress的速度都是一个问题。 但是&#xff0c;有几个因素可能会降低WP网站…

h5打开app跳不到指定页面 uni_初学uni-app,把网站变APP

快速入门uni-app&#xff0c;把想看的网站变APP。下载hbuildx&#xff0c;这里官方提供了几种安装包&#xff0c;有完全版&#xff0c;还有beta版&#xff0c;还有标准版&#xff0c;随便下一个吧&#xff0c;或者直接下载标准版的&#xff0c;因为它最小。1.创建uni-app&#…

利用URLOS搭建自己的CDN网站加速节点真是其乐无穷

CDN可以帮助我们提交网站静态内容的访问速度&#xff0c;而且可以针对不同线路进行分配优化&#xff0c;用最适合的网络线路访问我们的网站内容。比如源站地址在东莞&#xff0c;机房线路是电信&#xff0c;远在山西太原的用户网络环境是联通的&#xff0c;访问源站时速度非常慢…