大型分布式网站架构技术总结

news/2024/5/11 14:16:09/文章来源:https://blog.csdn.net/majianxin1/article/details/102603272

本文是学习大型分布式网站架构的技术总结。对架构一个高性能,高可用,可伸缩,可扩展的分布式网站进行了概要性描述,并给出一个架构参考。一部分为读书笔记,一部分是个人经验总结。对大型分布式网站架构有很好的参考价值。

本次分享大纲如下

  1. 大型网站的特点

  2. 大型网站架构目标

  3. 大型网站架构模式

  4. 高性能架构

  5. 高可用架构

  6. 可伸缩架构

  7. 可扩展架构

  8. 安全架构

  9. 敏捷架构

  10. 大型架构举例

一、大型网站的特点

  • 用户多,分布广泛

  • 大流量,高并发

  • 海量数据,服务高可用

  • 安全环境恶劣,易受网络攻击

  • 功能多,变更快,频繁发布

  • 从小到大,渐进发展

  • 以用户为中心

  • 免费服务,付费体验

二、大型网站架构目标

  • 高性能:提供快速的访问体验。

  • 高可用:网站服务一直可以正常访问。

  • 可伸缩:通过硬件增加/减少,提高/降低处理能力。

  • 安全性:提供网站安全访问和数据加密,安全存储等策略。

  • 扩展性:方便的通过新增/移除方式,增加/减少新的功能/模块。

  • 敏捷性:随需应变,快速响应;

0?wx_fmt=png

三、大型网站架构模式

0?wx_fmt=png

  • 分层:一般可分为,应用层,服务层,数据层,管理层,分析层;

  • 分割:一般按照业务/模块/功能特点进行划分,比如应用层分为首页,用户中心。

  • 分布式:将应用分开部署(比如多台物理机),通过远程调用协同工作。

  • 集群:一个应用/模块/功能部署多份(如:多台物理机),通过负载均衡共同提供对外访问。

  • 缓存:将数据放在距离应用或用户最近的位置,加快访问速度。

  • 异步:将同步的操作异步化。客户端发出请求,不等待服务端响应,等服务端处理完毕后,使用通知或轮询的方式告知请求方。一般指:请求——响应——通知 模式。

  • 冗余:增加副本,提高可用性,安全性,性能。

  • 安全:对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。

  • 自动化:将重复的,不需要人工参与的事情,通过工具的方式,使用机器完成。

  • 敏捷性:积极接受需求变更,快速响应业务发展需求。

四、高性能架构

以用户为中心,提供快速的网页访问体验。主要参数有较短的响应时间,较大的并发处理能力,较高的吞吐量,稳定的性能参数。

可分为前端优化,应用层优化,代码层优化,存储层优化。

前端优化:网站业务逻辑之前的部分;

浏览器优化:减少Http请求数,使用浏览器缓存,启用压缩,Css Js位置,Js异步,减少Cookie传输;

CDN加速,反向代理;

应用层优化:处理网站业务的服务器。使用缓存,异步,集群

代码优化:合理的架构,多线程,资源复用(对象池,线程池等),良好的数据结构,JVM调优,单例,Cache等;

存储优化:缓存,固态硬盘,光纤传输,优化读写,磁盘冗余,分布式存储(HDFS),NOSQL等;

五、高可用架构

大型网站应该在任何时候都可以正常访问。正常提供对外服务。因为大型网站的复杂性,分布式,廉价服务器,开源数据库,操作系统等特点。要保证高可用是很困难的,也就是说网站的故障是不可避免的。

如何提高可用性,就是需要迫切解决的问题。首先,需要从架构级别,在规划的时候,就考虑可用性。行业内一般用几个9表示可用性指标。比如四个9(99.99),一年内允许的不可用时间是53分钟。

不同层级使用的策略不同,一般采用冗余备份和失效转移解决高可用问题。

应用层:一般设计为无状态的,对于每次请求,使用哪一台服务器处理是没有影响的。一般使用负载均衡技术(需要解决Session同步问题),实现高可用。

服务层:负载均衡,分级管理,快速失败(超时设置),异步调用,服务降级,幂等设计等。

数据层:冗余备份(冷,热备[同步,异步],温备),失效转移(确认,转移,恢复)。数据高可用方面著名的理论基础是CAP理论(持久性,可用性,数据一致性[强一致,用户一致,最终一致])

六、可伸缩架构

伸缩性是指在不改变原有架构设计的基础上,通过添加/减少硬件(服务器)的方式,提高/降低系统的处理能力。

应用层:对应用进行垂直或水平切分。然后针对单一功能进行负载均衡(DNS,HTTP[反向代理],IP,链路层)。

服务层:与应用层类似;

数据层:分库,分表,NOSQL等;常用算法Hash,一致性Hash。

七、可扩展架构

可以方便的进行功能模块的新增/移除,提供代码/模块级别良好的可扩展性。

模块化,组件化:高内聚,内耦合,提高复用性,扩展性。

稳定接口:定义稳定的接口,在接口不变的情况下,内部结构可以“随意”变化。

设计模式:应用面向对象思想,原则,使用设计模式,进行代码层面的设计。

消息队列:模块化的系统,通过消息队列进行交互,使模块之间的依赖解耦。

分布式服务:公用模块服务化,提供其他系统使用,提高可重用性,扩展性。

八、安全架构

对已知问题有有效的解决方案,对未知/潜在问题建立发现和防御机制。对于安全问题,首先要提高安全意识,建立一个安全的有效机制,从政策层面,组织层面进行保障。比如服务器密码不能泄露,密码每月更新,并且三次内不能重复;每周安全扫描等。以制度化的方式,加强安全体系的建设。同时,需要注意与安全有关的各个环节。安全问题不容忽视。包括基础设施安全,应用系统安全,数据保密安全等。

基础设施安全:硬件采购,操作系统,网络环境方面的安全。一般采用,正规渠道购买高质量的产品,选择安全的操作系统,及时修补漏洞,安装杀毒软件防火墙。防范病毒,后门。设置防火墙策略,建立DDOS防御系统,使用攻击检测系统,进行         子网隔离等手段。

应用系统安全:在程序开发时,对已知常用问题,使用正确的方式,在代码层面解决掉。防止跨站脚本攻击(XSS),注入攻击,跨站请求伪造(CSRF),错误信息,HTML注释,文件上传,路径遍历等。还可以使用Web应用防火墙(比如:ModSecurity),进行安全漏洞扫描等措施,加强应用级别的安全。

数据保密安全:存储安全(存在在可靠的设备,实时,定时备份),保存安全(重要的信息加密保存,选择合适的人员复杂保存和检测等),传输安全(防止数据窃取和数据篡改);

常用的加解密算法(单项散列加密[MD5,SHA],对称加密[DES,3DES,RC]),非对称加密[RSA]等。

九、敏捷性

网站的架构设计,运维管理要适应变化,提供高伸缩性,高扩展性。方便的应对快速的业务发展,突增高流量访问等要求。

除上面介绍的架构要素外,还需要引入敏捷管理,敏捷开发的思想。使业务,产品,技术,运维统一起来,随需应变,快速响应。

十、大型架构举例

0?wx_fmt=png

以上采用七层逻辑架构,第一层客户层,第二层前端优化层,第三层应用层,第四层服务层,第五层数据存储层,第六层大数据存储层,第七层大数据处理层。

客户层:支持PC浏览器和手机APP。差别是手机APP可以直接访问通过IP访问,反向代理服务器。

前端层:使用DNS负载均衡,CDN本地加速以及反向代理服务;

应用层:网站应用集群;按照业务进行垂直拆分,比如商品应用,会员中心等;

服务层:提供公用服务,比如用户服务,订单服务,支付服务等;

数据层:支持关系型数据库集群(支持读写分离),NOSQL集群,分布式文件系统集群;以及分布式Cache;

大数据存储层:支持应用层和服务层的日志数据收集,关系数据库和NOSQL数据库的结构化和半结构化数据收集;

大数据处理层:通过Mapreduce进行离线数据分析或Storm实时数据分析,并将处理后的数据存入关系型数据库。(实际使用中,离线数据和实时数据会按照业务要求进行分类处理,并存入不同的数据库中,供应用层或服务层使用)。

0?wx_fmt=png0?wx_fmt=png

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_832243.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Python爬虫爬取美剧网站

一直有爱看美剧的习惯,一方面锻炼一下英语听力,一方面打发一下时间。之前是能在视频网站上面在线看的,可是自从广电总局的限制令之后,进口的美剧英剧等貌似就不在像以前一样同步更新了。但是,作为一个宅diao的我又怎甘…

5个可以帮你优化App的优秀网站

也许现在有一款App可以提供所有你需要的,你不需要的,或者你可以想象到的内容。但是,有多少App真的可以不仅满足需求而且还能提供很好的用户体验呢? 相信很多APP并没有这样的能力。有一些APP的设计特别烂,以至于用户很难去完成一些…

11个最值得Java开发者收藏的网站

概述:Java是一种面向对象的编程语言,由Sun Microsystems公司在1995年的时候正式发布。直到今天,Java都一直是最受欢迎的编程语言之一。如今,Java应用于各种各样的技术领域,例如网站开发、Android开发、游戏开发、大数据…

30分钟让网站支持HTTPS

转载自码农网这里我会指导大家如何轻松搞定在你的网站上使用HTTPS。我不是安全专家也不是搞服务器的,所以这对我而言也是一种有趣的经历,而记录这个过程可以让其他任何人也能很快地做到这些。包括一些暂时的停顿时间,我总共只花了20-30分钟。…

「镁客早报」特斯拉标准版Model3正式上市,售价3.5万美元;百度被爆搜索小学和幼儿园会导向色情网站...

Facebook、谷歌在英国或将面临数十亿美元罚款;自动驾驶创业公司DriveAI寻求“卖身”,曾估值2亿美元。 1、特斯拉标准版Model3正式上市,售价3.5万美元 今日,特斯拉宣布标准版Model3正式上市,售价为3.5万美元。目前&am…

跨屏网站建设要如何规划,注意5点

2019独角兽企业重金招聘Python工程师标准>>> 跨屏网站建设该怎么规划?在建设跨屏网站的时候要如何做才可以让用户拥有更高的体验度?确实,想要设计出一个优质的跨屏网站的话需要注意的细节是非常多的,我们首先要做的是对…

2021 chrome 更新跨域规则,将对网站造成影响

chrome 更新跨域规则,将对网站造成影响 在 chrome v94 之后,之前没有问题的网站接口请求现在出现了错误: Access to Css stylesheet at ‘http:xx’ from origin ‘http://xx‘ has been blocked by CORS policy: The request client is not…

聊聊制作网站那些事

点击链接:我的第一个响应式网站 直接开门见山也不啰嗦了。 有很多小伙伴都问我响应式网站怎么做?但是做响应式网站又并非易事。 自己做响应式网站分为两种: 一、自己动手一个一个代码打出来,这种情况下你的网站实现响应式的几…

由于您访问的url有可能对网站造成安全威胁_网站索引量下降怎么办?

导致百度索引量下降的常见原因--一、网站方原因1、内容数据所在的网址url未规范统一【自己站点url规范统一】多域名都可以200状态正常访问网页内容;一域名下出现多种url形式可以访问相同内容,如大小写url、url规则变更等。解决:选择主域名(或…

python能开发网站吗_python可以开发网站吗

python可以开发网站,python在web开发方面强大的开发框架是django。做网站开发之前,同样要掌握一些python的基础语法。 1、python基础,因为用python开发的,所以python指定要会,最起码你也得会条件判断,循环&…

配置ssl证书_给自己的网站主页配置ssl证书

使用https?可以防止数据在传输过程中产生一些不必要的泄露,未?的页面在经过ssl证书的签发后会变成https开头,下面记录一下配置https加密的整个过程购买域名首先第一步我们为了防止自己的公网ip暴露出去,需要给自己的网站设定一个全球唯一的…

php网页框架模板,用PHP制作静态网站的模板框架(四)

用PHP制作静态网站的模板框架(四)更新时间:2006年10月09日 00:00:00 作者:静态网站的模板框架首先,我们象前面一样为所有的页面公用元素以及页面整体布局编写模板文件;然后从所有的页面删除公共部分,只留下页面内容&…

泰山200机架服务器包含哪些型号_网站站内优化步骤都有哪些呢

想要自己的网站展现在大众面前,对网站的优化是必不可少的,那么,在对网站优化的时候除了对网站的内容作出专业性强的展示,也要对网站的优化路线进行一个全面的规划,今天就来说一下网站的站内优化主要需要进行哪些操作呢…

phoenix 根据条件更新_企业网站seo优化,百度算法经常更新要怎么解决?

很多进行seo优化的朋友都在为百度快照更新带来的残酷脱毛而苦恼。解决百度算法更新的顾问:百度算法更新是我们每个优化人员最头疼的事情,更新后无数网站k、强权、排名登陆,所以很多优化的人跟随百度算法,在这里,我来说…

asp抓取网页某个标签内的_站内SEO最容易忽略的一些优化细节

网站需要做SEO优化,是每个站长都知道的事情,很多站长觉得自己网站的SEO优化管理工作环境就是发发文章,做做外链,再详细点就是在进行前期建站的时候,做些网站主要代码简化,robots的设置问题以及相关链接、导…

网博士cases_list_to_html.asp,校园网站的设计与实现

马场中学校园网站的设计与实现德育工作:是学校德育工作的窗口,也是对学生进行德育宣传的主要手段,同时还是教师为人师表的窗口之一。安全工作:以学校政策法规室和保卫科为主要服务对象,主要是对学生进行各种相关的人生…

如何复用linux内存管理算法,分配页 - Linux内存管理伙伴算法_Linux编程_Linux公社-Linux系统门户网站...

伙伴系统中用于分配页的函数如下:alloc_pages(mask,order)分配2^order页并返回一个struct page的实例,表示分配的内存块的起始页。alloc_page(mask)是前者在order0情况下的简化形式,只分配一页。get_zeroed_page(mask)分配一页并返回一个page…

学术源代码网站

今天发行一个学术源代码的网站 可代码下载学习网站 比起这些国内要币的 好太多了 https://yarpiz.com/

vue给元素设置css_使用CSS变换为您的网站元素设置动画

我们都被移动的物体和不寻常的方向所吸引。动画效果可用于改善用户界面或吸引用户注意项目的重要部分。在这篇文章中,我将向您展示如何应用不同的转换来改善您网站的可用性和设计。CSS转换您可以使用CSS属性以多种不同方式对网站元素进行转换,从而为网站…

奇奇seo优化软件_湖南seo网站优化软件

湖南seoxaa0c1网站优化软件,这个互联网时代,谁也不愿意在网络上缺席,企业商家更不愿意放弃网络这个巨大的宣传渠道,他们纷纷在网络上建立自己的企业网站,并且对网站进行多种优化,获取更多的流量&#xff0c…