大流量网站的底层系统架构

news/2024/5/20 13:01:00/文章来源:https://blog.csdn.net/weixin_34032827/article/details/85500592

from:http://chenge.diandian.com/post/2011-10-30/6366412

 

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l Web前 端系统

l 负 载均衡系统

l 数 据库集群系统

l 缓 存系统

l 分 布式存储系统

l 分 布式服务器管理系统

l 代 码分发系统

Web前端系统

结构图:

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Nginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统



负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5) 数据库服务器和应用服务器分离。

6) 从数据库使用BigIP做负载均衡。

缓存系统



缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、 减轻对数据库及存储集服务器的访问压力

3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图: 

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_755033.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

大型网站技术架构(一)大型网站架构演化

2019独角兽企业重金招聘Python工程师标准>>> 看完了有一本书,就应该有所收获,有所总结,最近把《大型网站技术架构》一书给看完了,给人的印象实在深刻,再加上之前也搞过书本上讲的反向代理和负载均衡以及ses…

ubuntu下用webbench 网站压力测试

2019独角兽企业重金招聘Python工程师标准>>> wget http://blog.s135.com/soft/linux/webbench/webbench-1.5.tar.gz tar zxvf webbench-1.5.tar.gz cd webbench-1.5 make && make install 如果在编译webbench的时候,出现/bin/sh: ctags: …

使用网站作为WCF服务宿主的几种做法

内容摘要 这一篇文章探讨使用网站作为WCF服务宿主的几种做法,我将从最基本的svc文件的方式,演化成为无svc文件的方式,并且在最后介绍REST与路由规则结合的做法。 本文所讲解的WCF功能,是基于WCF 4.0这个版本。我所采用的开发工具是…

关注经典:CSS Awards 获奖网站作品赏析《第一季》

每天都有很多新的网站推出,其中不乏一些设计极其优秀的作品。这个系列的文章,我为大家挑选了2012年赢得 CSS Awards 大奖的50个最佳网站。这些鼓舞人心的网站作品代表了网页设计的最高水平,相信你可以得到很大的启发。 您可能感兴趣的相关文章…

移动端开发-各类免费收费api及网站工具收藏

为什么80%的码农都做不了架构师?>>> 一 、api 1、https://www.juhe.cn/ 跟百度api集市差不多,超级赞,做好认证就行了,我有20认证能用的免费api 2、http://apistore.baidu.com/astore/servicesearch?word%E5%85%8D%E…

网页设计与网站建设(CS3中文版)从新手到高手

为什么80%的码农都做不了架构师?>>> 网页设计与网站建设(CS3中文版)从新手到高手 本书是一本典型的案例实例教材,从网页制作和网站建设的应用实践出发,详细介绍如 何开发博客、餐饮、健康、企业门户、…

国内政府网站群云门户建设标准

我国政府网站已经走过了以技术为导向的发展阶段,现在正处于以内容为导向向以服务为导向过渡的关键时期。政府网站如何满足网站用户的实际需求,达到服务性政府的建设要求将是当今政府亟待解决的问题。美国政府推出“云优先”发展战略和云服务门户&#xf…

MVC与单元测试实践之健身网站(八)-统计分析

2019独角兽企业重金招聘Python工程师标准>>> ​统计分析模块与之前的内容相对独立,用于记录并跟踪各部位围度的变化。还需提供对所作计划的分析,辅助使计划更合理。 一 围度记录 这儿可以记录各项身体围度指标,现在包括体重在内身…

不能忍!花钱买的视频网站VIP账号别人在用,都是撞库惹的祸

你的牙刷被别人偷偷用了,是不是不能忍? 那你花钱买的视频网站VIP账号呢?有些人可能能忍,然而有些人却不能。 央视财经频道曝光了一则消息——你买的视频网站会员VIP 别人也在用,里面的当事人田女士不能忍,因为她的其他网银密码、…

优秀网站看前端 —— 小米Note介绍页面

刚开始经营博客的时候,我写过不少“扒皮”系列的文章,主要介绍一些知名站点上有趣的交互效果,然后试着实现它们。后来开始把注意力挪到一些新颖的前端技术上,“扒皮”系列便因此封笔多时。今天打算重开“扒皮”的坑,不…

作业4: 用户体验分析——以 “师路南通网站” 为例

一、作业目标 基于实例分析,体会用户体验设计的 7 条准则。二、作业要求 针对师路南通 ,开展UX分析。PS:对比另外2个学习网站:1. UMU学习平台 ;2. 学生安全教育平台基于7 条UX评价准则,分析“师路南通” 在…

Scala Playframework 访问HTTPS网站证书错误解决方案

2019独角兽企业重金招聘Python工程师标准>>> 使用Playframework访问https网站报如下错误: Cause: sun.security.validator.ValidatorException: PKIX path building failed: sun.security.provider.certpath.SunCertPathBuilderException: unable to fi…

python模拟自动登录网站(urllib2)

不登录打开网页: import urllib2 request urllib2.Request(http://www.baidu.com) response urllib2.urlopen(request).read() print response 保存网页图片(https://www.baidu.com/img/bd_logo1.png): picurl https://www.bai…

如何一步步构建大中型网站架构

(转载自http://kb.cnblogs.com/page/99549/) 之前我简单向大家介绍了各个知名大型网站的架构,MySpace的五个里程碑、Flickr的架构、YouTube的架构、PlentyOfFish的架构、WikiPedia的架构。这几个都很典型,我们可以从中获取很多有关…

5 个鲜为人知的黑科技网站,强大到不敢想象

点击上方“Java基基”,选择“设为星标”做积极的人,而不是积极废人!源码精品专栏 原创 | Java 2019 超神之路,很肝~中文详细注释的开源项目RPC 框架 Dubbo 源码解析网络应用框架 Netty 源码解析消息中间件 RocketMQ 源码解析数据库…

大型网站架构系列:负载均衡详解(下)

大型网站架构系列:负载均衡详解(下): " 《大型网站架构系列:负载均衡详解(上)》 一、软件负载均衡概述 硬件负载均衡性能优越,功能全面,但是价格昂贵,一般适合初期或…

团队-爬虫电影网站-最终程序

托管平台地址:https://gitee.com/w789369/PaChong/tree/master 小组名称:简单 小组成员合照:无 程序运行方法:python 程序运行示例及运行结果:转载于:https://www.cnblogs.com/lws1111/p/7944180.html

网站用户的注册与管理

django-registration安装与设置 执行命令 pip install django-registration此次frameword 会运用django原有的auth架构 在默认的情况下,django-registration只需要在setting.py中设置一个常数,用来指定启动码的天数, ACCOUNT_ACTIVATION_DAYS…

网站代码用什么打开_网站404页面有什么用?

在网站优化过程中,有很多知识点。今天我们要谈的是404页,404页在访问客户端的页面时,服务器出现无法正常显示的信息,或者服务器无法应对,客户输入错误的链接也出现404页但是,朋友们发现很多网站都制作了404…

项目案例:部署社交网站

前言:本次项目是搭建一套动态网站服务器平台,在上面运行社交网站(例如:人人网,开心网,天涯论坛)。相关知识点在前面的课程中都有所涉及,今天的实验就是一个综合运用,体现…