大流量网站的底层系统架构

news/2024/5/12 15:06:28/文章来源:https://blog.csdn.net/weixin_34361881/article/details/94575281

from:http://chenge.diandian.com/post/2011-10-30/6366412

 

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l Web前 端系统

l 负 载均衡系统

l 数 据库集群系统

l 缓 存系统

l 分 布式存储系统

l 分 布式服务器管理系统

l 代 码分发系统

Web前端系统

结构图:

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Nginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统



负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5) 数据库服务器和应用服务器分离。

6) 从数据库使用BigIP做负载均衡。

缓存系统



缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、 减轻对数据库及存储集服务器的访问压力

3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图: 

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

转载于:https://www.cnblogs.com/94cool/archive/2011/11/04/2235673.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_789800.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Windows Azure 和必应地图通过交互的网站将Speilberg的“War Horse”的历史带进生活...

Steven Spielberg的最新电影War Horse 讲述了一匹马前往第一次世界大战时的佛兰德斯战场的行军之路。为了帮助宣传影片并将该历史带到现实中来,Shoothill 的英国开发人员开发了这个网站——The War Horse Journey。使用Deep Zoom 技术、必应地图和Windows Azure&…

切图网——用html5建站的10大好处

2019独角兽企业重金招聘Python工程师标准>>> 我相信你听说过网站建设,但是你听说过html5网站建设吗? 据调查99%的人都不理解html5网站建设的概念。这类似于90%的人都不知道5d电影的概念一样。 html5建站是用到了最新的html5技术和 一系列htm…

关于Vue中对所做网站ico的解决办法

今儿在做项目中,老大让处理一下网站图标对问题(之前自己网站没有ico)。 由于自己的网站是用vue进行开发的。所以必须考虑到如何用vue进行解决。 第一 我们得先找到一个制作网站ico的网站,在这里我就先给大家提供一个吧&#xf…

公司网站被挂马后的处理

2019独角兽企业重金招聘Python工程师标准>>> 昨天公司网站所有php代码文件被植入一段代码,代码的含义是将从bing和google过来的ip跳转到指定的网址,因为其中没有百度,估计是国外黑客所为。黑客,这个词听起来就让人很激…

jiathis:社交化数据分析 帮助网站提高流量

随着微博的兴起,社会化营销逐渐走进我们的生活,不管是杜蕾斯微博事件还是最近在小米大战360,都是在社会化平台上面进行,而 如何方便的将网站内 容分享至社会化媒体,,大部分博主会选择工具,但选择…

小白node怎么做网站_用nodejs做网站 - 3

开始之前我第干种用大是使处来框这它段观开有个理和近先介绍几款工具,这几款工具会在接下来用到。他们会帮我们处理很多无聊的操能调页代事求都学是功发解开宗这维视如间请前框来总在行回断元随来以4移和泉果动作。nodemo遇新是直朋能到nN是和搭屏一以近一的框蔽款让…

【转载】网站性能优化的34条黄金守则

2019独角兽企业重金招聘Python工程师标准>>> Yahoo!的 Exceptional Performance团队为改善 Web性能带来最佳实践。他们为此进行了一系列的实验、开发了各种工具、写了大量的文章和博客并在各种会议上参与探讨。最佳实践的核心就是旨在提高网站性能。 原文地址&#…

网站上传到服务器需要上传数据库,网站上传到服务器需要上传数据库

网站上传到服务器需要上传数据库 内容精选换一换本章节指导您使用MongoDB客户端,通过内网连接集群实例。通过MongoDB客户端连接实例的方式有普通连接和SSL连接两种,其中SSL连接通过了加密功能,具有更高的安全性。为了提升数据在网络传输过程中…

常用REHL RPM包搜索网站

2019独角兽企业重金招聘Python工程师标准>>> RPM包搜索网站 http://rpm.pbone.net/ http://www.rpmfind.net/ http://www.rpmseek.com http://www.sourceforge.net http://search.cpan.org/ 转载于:https://my.oschina.net/longhtml/blog/157318

推荐:学习unity Shader必须知道的网站Shadertoy

shadertoy几乎是shader大神的最爱,里面充斥着各种数学和烧脑模式,上面的所有效果都是纯手写出来的,而且有GLSL的源码 点开每个效果,都有相应的源码,可以根据一定的规则转换成unity所使用的shader代码,具体的…

网站性能优化

2019独角兽企业重金招聘Python工程师标准>>> 虽然网站优化在这个话题有点大,我只能从自己的一些理解分享一些自己对于网站优化的意见。 一: 首先,我们在优化网站之前我们要搞清楚我们的一个基本的上网流程。 上网的过程不管多么复…

Azure 网站和通配符域

本文章由Azure 网站团队软件开发工程师Michael Candido 撰写 一些 Web 应用程序需要使用多个子域,在某些情况下还需要动态添加新的子域。例如,一个多租户 Web 应用程序可使每个用户拥有自己的域, 用于表达属于个人的内容流或仪表…

磁盘坏道怎么检查 linux,磁盘坏道的处理_Linux教程_Linux公社-Linux系统门户网站

因为badblocks只是检测坏道,然后在日志文件中标记出坏道的信息,并不会对坏道进行处理,如果希望在检测磁盘时也能跳过这些坏块不检测,可以使用fsck的-l参数。badblocks -b 4096 -c 16 /dev/sda1 -o sda-badblocks-list 使用这个对坏…

一个网站自动化测试程序的设计与实现

2019独角兽企业重金招聘Python工程师标准>>> CSDN博客不再经常更新,更多优质文章请来 粉丝联盟网 FansUnion.cn! (FansUnion) 代码 下载地址:http://download.csdn.net/detail/fansunion/5018357(免积分) 代码亮点:可读性很好…

java 数组批量赋值_「数组赋值」java编程-定义数组并赋值 - seo实验室

数组赋值package day03;public class TestArray {public static void main(String [] args) {int [] b;b new int[] {88,99,66}; //分步定义数组,先定义数组名,然后再为数组赋值int [] d {88,99,100}; //直接定义数组,同时赋值System.out.p…

网站服务器历史解析记录查询,域名解析ip历史查询

域名解析ip历史查询 内容精选换一换当您想在Internet上通过域名访问您的网站时,可以通过华为云的云解析服务为域名添加解析记录。例如,搭建一个网站服务器,采用IPv4格式的弹性IP地址。如果想要实现通过域名“example.com”及其子域名“www.ex…

第二章 Web网站服务(二)——搭建基于域名的虚拟web主机

防伪码:自古逢秋悲寂寥,我言秋日胜春朝web网站服务(二)一、httpd服务的访问控制作用:a、控制对网站资源的访问b、为特定的网站目录添加访问授权常用访问控制方式:a、客户机地址限制b、用户授权限制二、基于…

别再问我做一个网站多少钱了!

「一辆车子多少钱?一个房子多少钱?」 这问题在工程师或设计师的眼里就如「一辆车子多少钱?一个房子多少钱?」,这个问题实在空泛到一个让人无法言语的境界,这也是我最常被问到的问题「做一个网站多少钱?」。…

网站特效:欢迎窗口/发表评论

网站特效做前你需要考虑的东西①你需要的效果&#xff1b;②HTML基础排版&#xff1b;③css添加样式&#xff1b;④javascript添加效果&#xff1b;一、欢迎窗口HTML代码&#xff1a;在body里面添加代码&#xff1a;<body><div id"right"><div id&quo…

网站通过百度地图api定位网友所在城市

2019独角兽企业重金招聘Python工程师标准>>> 在网站里&#xff0c;定位网友所在城市有两种方法 方法一&#xff1a; 获取访客ip 然后通过 纯真QQip地址库查询出ip对应的城市&#xff1b; 这个方法&#xff0c;因为ip地址的不规范和 ip库的更新不及时&#xff0c;导致…