大流量网站的底层系统架构

news/2024/5/20 20:31:21/文章来源:https://blog.csdn.net/iteye_18051/article/details/82201316

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l Web前 端系统

l 负 载均衡系统

l 数 据库集群系统

l 缓 存系统

l 分 布式存储系统

l 分 布式服务器管理系统

l 代 码分发系统

Web前端系统

结构图:

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Nginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统



负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5) 数据库服务器和应用服务器分离。

6) 从数据库使用BigIP做负载均衡。

缓存系统



缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、 减轻对数据库及存储集服务器的访问压力

3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

原文出处:http://chenge.diandian.com/post/2011-10-30/6366412

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_854294.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2015进口跨境电商网站大全

常用跨界电商企业网址跨境电商其它平台: 跨境电商其它跨境电商资讯类跨境电商有线下店

[译]MVC网站教程(四):MVC4网站中集成jqGrid表格插件(系列完结)

目录 1. 介绍 2. 软件环境 3. 在运行示例代码之前(源代码 示例登陆帐号) 4. jqGrid和AJAX 5. GridSettings 6. GridModelBinder 7. LinqExtensions 8. 数据实体类和LINQ 9. 在…

读书笔记:《大型网站系统与Java中间件实践》

文章目录大型网站演进数据库读问题写问题应用应对的挑战引入服务层框架:多机房问题序列化与反序列化问题异步调用线程池隔离服务请求合并数据访问层一致性的基础理论--CAP/BASE多机的Sequence问题消息中间件功能消息一致性避免对消息中间件的强依赖级联、嵌套topic/…

密评必备网站汇总

1、国密SSL实验室 网址:https://gmssl.cn/gmssl/index.jsp 推荐理由:提供很多密码相关工具 2、商用密码认证业务网 网址:http://service.scctc.org.cn/cer/cerall/list-c38.html 推荐理由:提供很多密码产品认证查询&#xff0…

乞讨网站,要饭网,个人要饭网,在线要饭网站;含socket 通信;双端支付源码 ;源码

展示站点:www.gaodc.site; 样式动态控制,因为快过年了所以是过年主题; 主要技术 springmvc websocket bootstrap jq 阿里支付 微信支付 ;源码请邮件;仅供交流; 截图

配置静态地址转换------发布公司内网网站到互联网上

拓扑图如下: 第1步:配置路由器R1启用的端口信息 Router>en Router#conf t Enter configuration commands, one per line. End with CNTL/Z. Router(config)#host R1 R1(config)#int fa0/0 R1(config-if)#ip add 192.168.10.1 255.255.255.0 R1(confi…

web网站添加ico图标

上线的网站都会配置ico,红框位置的图标 配置方法: 1、选择一张正方形的图片 2、打开ico在线制作网站,我推荐 https://www.bitbug.net/ 3、上传图片,并选择ico大小 4、生成好的图片浏览器会自动下载到本地,将图片命…

关于某些网站的图片盗链功能,相关http 请求的解决方法

其实 关键就是 header中 的 Referer 属性,可以通过firebug 查看头信息 并获得Referer,但有些情况下可能不能获取,就只能通过抓包的方法来获得了。 [java] view plaincopy print?import java.io.BufferedInputStream; import java.io.Buffer…

技术网站

联合主办 IT168(http://www.it168.com/) 中国最具影响力和权威的IT导购、应用资讯专业网站。创立于1999年,为个人和企业进行IT产品购买及应用提供服务,在用户群体中拥有极高知信度和忠诚度。 旗下支持媒体:China Unix…

技术网站

联合主办 IT168(http://www.it168.com/) 中国最具影响力和权威的IT导购、应用资讯专业网站。创立于1999年,为个人和企业进行IT产品购买及应用提供服务,在用户群体中拥有极高知信度和忠诚度。 旗下支持媒体:China Unix…

新建 SharePoint 网站集

进入管理中心,主菜单选择“服务设置”选项卡,此菜单选择SharePoint Online 点击网站集的“新建”按钮,看到新建ShartPoint Online网站集对话框 填写一些信息 然后点击“创建” 创建完成将得到以后界面提示 然后将在网站集列表中看到网站集列…

《大型网站技术架构:核心原理与案例分析》

大型网站架构演化大型网站软件系统的特点大网站架构演化发展历程初始阶段的网站架构应用服务和数据服务分离使用缓存改善网站性能使用应用服务器集群改善网站的并发处理能力数据库读写分离使用反向代理和CDN加速网站响应使用分布式文件系统和分布式数据库系统使用NoSQL和搜索引…

零基础网站建设 wordpress建站 wordpress安装(图文详解)

一、安装wordpress前的装备工作: 1、腾讯购买域名;进入域名控制台,进行域名实名认证; 2、购买服务器,提交备案申请。本文以百度云服务器为例。 二、安装wordpress: 1、下载FTP工具并安装:Fi…

那些堪称软件神器的工具或网站

转载:http://blog.sina.com.cn/s/blog_7f5571aa0102vvvs.html 那些堪称软件神器的工具或网站维棠 - 全新的视频体验:秒杀各类视频网站(去找第三方做的绿色版吧……官方广告太多了)。 Internet Download Manager: the fastest down…

6款强大的jQuery插件 创建和加强网站布局

Javascript打开了web设计的大门,给了Html和CSS更宽广的舞台。HTML5和CSS3又比从前进步了一大截。神奇的根源来自 JavaScript,它可以向你的网站布局中加入交互元素。以jQuery Masonry为例,它转换常规的布局,到一个真正的动态布局&a…

为你的网站介绍10个非常有用的jQuery插件

本文介绍的插件涉及图像、paypal支付、分页、导航等方面的内容。 1.AJAX-ZOOM 图像缩放 & Pan Gallery, 360 对象旋转 (Spin), 全屏视图. 在线演示 here . 2.(mb) verticalSlider 显示长列表的绝佳方式,在线演示 here . 3.More plugin 该插件主要用于评论…

漫谈网站开发规范

任何一个项目或者系统开发之前都需要定制一个开发约定和规则,这样有利于项目的整体风格统一、代码维护和扩展。由于Web项目开发的分散性、独立性、整合 的交互性等,所以定制一套完整的约定和规则显得尤为重要。本文档将定制一系列约定和规则,…

21个为您的网站和博客提供的免费视频播放器

很多设计师在都会在他们的网站使用视频播放器 。在线视频播放器无需为简单的用户和Web开发人员提供过多的介绍,它简单易用,为您建站时提供了灵活性和创造性,您可以添加无限数量的视频,并根据你的想法安排它们的专辑标题、艺术家的…

国外15个免费网页模板下载的集合网站

一个优秀且免费的网页模板对设计者的意义不用多说,不但可以节约我们大量的时间提高我们的设计效率,更为我们省下一些模板费用,更进一步我们还可以通过这些网页模板源文件提高我们的设计水平。下面与大家分享的是精选国外15个免费网页模板下载…

为Web前端开发者准备的免费PSD资源网站

是不是你也同样有过这样的经历,需要免费PSD的时候找不到,不需要的时候又常常能够看到,今天我们将要分享一堆免费下载PSD文件的资源性网站,相信一定能够帮助你加快你的设计和开发。 1. Dribbble PSD Search Dribbble毫无疑问是最大…