大流量网站的底层系统架构

news/2024/5/9 11:56:01/文章来源:https://blog.csdn.net/weixin_33697898/article/details/85882000

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l Web前 端系统

l 负 载均衡系统

l 数 据库集群系统

l 缓 存系统

l 分 布式存储系统

l 分 布式服务器管理系统

l 代 码分发系统

Web前端系统

结构图:

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Nginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统

负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5) 数据库服务器和应用服务器分离。

6) 从数据库使用BigIP做负载均衡。

缓存系统

缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、 减轻对数据库及存储集服务器的访问压力

3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图: 

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

原文出处:http://chenge.diandian.com/post/2011-10-30/6366412

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_713301.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

揭秘全球最大网站 Facebook 背后应用软件

2010年6月,Google公布全球Top 1000网站。Facebook独占鳌头。以Facebook现在的经营规模,诸多传统服务器的技术均将崩溃或根本无法支撑。那么面对5亿的活跃用户,Facebook的工程师们又将如何让网站平稳运转呢?这篇文章将展示Facebook…

不错的网站

2019独角兽企业重金招聘Python工程师标准>>> 翻墙: http://ss.ishadowx.com/index_cn.html https://doub.io/sszhfx/ https://freessr.xyz/ verydemo:http://www.verydemo.com/ demo大师:http://www.demodashi.com/search.html 酷…

网站性能优化

1、尽量减少HTTP请求次数 终端用户响应的时间中,有80%用于下载各项内容,这部分时间包括下载页面中的图像、样式表、脚本、Flash等。通过减少页面中的元素可以减少HTTP请求的次数,这是提高网页速度的关键步骤。 减少页面组件的方法其实就是简化…

Clouder专项技能认证课程:网站建设——部署与发布

2019独角兽企业重金招聘Python工程师标准>>> 课程介绍 Clouder-ACP专项技能认证:网站建设 建站认证可以帮助学员掌握如何将一个本地已经设计好的静态网站发布到Internet公共互联网,通过自己的域名让全世界的网民访问到&#xff0c…

NSURLSession访问HTTPS网站

2019独角兽企业重金招聘Python工程师标准>>> -(void)touchesBegan:(NSSet<UITouch *> *)touches withEvent:(UIEvent *)event {NSString *str "https://www.baidu.com";NSURL *url [NSURL URLWithString:str];NSURLSession *session [NSURLSessi…

【大型网站技术实践】初级篇:海量图片的分布式存储设计与实现

说明&#xff1a;本文是我阅读计算机工程期刊《海量图片的分布式存储及负载均衡研究》一文的学习笔记和具体实践&#xff0c;原文地址在本文底部。 一、研究背景&#xff1a;性能与资金&#xff0c;二者可兼得乎&#xff1f; 1.1 那么问题来了&#xff1f; 随着互联网的发展&am…

HTML CSS设计与构建网站

《HTML & CSS设计与构建网站》基本信息原书名&#xff1a; HTML and CSS: Design and Build Websites原出版社&#xff1a; Wiley作者&#xff1a; (美)Jon Duckett [作译者介绍]译者&#xff1a; 刘涛 陈学敏出版社&#xff1a;清华大学出版社ISBN&#xff1a;97873023110…

thinkphp5项目--企业单车网站(二)

thinkphp5项目--企业单车网站&#xff08;二&#xff09; 项目地址 fry404006308/BicycleEnterpriseWebsite: Bicycle Enterprise Websitehttps://github.com/fry404006308/BicycleEnterpriseWebsite 一、数据库表前缀 配置数据库表前缀 二、控制器中方法的两种功能 1、返回页面…

机器学习(3)——K-近邻算法改进约会网站的配对效果实例

基本概念 利用K-近邻算法对约会网站中匹配对象进行快速归类。基本思路步骤 手机数据&#xff1a;提供文本文件&#xff1b;准备数据&#xff1a;使用Python解析文本文件&#xff1b;分析数据&#xff1a;使用Matplotlib画二维扩散图&#xff1b;训练算法&#xff1a;设计分类算…

普通网站防暴力破解的新设计

前端防暴力破解的一个设计 Demo 地址 https://github.com/GitHub-Laz... 描述 传统的防范暴力破解的方法是在前端登录页面增加验证码, 虽然能有一定程度效果, 但是用户也跟着遭罪, 验证码越复杂, 用户登录的失败率越高 于是最近我想了一个新的设计, 前端在登录时采用解密的方式…

电商网站商品图片放大镜实现

2019独角兽企业重金招聘Python工程师标准>>> 提供两种实现方式。 ① margin-left、margin-top方式实现。 ②clip方式实现。 事件统一使用委托机制&#xff0c;即冒泡原理。 方式一 外边距实现 请记得将图片放进去 <!DOCTYPE HTML> <html><head>&l…

招聘网站数百万条敏感数据泄露,简历、×××扫描件统统曝光

据外媒报道&#xff0c;国际网络安全咨询公司HackenProof的安全专家在2018年12月21日发现了另一个没有得到很好保护的Elasticsearch集群&#xff0c;其中包含数百万非常敏感的数据记录。从索引的名称来看&#xff0c;它的所有者毫无疑问就是MisterTemp。这是一家法国临时工招聘…

使用k-近邻算法改进约会网站的配对效果

2.2  使用k-近邻算法改进约会网站的配对效果 Helen交往过三种类型的人&#xff1a; 不喜欢的人 魅力一般的人 极具魅力的人 示例&#xff1a;在约会网站上使用k-近邻算法 &#xff08;1&#xff09;收集数据&#xff1a;提供文本文件&#xff1b; datingTestSet2.txt链接  …

免费的UI素材网站

分享一个免费的UI素材网~ 国外的一个网站&#xff0c;可以通过关键字找到需要的UI https://www.flaticon.com/search?wordUI

分享一个很棒的免费壁纸网站

wallpapers&#xff0c;里面的壁纸都是免费的&#xff0c;而且都是质量很高的图片&#xff0c;可以用来做电脑壁纸&#xff0c;和用在软件ui上~ 可以直接右键保存图片 网站地址&#xff1a;https://wallhaven.cc/ 8K壁纸&#xff0c;像素很高&#xff0c;用在ui上建议压缩 下…

推荐一个免费绘制软件架构图的网站

GitMind 这个网站里可以绘制MarkDown的一些图形&#xff0c;不同于MarkDown的区别在于它是可视化的&#xff0c;用起来也比较简单。 如下图是我绘制的软件架构图&#xff1a;

html5标签 不可修改,SEO优化不可忽视的5个Html代码标签

SEO优化不可忽视的5个Html代码标签&#xff1a;1.Title 标签Title 标签是告诉搜索引擎网页内容的主题&#xff0c;一直是搜索引擎的抓取重点。通常&#xff0c;搜索引擎抓取Title标签出于两个目的&#xff1a;作为影响网页排名的重要因素和作为搜索结果页面的显示信息。不管是哪…

纯HTML+CSS网页设计期末作业(个人网站)

目录纯HTMLCSS网页设计期末作业&#xff08;个人网站&#xff09;源码链接效果展示index 页面about 页面hobbies 页面书籍介绍页面元曲介绍页面源码index.htmlindex.cssabout.htmlhobbies.htmlhobbies.cssme.htmlme.cssbook1.htmlbook.cssyuanqu.htmlyuanqu.css缺陷纯HTMLCSS网…

页面布局让footer居页面底部_网站页面结构与关键词布局技巧

网站页面布局的优化是搜索引擎优化的重要组成部分&#xff0c;也是网站关键词排名能否进入百度前三页甚至首页的关键&#xff0c;那么&#xff0c;网站布局优化怎么做更有利于排名?关于这点&#xff0c;我们分几点来讲解、搜索引擎优化一、网站站内结构布局1、网站代码优化布局…

wap建站程序源码_角点科技:企业搭建网站选择建站公司需要注意什么?

企业搭建网站选择网站建设公司需要注意些什么&#xff1f;&#xff1f;现在很多企业都看到了网站的重要性&#xff0c;开始准备搭建企业网站&#xff0c;但是却不知道怎么样才能选择到一家专业且正规的网站建设公司&#xff0c;下面小编就来和你分享选择网站建设公司的小技巧&a…