大流量网站的底层系统架构

news/2024/5/9 15:21:58/文章来源:https://blog.csdn.net/weixin_34419321/article/details/91559158

为什么80%的码农都做不了架构师?>>>   hot3.png

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。


  大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。
      大型动态应用系统又可分为几个子系统:


   l Web前 端系统
       l 负 载均衡系统
       l 数 据库集群系统
       l 缓 存系统
       l 分 布式存储系统
       l 分 布式服务器管理系统
       l 代 码分发系统

      Web前端系统

      结构图:

14084925_pqsR.jpg

  为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统基于Apache/Lighttpd/Eginx等 的虚拟主机平台,提供PHP程序运行环境。服务器对开发人员是透明的,不需要开发人员介入服务器管理

  负载均衡系统:

14084925_O5Bc.jpg

  负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

  数据库集群系统

  结构图:

14084925_MyRO.jpg

  由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

  我们可以采用如上图所示的方案:

  1) 使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

  2) 使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

  3) 写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

  4) 读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

  5) 数据库服务器和应用服务器分离。

  6) 从数据库使用BigIP做负载均衡。

  缓存系统

14084925_CVzv.jpg

  缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

  1、 使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

  2、 减轻对数据库及存储集服务器的访问压力

  3、Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

  分布式存储系统

  结构图:

14084925_k87E.jpg

  WEB系统平台中的存储需求有下面两个特点:

  1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

  2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

  因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

  分布式服务器管理系统

  结构图:

14084925_8gkb.jpg

  随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

  在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

  有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

  代码发布系统

  结构图: 

14084925_nCqm.jpg

  随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

  这个发布系统可以帮我们实现下面的目标:

  1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

  2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

  3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

  这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。


转载于:https://my.oschina.net/i33/blog/95761

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_794465.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

windows8 安装IIS 和 添加网站(转)

Internet Information Services(IIS,互联网信息服务),是由微软公司提供的基于运行Microsoft Windows的互联网基本服务。最初是Windows NT版本的可选包,随后内置在Windows 2000、Windows XP Professional和Windows Serv…

如何在IIS6,7中部署ASP.NET网站

原文地址为: 如何在IIS6,7中部署ASP.NET网站在我的第一篇博客中,我发布过一个示例项目,主要演示了我的我的AJAX框架和我的通用数据访问层。虽然在当初我认为我已考虑地比较周全了,而且还提供了足够的说明文档,但在发布…

我设计的网站的分布式架构

原文地址为: 我设计的网站的分布式架构互联网的网站和大部分企业管理软件一样都是使用B/S架构模型,但是大型的公共网站B/S架构会更加复杂,对架构人员的要求更高,今天我想在自己博客里聊聊我设计的网站的B/S技术架构。 不管是B/S架…

Python+Django+Eclipse 在Windows下快速开发自己的网站

原文地址为: PythonDjangoEclipse 在Windows下快速开发自己的网站一、配置开发环境 我的开发环境是:Python3.3.2 Django1.5.2 Eclipse 1、安装Python 下载地址:http://www.python.org/getit/ 安装完成后为了方便可以配置下环境变量&…

大型网站架构不得不考虑的10个问题

2019独角兽企业重金招聘Python工程师标准>>> 这里的大型网站架构只包括高互动性高交互性的数据型大型网站,基于大家众所周知的原因,我们就不谈新闻类和一些依靠HTML静态化就可以实现的架构了,我们以高负载高数据交换高数据流动性的…

万网稳居国内域名网站榜首 西部数码跃居第二

据国际统计机构Alexa公布的最新数据显示,4月第二周(4月9日-4月15日),国内域名主机网站覆盖率最高的仍旧是中国万网,达 1730。西部数码跃居第二,达620。易名中国跌至第三,达570。下面&#xff0c…

MYSQL数据库自动本地/异地双备份/MYSQL增量备份[连载之构建百万访问量电子商务网站]...

MYSQL数据库自动本地/异地双备份/MYSQL增量备份[连载之构建百万访问量电子商务网站]出处:http://jimmyli.blog.51cto.com/我站在巨人肩膀上Jimmy Li 作者:Jimmy Li 关键词:网站,电子商务,Shell,自动备份,异地备份 ------[连载之电子商务系统架…

网站备案流程

网站备案的备案流程 1、阿里备案的登录账号和阿里服务器的账号不是同一个,需要重新注册 2、账号注册成功后重新登录进入,填写企业资料(如果是个人备案填写个人资料) 3、填写产品信息 4、填写主体信息 5、填写网站信息,…

网站侵权处理案例

一个案例,和你的情况得很相像,看一下。很长,但详细。从中国网页第一侵权案看网络纠纷的管辖权问题原告:瑞得(集团)公司被告:东方信息服务公司(简称东方公司) 〔案情介绍〕…

Screenfly – 各种设备的屏幕和分辨率下快速测试网站

Screenfly 让你能够在各种设备的屏幕和分辨率下查看你的网站。输入网址,并点击GO开始浏览网页。Screenfly 可以使用代理服务器来模拟设备,当您查看您的网站,代理服务器模仿您所选择的设备的用户代理字符串。 您可能感兴趣的相关文章特别推荐&…

如何解决Chrome首页被流氓网站劫持的问题?

如何解决Chrome首页被流氓网站劫持的问题? 点击这里查看解决流氓网站劫持的方法。 以上方法解决不了,参考以下的 通过chrome://view 查看命令行处是否有异常网址,如果有可能考虑如下方式解决 Chrome命令行参数畅谈(一) 命令行…

SharePoint 2013 图文开发系列之网站栏

转载自:http://www.cnblogs.com/jianyus/p/3463880.html 网站栏的本质,就是一个xml的描述文件,所以创建过程,基本就是通过Feature部署一个Xml文件,然后修改Xml文件的网站栏描述。 1、添加新项目,选择ShareP…

大型网站架构演进(5)数据库读写分离

在使用缓存后,使大部分的数据读操作访问都可以不通过数据库就能完成,但是仍有一部分读操作(包括未命中缓存的,和缓存过期的)和全部的写操作需要访问数据库,当网站的访问量继续增加后,数据库会因为负载压力过高导致成为…

教你如何创建一个免费的网站

小编先声明一下,我并不是来做广告的!作为一个初学者,刚刚摸索出来一些经验想要拿来跟大家分享罢了!希望能帮助到那些想要做网站的亲们。算是分享一些我个人的经验吧。 PS:现在主机屋已经不提供免费空间服务了&#xff…

Vue.js+express建站

网站基本架构: 基本的CS架构,开发时使用本地服务器,数据库使用云服务器的数据库,方便共享数据,上线时可配置服务器到云服务器。 技术栈: Vue.js: 前端开发框架:响应式数据绑定和组件化开发&…

阿里云、宝塔、wordpress建站

1 阿里云 购买一个学生机就行啦 2 宝塔 2.1 更改阿里云的镜像 技巧01:先关掉阿里云之前的镜像 技巧02:到镜像市场中寻找宝塔的镜像资源 2.2 配置安全组 宝塔的控制面板需要开通端口 8888,所以需要到安全组中去配置端口 2.3 登陆宝塔控制面板 …

大型网站技术架构(五)--网站高可用架构(转)

网站的可用性(Avaliability)描述网站可有效访问的特性。 1、网站可用性的度量与考核 网站不可用时间(故障时间)故障修复时间点-故障发现(报告)时间点 网站年度不可用时间(1-网站不可用时间/年度…

站长,不要忘了你的网站是做什么的

随着互联网技术的发展,大大小小的实体行业进入到互联网,站点竞争进入了前所未有的“革命时代”,越来越多的站点了解并熟悉SEO技术,各个行业的站点流量拼抢到达了一种狂热。对搜索引擎是越来越了解并且熟悉其排名模式。如果今天你跟…

django搭建一个小型的服务器运维网站-拿来即用的bootstrap模板

目录 项目介绍和源码;拿来即用的bootstrap模板;服务器SSH服务配置与python中paramiko的使用;用户登陆与session;最简单的实践之修改服务器时间;查看和修改服务器配置与数据库的路由;基于websocket的实时日志实现&#…

主题网站

主题网站一般国外的多一些 国内的大多也不是原创。都是从国外的网站DOWN来的 先是几个网络硬盘的连接主题很多 http://alexjitaojun.ys168.com/ http://alexjitaojun1.ys168.com/ http://asca.ys168.com/ 1:国内网站 http://www.gznat.com/ http://www.enet.com.cn…