大流量、高并发的网站的底层系统架构

news/2024/5/19 13:30:24/文章来源:https://blog.csdn.net/weixin_33692284/article/details/90614935

动态应用,是相对于网站静态内容而言, 是指以c/c++、php、Java、perl、.net等 服务器端语言开发的网络应用软件,比如论坛、网络相册、交友、BLOG等常见应用。动态应用系统通 常与数据库系统、缓存系统、分布式存储系统等密不可分。

大型动态应用系统平台主要是针对于大流 量、高并发网站建立的底层系统架构。大型网站的运行需要一个可靠、安全、可扩展、易维护的应用系统平台做为支撑,以保证网站应用的平稳运行。

大型动态应用系统又可分为几个子系统:

l         Web前 端系统

l         负 载均衡系统

l         数 据库集群系统

l         缓 存系统

l         分 布式存储系统

l         分 布式服务器管理系统

l         代 码分发系统

Web前端系统

结构图:

 

 

为了达到不同应用的服务器共享、避免单点故障、集中管理、统一配置等目的,不以应用划分服 务器,而是将所有服务器做统一使用,每台服务器都可以对多个应用提供服务,当某些应用访问量升高时,通过增加服务器节点达到整个服务器集群的性能提高,同 时使他应用也会受益。该Web前端系统 基于Apache/Lighttpd/Eginx等 的虚拟主机平台,提供PHP程序运行环境 。服务器对开发人员是透明的,不需要开发人员介入服务器管理

负载均衡系统

 

 

 

负载均衡系统分为硬件和软件两种。硬件负载均衡效率高,但是价格贵,比如F5等。软件负载均衡系统价格较低或者免费,效率较硬件负载均衡系统 低,不过对于流量一般或稍大些网站来讲也足够使用,比如lvs,nginx。大多数网站都是硬件、软件负载均衡系统并用。

数据库集群系统

结构图:

 

 

 

由于Web前端采用了负载均衡集群结构提高了服务的有效性和扩展性,因此数据库必须也是高可靠的才能保证整个服务体系的高可靠性,如何构建一个高可靠的、可以提供大规模并发处理的数据库体系?

我们可以采用如上图所示的方案:

1)        使用 MySQL 数据库,考虑到Web应用的数据库读多写少的特点,我们主要对读数据库做了优化,提供专用的读数据库和写数据库,在应用程序中实现读操作和写操作分别访问不同的数据库。

2)        使用 MySQL Replication 机制实现快速将主库(写库)的数据库复制到从库(读库)。一个主库对应多个从库,主库数据实时同步到从库。

3)        写数据库有多台,每台都可以提供多个应用共同使用,这样可以解决写库的性能瓶颈问题和单点故障问题。

4)        读数据库有多台,通过负载均衡设备实现负载均衡,从而达到读数据库的高性能、高可靠和高可扩展性。

5)        数据库服务器和应用服务器分离。

6)        从数据库使用BigIP做负载均衡。

缓存系统

 

 

 

缓存分为文件缓存、内存缓存、数据库缓存。在大型Web应用中使用最多且效率最高的是内存缓存。最常用的内存缓存工具是Memcachd。使用正确的缓存系统可以达到实现以下目标:

1、   使用缓存系统可以提高访问效率,提高服务器吞吐能力,改善用户体验。

2、   减轻对数据库及存储集服务器的访问压力

3、 Memcached服务器有多台,避免单点故障,提供高可靠性和可扩展性,提高性能。

分布式存储系统

结构图:

 

 

 

WEB系统平台中的存储需求有下面两个特点:

1) 存储量很大,经常会达到单台服务器无法提供的规模,比如相册、视频等应用。因此需要专业的大规模存储系统。

2) 负载均衡cluster中的每个节点都有可能访问任何一个数据对象,每个节点对数据的处理也能被其他节点共享,因此这些节点要操作的数据从逻辑上看只能是一个整体,不是各自独立的数据资源。

因此高性能的分布式存储系统对于大型网站应用来说是非常重要的一环。(这个地方需要加入对某个分布式存储系统的简单介绍。)

分布式服务器管理系统

结构图:

 

 

 

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,原来基于单机的服务器管理模式已经不能够满足我们的需求,新的需求必须能够集中式的、分组的、批量的、自动化的对服务器进行管理,能够批量化的执行计划任务。

在分布式服务器管理系统软件中有一些比较优秀的软件,其中比较理想的一个是 Cfengine。它可以对服务器进行分组,不同的分组可以分别定制系统配置文件、计划任务等配置。它是基于C/S 结构的,所有的服务器配置和管理脚本程序都保存在Cfengine Server上,而被管理的服务器运行着 Cfengine Client 程序,Cfengine Client通过SSL加密的连接定期的向服务器端发送请求以获取最新的配置文件和管理命令、脚本程序、补丁安装等任务。

有了Cfengine 这种集中式的服务器管理工具,我们就可以高效的实现大规模的服务器集群管理,被管理服务器和 Cfengine Server 可以分布在任何位置,只要网络可以连通就能实现快速自动化的管理。

代码发布系统

结构图:

 

 

随着网站访问流量的不断增加,大多的网络服务都是以负载均衡集群的方式对外提供服务,随之集群规模的扩大,为了满足集群环境下程序代码的批量分发和更新,我们还需要一个程序代码发布系统。

这个发布系统可以帮我们实现下面的目标:

1) 生产环境的服务器以虚拟主机方式提供服务,不需要开发人员介入维护和直接操作,提供发布系统可以实现不需要登陆服务器就能把程序分发到目标服务器。

2) 我们要实现内部开发、内部测试、生产环境测试、生产环境发布的4个开发阶段的管理,发布系统可以介入各个阶段的代码发布。

3) 我们需要实现源代码管理和版本控制,SVN可以实现该需求。

这里面可以使用常用的工具Rsync,通过开发相应的脚本工具实现服务器集群间代码同步分发。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_760376.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

手机站SEO优化需要外链吗

移动网站对于市场来说,也不是什么新鲜事情了。现在也越来越多的企业客户,更加关注企业网站的搜索效果。 甚至愿意为了网站的移动搜索优化效果,愿意再单独支付费用。也就是PC理PC的,移动理移动的。 百度官方上关于移动网站的基础建…

关于WordPress建站的原理二三事

2019独角兽企业重金招聘Python工程师标准>>> 在写关于仿站文章详情页如何制作之前,我觉得有必要就一些原理性的问题,做一些说明。文章详情页的核心模块和首页有很多相似的地方,比如调用文章的标题、文章的内容、文章分类、作者等&…

大型网站的 HTTPS 实践(一)—— HTTPS 协议和原理

详见:http://blog.yemou.net/article/query/info/tytfjhfascvhzxcyt387 1 前言 百度已经于近日上线了全站 HTTPS 的安全搜索,默认会将 HTTP 请求跳转成 HTTPS。本文重点介绍 HTTPS 协议, 并简单介绍部署全站 HTTPS 的意义。 2 HTTPS 协议概述 HTTPS 可以…

大型网站架构之分布式缓存

缓存是优化网站性能的第一手段。在大型网站中,缓存通常用来保存热点数据,或者保存应用上下文相关信息。比如之前提到的session服务器集群就可以用分布式缓存来搭建。当然,分布式缓存还可用于缓存数据库中的热点数据以减轻数据库的压力。 分布…

屏蔽网站广告插件:广告终结者

1. 上网站: http://www.adtchrome.com/ Chorme下载地址: http://www.adtchrome.com/%E5%B9%BF%E5%91%8A%E7%BB%88%E7%BB%93%E8%80%853.1.4.rar 2. 进入chrome扩展程序设置界面: 3. 将解压后的插件文件拖入此界面即可。 4. 后面再打开网页&a…

解读大型网站系统架构的演化

前言一个成熟的大型网站(如淘宝、京东等)的系统架构并不是开始设计就具备完整的高性能、高可用、安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式、技术架构、设计…

【转】高扩展性网站的50条原则

《高扩展性网站的50条原则》,利用一天半的时间快速浏览总结的电子书,对网站的建设有一个原则性的把握,书中提到的大部分原则现在已成为互联网行业的共识,但并不妨碍我们重新整理分类,从全局层面把控高扩展性网站的建设…

秒杀网站系统设计详解

2019独角兽企业重金招聘Python工程师标准>>> 最近总有一些朋友问高并发问题,后来就想自己把一个秒杀系统作为例子详细分解一下,也是一个学习过程。 首先假设场景,预计该活动可能有1万人参加,那最大并发数为1万。 主要面…

办公资源:你曾错过的PPT视频教程网站

身边有好多小哥哥,姐说不会制作PPT模板,怎么办呀?我想说不会就学嘛!可有人问了想学又不知道从哪里开始着手。诶呀!真是令人脑壳疼的问题。其实现在网络发展这么快了,网上随便搜索就会有很多PPT制作教学的课…

在 Windows 的 IIS 上部署 .net core 网站

参考: .net core 2.0学习笔记(二):部署到Windows和Liunx系统 - ZuQing - 博客园 使用 IIS 在 Windows 上托管 ASP.NET Core | Microsoft Learn 在 Visual Studio 2017 远程 IIS 计算机上的远程调试 ASP.NET Core 一、安装 SDK…

第一个在 Linux 下的 .net core 2.1 网站 ( Jexus )

制作最简单的 .net core Web应用程序 本文的主要目标是部署, 所以就不多在 Web 应用程序上赘述了, 如下图: 1. 用 VS 2017 创建 ASP.NET Core Web 应用程序项目 HelloCore: 2. 项目上右键生成, 再右键发布&#xff1a…

.net core 网站如何附加到进程 ?

.net core也用了一段时间了, 总觉得网站调试不方便, 直接 F5 运行不稳定,有时在网站输入验证码VS就直接退出了调试。于是改为附加进程,发布到 IIS 再来附加 dotnet 进程, 应用池名称都对上了, 打的断点还是…

.net core 网站 Linux 下部署 ( Docker )

参考:ASP.NET Core Docker部署 有改动。 一、docker 安装 见: https://blog.csdn.net/yenange/article/details/81703221 二、查找 dotnet 的镜像,拉取 https://hub.docker.com/ 下搜索 dotnet , 可以看到: 复制拉取…

大型网站HTTPS部署实践点拨

一、HTTPS简介 HTTPS(全称:Hyper Text Transfer Protocol over Secure Socket Layer)是以安全为目标的HTTP通道,简单讲是HTTP的安全版。HTTP协议传输的数据是未加密的明文,因此使用HTTP协议传输隐私信息非常不安全。为了保证隐私数据能加密传…

IIS10(WinServer2019自带)如何限制网站的流量带宽

网站多了,某个网站极大的下载带宽会挤压其它网站,导致其它网站访问困难。 所以,限制某个网站的带宽还是非常有必要的。 一、选中网站,点击右侧栏的“限制” 二、 弹出框中打上勾,并输入合适的数值。 实测&#xff…

大型网站架构之分布式消息队列(转)

以下是消息队列以下的大纲,本文主要介绍消息队列概述,消息队列应用场景和消息中间件示例(电商,日志系统)。 本次分享大纲 消息队列概述消息队列应用场景消息中间件示例JMS消息服务常用消息队列参考(推荐&am…

在线更新dede程序后 网站出现错误 DedeCMS Error:Tag disabled:php more...!

dedecms出现DedeCMS Error:Tag disabled:php原因解决 ------------------------------------------------------- dede做了一个小网站,近两个月连续被 别人 非法侵入 90sec.php \mybak.php ; 于是想着更新下dede程序到最新的版本 ,谁知道在…

转载: 使用vue全家桶制作博客网站 HTML5 移动网站制作的好教程

使用vue全家桶制作博客网站 前面的话 笔者在做一个完整的博客上线项目,包括前台、后台、后端接口和服务器配置。本文将详细介绍使用vue全家桶制作的博客网站 概述 该项目是基于vue全家桶(vue、vue-router、vuex、vue SSR)开发的一套博客前台页…

关于网站恶意注册会员

2019独角兽企业重金招聘Python工程师标准>>> 网站发生恶意注册会员,有图形验证码 ,和短信验证码 但是还是有大量恶意注册: session 和 cookie都是可以随便伪造的。 验证码有打码平台。 短信验证有短信验证平台。 IP限制有虚拟拨号…

好的学习网站,设计类、网站类、编程类

http://t.cn/zHBCVrj好的学习网站,包括信息化办公、平面设计、室内设计、机械设计、影视动画、网页设计、会计课程 一步步教你利用Discuz X2.5建设论坛视频教程(174集)_第1页_51CTO下载专题_IT技术资料免费下载 http://down.51cto.com/zt/4187/1 主要教授图像与交…