大型网站系统架构的演化

news/2024/5/14 2:43:46/文章来源:https://blog.csdn.net/weixin_34390105/article/details/94008765

前言

 

  一个成熟的大型网站(如淘宝、天猫、腾讯等)的系统架构并不是一开始设计时就具备完整的高性能、高可用、高伸缩等特性的,它是随着用户量的增加,业务功能的扩展逐渐演变完善的。在这个过程中,开发模式、技术架构、设计思想也发生了很大的变化,就连技术人员也从几个人发展到一个部门甚至一条产品线。所以成熟的系统架构是随着业务的扩展而逐步完善的,并不是一蹴而就;不同业务特征的系统,会有各自的侧重点,例如淘宝,要解决海量的商品信息的搜索、下单、支付,例如腾讯,要解决数亿用户的实时消息传输,百度它要处理海量的搜索请求,他们都有各自的业务特性,系统架构也有所不同。尽管如此我们也可以从这些不同的网站背景下,找出其中共用的技术,这些技术和手段广泛运用在大型网站系统的架构中,下面就通过介绍大型网站系统的演化过程,来认识这些技术和手段。

 

  一、最开始的网站架构

  最初的架构,应用程序、数据库、文件都部署在一台服务器上,如图:

  

 

  二、应用、数据、文件分离

  随着业务的扩展,一台服务器已经不能满足性能需求,故将应用程序、数据库、文件各自部署在独立的服务器上,并且根据服务器的用途配置不同的硬件,达到最佳的性能效果。

  

 

  三、利用缓存改善网站性能

  在硬件优化性能的同时,同时也通过软件进行性能优化,在大部分的网站系统中,都会利用缓存技术改善系统的性能,使用缓存主要源于热点数据的存在,大部分网站访问都遵循28原则(即80%的访问请求,最终落在20%的数据上),所以我们可以对热点数据进行缓存,减少这些数据的访问路径,提高用户体验。

  

 

  缓存实现常见的方式是本地缓存、分布式缓存。当然还有CDN、反向代理等,这个后面再讲。本地缓存,顾名思义是将数据缓存在应用服务器本地,可以存在内存中,也可以存在文件,OSCache就是常用的本地缓存组件。本地缓存的特点是速度快,但因为本地空间有限所以缓存数据量也有限。分布式缓存的特点是,可以缓存海量的数据,并且扩展非常容易,在门户类网站中常常被使用,速度按理没有本地缓存快,常用的分布式缓存是Memcached、Redis。

 

  四、使用集群改善应用服务器性能

  应用服务器作为网站的入口,会承担大量的请求,我们往往通过应用服务器集群来分担请求数。应用服务器前面部署负载均衡服务器调度用户请求,根据分发策略将请求分发到多个应用服务器节点。

  

 

  常用的负载均衡技术硬件的有F5,价格比较贵,软件的有LVS、Nginx、HAProxy。LVS是四层负载均衡,根据目标地址和端口选择内部服务器,Nginx和HAProxy是七层负载均衡,可以根据报文内容选择内部服务器,因此LVS分发路径优于Nginx和HAProxy,性能要高些,而Nginx和HAProxy则更具配置性,如可以用来做动静分离(根据请求报文特征,选择静态资源服务器还是应用服务器)。

 

  五、数据库读写分离和分库分表

  随着用户量的增加,数据库成为最大的瓶颈,改善数据库性能常用的手段是进行读写分离以及分库分表,读写分离顾名思义就是将数据库分为读库和写库,通过主备功能实现数据同步。分库分表则分为水平切分和垂直切分,水平切分则是对一个数据库特大的表进行拆分,例如用户表。垂直切分则是根据业务的不同来切分,如用户业务、商品业务相关的表放在不同的数据库中。

  

 

  六、使用CDN和反向代理提高网站性能

  假如我们的服务器都部署在成都的机房,对于四川的用户来说访问是较快的,而对于北京的用户访问是较慢的,这是由于四川和北京分别属于电信和联通的不同发达地区,北京用户访问需要通过互联路由器经过较长的路径才能访问到成都的服务器,返回路径也一样,所以数据传输时间比较长。对于这种情况,常常使用CDN解决,CDN将数据内容缓存到运营商的机房,用户访问时先从最近的运营商获取数据,这样大大减少了网络访问的路径。比较专业的CDN运营商有蓝汛、网宿。

 

  而反向代理,则是部署在网站的机房,当用户请求达到时首先访问反向代理服务器,反向代理服务器将缓存的数据返回给用户,如果没有缓存数据才会继续访问应用服务器获取,这样做减少了获取数据的成本。反向代理有Squid,Nginx。

  

 

  七、使用分布式文件系统

  用户一天天增加,业务量越来越大,产生的文件越来越多,单台的文件服务器已经不能满足需求,这时就需要分布式文件系统的支撑。常用的分布式文件系统有GFS、HDFS、TFS。

  

 

  八、使用NoSql和搜索引擎

  对于海量数据的查询和分析,我们使用nosql数据库加上搜索引擎可以达到更好的性能。并不是所有的数据都要放在关系型数据中。常用的NOSQL有mongodb、hbase、redis,搜索引擎有lucene、solr、elasticsearch。

  

 

  

九、将应用服务器进行业务拆分

  随着业务进一步扩展,应用程序变得非常臃肿,这时我们需要将应用程序进行业务拆分,如百度分为新闻、网页、图片等业务。每个业务应用负责相对独立的业务运作。业务之间通过消息进行通信或者共享数据库来实现。

  

 

  十、搭建分布式服务

  这时我们发现各个业务应用都会使用到一些基本的业务服务,例如用户服务、订单服务、支付服务、安全服务,这些服务是支撑各业务应用的基本要素。我们将这些服务抽取出来利用分部式服务框架搭建分布式服务。阿里的Dubbo是一个不错的选择。

  

 

  小结

  大型网站的架构是根据业务需求不断完善的,根据不同的业务特征会做特定的设计和考虑,本文只是讲述一个常规大型网站会涉及的一些技术和手段。

转载于:https://www.cnblogs.com/downey/p/4967811.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_763005.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

nginx+lua搭建网站waf

2019独角兽企业重金招聘Python工程师标准>>> 1、安装pcre yum -y install pcre-devel openssl openssl-devel zlib zlib-devel 2、安装 openResty cd /usr/local/ wget https://openresty.org/download/openresty-1.11.2.2.tar.gz tar xf openresty-1.11.2.2.tar.g…

iis服务器安装帝国网站,安装帝国cms如何配置iis

说明:假设环境安装在D:\Ecms,网站安装在E:\WEB1.将一键安装包解压缩到D:\下(当然也可以在其他盘符下),文件夹名为EmpireServer,将此文件夹名修改为Ecms(自定义)2.将D:\Ecms\web文件夹移动到E:\3…

c++ 网页服务器,使用C++ REST SDK实现静态网站服务器的示例

目的通过实现简易的静态网站服务器,来了解HTTP服务器的基本内容,以及C REST SDK如何使用。静态网站静态网站是指内容全部是静态的,不需要动态生成,当客户端请求指定资源时,将资源回复给客户端即可,不需要有…

linux Command ab 网站性能压力测试工具

linux Command ab 网站性能压力测试工具 文章目录linux Command ab 网站性能压力测试工具1. 简介2. 原理3. 安装4. 参数5. 性能指标5.1 吞吐率5.2 并发连接数5.3 并发用户数5.4 用户平均请求等待时间5.5 服务器平均请求等待时间6. 实例17. 实例2:测试nginx性能1. 简…

(图文详细)IIS+MySQL+PHP网站开发环境搭建之篇一(腾讯云服务器学生机购买)

(图文详细)IISMySQLPHP网站开发环境搭建之篇一(腾讯云服务器学生机购买)一、注册腾讯云账号 二、购买Windows云服务器三、登录Windows云服务器四、格式化与分区数据盘 (图文详细)IISMySQLPHP网站开发环境…

(图文详细)通过XAMPP导入WordPress网站建立个人博客

(图文详细)通过XAMPP导入WordPress网站建立个人博客一、简介二、下载WordPress安装包三、启动XAMPP,且保证Mysql和Apache处于“Running”状态。四、在PHPMyadmin中新建和配置WordPress的数据库 (图文详细)通过XAMPP…

在Centos 源码安装Apache并部署网站模板

1.准备源码包 1.1 进入下载目录 [rootlocalhos ~ ]# cd /usr/local/src/ 1.2 下载软件包 ① 下载apr-1.6.5.tar.gz [rootlocalhost src] # wget https://downloads.apache.org/apr/apr-1.6.5.tar.gz ②下载apr-util-1.6.1.tar.gz [rootlocalhost src] # wget https://down…

Linux网站架构系列之Apache调优全解

环境: view sourceprint?1.CentOS6.4 x86_64位 采用最小化安装,系统经过了基本优化篇2.apache版本:httpd-2.4.63.apr版本:apr-1.4.84.apr-util版本:apr-util-1.5.25.pcre版本:pcre-7.86.源码包存放位置…

容器方式搭建免费的表白网站(2022.9.25更新)

目录效果图拉取镜像运行容器访问制作方式效果图 拉取镜像 docker pull registry.cn-zhangjiakou.aliyuncs.com/dwz/softwares:boy921运行容器 docker run -di -p 80:80 -e BOYNAME王晨 -e GIRLNAME王舒涵 -e FIRSTTIME2022/9/21 -e STARTTIME2022,8,21 registry.cn-zhangjia…

24.网站更新数据监控-1

24.网站更新数据监控-1 一.scrapy 对网站是否更新做监控1.spider.py # -*- coding: utf-8 -*- import scrapy import time import re from WEB.conmon.md5_tool import md5_encodefrom WEB.items import WebItemclass CompanyInfoSpider(scrapy.Spider):name wenzhouallowed_d…

网站忘记密码怎么找回?

网站忘记密码怎么找回? 两个方法 方法一: 登录数据库,把password 下面的这一串加密串 解密一下。我至今没这样弄过,原理是这样,但是我没找到好用的md5 解密网站。一般的都要收费的。 方法二: 在数据库重置一个简单的密码&#xf…

手机网站按住放大图片_让渣渣像素图片复活,推荐两个无损放大图片的网站

老Y在之前的文章中推荐过不少寻找高清大图的网站(收集了3年的网站和大家分享)​虽然大多数情况下能够找到比较高清的图片,但有些图片确实很难找到高清的,比如一些企业的Logo、专业性设备照片等,只能在官网上找到一些小…

建站公司需要结合哪方面来制作网站?

企业建网站目的就是为了推广自己品牌、产品、业务等项目。对一个企业来讲,建设网站可迅速树立自已的品牌形象,来提高知名度。但对于建设网站公司来讲,既要结合建站技术,又要根据企业需要来打造用户喜欢的网站。 可能有人会想&…

代码内容变成图片_SEO代码优化之img图片标签

在网站的页面中,图片是重要的组成元素之一,所以,对网站img图片进行SEO优化,不仅有利于用户的浏览体验提升,也有利于搜索引擎蜘蛛的抓取识别,还可以丰富页面的内容,提升页面得分,有利…

50万以内的网站服务器系统配置,每秒50万次请求 你的Web服务器能办到吗?

现在的 HTTP 服务器性能非常之高,在一些老的服务器上一样可以有非常棒的表现,下面是对 Nginx 1.0.14 自带的默认首页进行压力测试的结果,图表显示每秒请求数和并发连接数:在这张图中 Nginx 的最高处理能力达到每秒 50w 的请求数处…

爬取17k小说网站

传入网站的首页的url,获取首页多个书籍对应书名和对应书名的url 书籍对应书名和对应书名的url如下 部分代码如下 def getBook(url):getBookList []chrome webdriver.Chrome()chrome.get(url)texts chrome.find_elements_by_xpath(//ul[class"Top1"]/li…

Django的模板继承和加载以及常见网站类型

PyCharm快捷键 Ctrlf查找 Ctrlr替换 做项目过程中注意事项 前面记得加斜杠 代表从根匹配,加/很重要。不加的话代表从当前的目录开始。 模板继承 针对网站所有的网页通常使用一个模板,所有代码都有相同部分,为了减少代码冗余,方便代…

python做的网站_如何用Python做一个网站?

Install pip install Django 2. 新建一个2113工程 django-admin startproject mysite 然后5261,4102我们会得到一个这样的文件结构请点击输入图片描述 python manage.py runserver 0.0.0.0:8888 然后,你就可1653以在浏览器地址栏中输入http://127.0.0.1:…

分类信息网站源码_SEO优化:教你三招做好分类信息网站优化

各位小伙伴大家好~我是新人小编艾斯~今天给大家分享下分类信息网站优化分类信息网目前看似已经被赶集网、58同城这样的超大网站垄断,但是针对地方的分类信息,还是有做头的。比如朋友的“重庆二手it论坛”,就利用小众领域的分类信息进行突破&a…

网站备案负责人_网站icp备案流程是怎样的

目前在国内知名系统主机作网站,都是要按照国家法规来备案网站主办人信息,与以网站内容信息用途,都是要详细备案。那么,网站icp备案流程是怎样的?一起来了解一下吧。1.首先选择你备案的运营商,这里以百度云为例。注册好…