第1章 大型网站架构演化

news/2024/5/20 12:29:17/文章来源:https://blog.csdn.net/weixin_33727510/article/details/92031411

2019独角兽企业重金招聘Python工程师标准>>> hot3.png

##1.1 大型网站软件系统的特点## 高并发,大流量:需要面对高并发用户,大流量访问。 高可用:系统7*24小时不间断服务。 海量数据:需要存储,管理海量数据,需要使用大量服务器。 用户分布广泛,网络情况复杂:许多大型互联网都是为全球用户提供服务的,用户分布范围广,各地网络情况千差万别。 安全环境恶劣:由于互联网的开放性,使得互联网站更容易受到攻击,大型网站几乎每天都会被黑客攻击。 需求快速变更,发布频繁:和传统软件的版本发布频率不同,互联网产品为快速适应市场,满足用户需求,其产品发布频率是极高的。 渐进式发展:与传统软件产品或企业应用系统一开始就规划好全部的功能和非功能需求不同,几乎所有的大型互联网站都是从一个小网站开始的。好的互联网产品都是慢慢运营出来的,不是一开始就开发好的,这也正好与网站架构的发展演化过程对应。 ##1.2 大型网站架构演化发展历程## 大型网站的技术挑战主要来自于庞大的用户,高并发的访问和海量的数据,任何简单的业务一旦需要处理数以P计的数据和面对数以亿计的用户,问题就会变得很棘手。 ###1.2.1 初始阶段的网站架构### 大型网站都是从小型网站发展而来,网站架构也是一样,是从小型网站架构逐步演化而来的。应用程序数据库文件等所有的资源都在一台服务器上。通常服务器操作系统使用Linux,应用程序使用PHP开发,然后部署在Apache上,数据库使用MySQL,汇集各种免费开源软件及一台廉价服务器就可以开始网站的发展之路了。 ###1.2.2 应用服务和数据服务分离### 将应用服务和数据服务分离:应用服务器文件服务器数据库服务器,这三台服务器对硬件资源的要求各不相同: 应用服务器需要处理大量的业务逻辑,因此需要更快更强大的CPU; 数据库服务器需要快速磁盘检索和数据缓存,因此需要更快的硬盘和更大的内存; 文件服务器需要存储大量用户上传的文件,因此需要更大的硬盘;

应用和数据分离,不同特性的服务器承担不同的服务角色,网站的并发处理能力和数据存储空间得到了很大改善,支持网站业务进一步发展。 ###1.2.3 使用缓存改善网站性能### 网站访问特点和现实世界的财富分配一样遵循二八定律:80%的业务访问集中在20%的数据上。既然大部分的业务访问集中在一小部分数据上,那么如果把这一小部分数据缓存在内存中,是不是可以减少数据库的访问压力,提高整个网站的数据访问速度,改善数据库的写入性能了呢?

网站使用的缓存可以分为两种:缓存在应用服务器上的本地缓存和缓存在专门的分布式服务器上的远程缓存本地缓存:访问速度更快一些,但是受应用服务器内存的限制,其缓存数量有限,而且会出现和应用程序争用内存的情况。 远程分布式缓存:可以使用集群的方式,部署大内存的服务器作为专门的缓存服务器,可以在理论上做到不受内存容量限制的缓存服务,易扩展,产生网络IO。

使用缓存后,数据库访问压力得到有效缓解,但是单一应用服务器能够处理的请求连接有限,在网站访问高峰期,应用服务器成为整个网站的瓶颈。 ###1.2.4 使用应用服务器集群改善网站的并发处理能力### 使用集群是网站解决高并发,海量数据问题的常用手段。当一台服务器的处理能力,存储空间不足时,不要企图去换更强大的服务器,对大型网站而言,不管多么强大的服务器,都满足不了网站持续增长的业务需求。这种情况下,更恰当的做法是增加一台服务器分担原有服务器的访问及存储压力。

对网站架构而言,只要通过增加一台服务器的方式改善负载压力,就可以以同样的方式持续增加服务器不断改善系统性能,从而实现系统的可伸缩性。应用服务器集群是网站可伸缩集群架构设计中较为简单成熟的一种。

通过负载均衡调度服务器,可将来自用户浏览器的访问请求分发到应用服务器集群中的任何一台服务器上,如果有更多的用户,就在集群中加入更多的应用服务器,使应用服务器的负载压力不再成为整个网站的瓶颈。 ###1.2.5 数据库读写分离### 网站在使用缓存后,使绝大部分数据读操作访问都可以不通过数据库就能完成,但是仍有一部分读操作(缓存访问不命中,缓存过期)和全部写操作需要访问数据库,在网站的用户达到一定规模时,数据库因为负载压力过高而成为网站的瓶颈。

目前大部分的主流数据库都提供主从热备功能,通过配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上。网站利用数据库的这一功能,实现数据库读写分离,从而改善数据库负载压力。

应用服务器在写数据的时候,访问主数据库,主数据库通过主从复制机制将数据更新同步到从数据库,这样当应用服务器读数据的时候,就可以通过从数据库获得数据。为了便于应用程序访问读写分离后的数据库,通常在应用服务器端使用专门的数据访问模块,使数据库读写分离对应用透明。 ###1.2.6 使用反向代理和CDN加速网站响应### CDN和反向代理的基本原理都是缓存,区别在于CDN部署在网络提供商的机房,使用户在请求网站服务时,可以从距离自己最近的网络提供商机房获取数据;而反向代理则部署在网站的中心机房,当用户请求到达中心机房后,首先访问的服务器是反向代理服务器,如果反向代理服务器中缓存着用户请求的资源,就将其直接返回给用户。

使用CDN和反向代理的目的都是尽早返回数据给用户,一方面加快用户访问速度,另一方面也减轻后端服务器的负载压力。 ###1.2.7 使用分布式文件系统和分布式数据库系统### 任何强大的单一服务器都满足不了大型网站持续增长的业务需求。数据库经过读写分离后,从一台服务器拆分成两台服务器,但是随着网站业务的发展依然不能满足需求,这是需要使用分布式数据库。文件系统也是一样,需要使用分布式文件系统。

分布式数据库是网站数据库拆分的最后手段,只有在单表数据规模非常庞大的时候才使用。不到不得已时,网站更常用的数据库拆分手段是业务分库,将不同业务的数据库部署在不同的物理服务器上。 ###1.2.8 使用NoSQL和搜索引擎### NoSQL和搜索引擎都是源自互联网的技术手段,对可伸缩的分布式特性具有更好的支持。应用服务器则通过一个统一数据访问模块访问各种数据,减轻应用程序管理诸多数据源的麻烦。 ###1.2.9 业务拆分### 大型网站为了应对日益复杂的业务场景,通过使用分而治之的手段将整个网站业务分成不同的产品线,如大型购物交易网站就会将首页,商铺,订单,买家,卖家等拆分成不同的产品线,分归不同的业务团队负责。

具体到技术上,也会根据产品线划分,将一个网站拆分成许多不同的应用,每个应用独立部署维护。应用之间可以通过一个超链接建立关系(在首页上导航链接每个都指向不同的应用地址),也可以通过消息队列进行数据分发,当然最多的还是通过访问同一个数据存储系统来构成一个关联的完整系统。 ###1.2.10 分布式服务### 随着业务拆分服务越来越小,存储系统越来越大,应用系统的整体复杂度呈指数级增加,部署维护越来越困难。由于所有应用要和所有数据库系统连接,在数万台服务器规模的网站中,这些连接的数目是服务器规模的平方,导致存储数据库连接资源不足,拒绝服务。

既然每一个应用系统都需要执行许多相同的业务操作,比如用户管理,商品管理等,那么可以将这些共用的业务提取出来,独立部署。由这些可复用的业务连接数据库,提供共用业务服务,而应用系统只需要管理用户界面,通过分布式服务调用共用业务服务完成具体业务操作。 ##1.3 大型网站架构演化的价值观##

  1. 这个世界没有哪个网站从诞生起就是大型网站;
  2. 也没有哪个网站第一次发布就拥有庞大的用户,高并发的访问,海量的数据;
  3. 大型网站都是从小型网站发展而来。

网站的价值在于它能为用户提供什么价值,在于网站能做什么,而不在于它是怎么做的,所以在网站还很小的时候就去追求网站的架构是舍本逐末,得不偿失的。小型网站最需要做的就是为用户提供好的服务来创造价值,得到用户的认可,活下去,野蛮生长。 ###1.3.1 大型网站架构技术的核心价值是随网站所需灵活应对### 大型网站架构技术的核心价值不是从无到有搭建一个大型网站,而是能够伴随小型网站业务的逐步发展,慢慢地演化成一个大型网站。 ###1.3.2 驱动大型网站技术发展的主要力量是网站的业务发展### 创新的业务发展模式对网站架构逐步提出更高要求,才使得创新的网站架构得以发展成熟。是业务成就了技术,是事业成就了人,而不是相反。 ##1.4 网站架构设计误区## ###1.4.1 一味追随大公司的解决方案### 大公司的经验和成功模式固然重要,值得学习借鉴,但如果因此而变得盲从,就失去了坚持自我的勇气,在架构演化的道路上迟早会迷路。 ###1.4.2 为了技术而技术### 网站技术是为业务而存在的,除此毫无意义。 ###1.4.3 企图用技术解决所有问题### 技术是用来解决业务问题的,而业务问题,也可以通过业务的手段去解决。

转载于:https://my.oschina.net/xianggao/blog/358995

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_751828.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

推荐一个攻城狮教程工具类网站

2019独角兽企业重金招聘Python工程师标准>>> 今天查JS的一些框架,无意进入了一个网站http://www.w3cschool.cc/。浏览了一下之后,发现真是。。棒极了!!这个网站提供了多种语言和框架的入门教程,内容很丰富&…

前端工程师一般都喜欢去哪些网站逛?

推荐一些“小而美”的优质网站,前端学习提升、技术博客、实用工具……从多个方面实现提升,才是前端工程师的晋级之路! 先赞再看,养成习惯! 前端学习提升类 当前,前端开发正在迅猛发展阶段,不…

电商网站中,50W-100W高并发,秒杀功能是怎么实现的?

巧了,最近面试的时候问过一个差不多的题目。 某年双11,商家以4499的价格上架了某iphone,比官网价格便宜了1000员,库存总数10台,运营设置11/11 00:00活动生效,一人只能购买1台,商品售完为止。 首…

加快网站访问速度的9大方法

2019独角兽企业重金招聘Python工程师标准>>> 一、 网站程序中采用DIVCSS这种模式,不用Table 目前DIVCSS是主流的编程语言,这与其体积小加载快的优点是密不可分的。主流的网站和CMS采用的也都是这种模式。因此建议大家也采用这种模式来编程&am…

有哪些网站,一旦知道,你就离不开了?

这题我会! 平时就喜欢收集一些实用又有趣的网站,下面这些都是个人私藏已久的网站,真的就是一旦知道就离不开了👇 1.懒人抠图神器:BgEraser BgEraser是一个可以在线自动抠图的网站,使用方法很简单,上传想…

前端工程师最爱的网站是哪些呢?

推荐一些“小而美”的优质网站,前端学习提升、技术博客、实用工具……从多个方面实现提升,才是前端工程师的晋级之路! 先赞再看,养成习惯! 前端学习提升类 当前,前端开发正在迅猛发展阶段,不…

Android研究相关网站

为什么80%的码农都做不了架构师?>>> http://www.jcodecraeer.com/ ,,,泡在网上的日志,最新发现的,有许多新的特性特效,很多项目很有新意,有启发性;apkbuso…

有哪些能玩上一天的网站?

在某互联网中厂做了3年码农,目前发际线还很“安全”,全靠这10个网站在线摸鱼,今天就分享给大家玩一下,如果对你有用的话别忘了点赞收藏,让更多人看到呀! GEEKTyper.com 一个模拟hacker工作的虚拟桌面系统…

作为程序员,你最常上的网站是什么,理由是?

好用的网站在精不在多,我整理了这10个程序员必备网站,给我接好啦! 比格张 类型:网站检索(全类型) 推荐指数:★★★★☆ 理由:一个网站检索工具,上面有很多优秀的网站…

×××国家卫星气象中心网站遭******

http://www.knownsec.com/Sun Jul 12 2009 00:18:39 UTC0800知道创宇安全团队(KnownSec Team)于今天监测到国家卫星气象中心(http://www.nsmc.cma.gov.cn/)网站被******,网站logo被篡改。转载于:https://blog.51cto.co…

RHEL4- WEB服务(六)建立基于主机名的多个虚拟web网站

RHEL4- WEB服务(六)建立基于主机名的多个虚拟web网站昨天,我在《RHEL4- WEB服务(五)建立基于ip的多个虚拟web网站》一篇中说到了如何建立基于ip的多个虚拟web网站,要注意在建立之前需要配置多个网卡或者给一…

程序员每天会阅读哪些技术网站或者公众号来提高能力?

这你就问对人了,从事后端开发工作5年,一直都有浏览网站和公众号,提升自身能力的习惯。期间我收藏夹增增减减,最终留下了这些,都是真材实料的精华,希望可以帮到你们。 技术网站类 1.Tutorialspoint 一个免…

有哪些鲜为人知,但是很有意思的网站?

一位**“鲜为人知,但很有意思”**的猪厂程序猿来了,这些集小众和宝藏于一身的网站你千万别错过。 现在,我把这些藏在收藏夹很久的宝藏高品质网站分享给大家一起食用,先赞再看,养成习惯。 提示:本文包括编程…

推荐十个好用的程序员摸鱼网站,现在就给我玩起来!

在某互联网中厂做了3年码农,目前发际线还很“安全”,全靠这10个网站在线摸鱼,今天就分享给大家玩一下,如果对你有用的话别忘了点赞收藏,让更多人看到呀!GEEKTyper.com一个模拟hacker工作的虚拟桌面系统&…

字节跳动程序员无意中发现的宝藏摸鱼网站。

我在字节跳动做了3年码农,目前发际线还很“安全”,全靠这10个网站在线摸鱼,今天就分享给大家玩一下,如果对你有用的话别忘了点赞收藏!GEEKTyper.com一个模拟hacker工作的虚拟桌面系统,虽然没什么卵用但是很…

网站常用的小图标实现

2019独角兽企业重金招聘Python工程师标准>>> 在网站上我们经常能见到一些小图标,如小头像,小旗帜,一些勾勾叉叉等小图标。 一般的实现这些小图标有三种实现方案: 将所有常用的小图标罗列在一张大图片上,然后…

作为程序员,你关注哪些国外 IT 网站?

找这14个网站花了我足足三天时间,从我乱七八糟的各类收藏夹整理出来的精华中的精华,摁着你们的脑袋也要给我读完。全都是上等的良心好网站,都给我去关注!!! DZone DZone是很多程序员喜欢的新闻站点&#…

国内外有哪些好的前端实战网站?

分享一个最近看到的一个很喜欢的获奖网站,每次看到这样的作品就会条件反射的在想,如果自己想要设计出这样一个网页,我应该具备一些什么能力。 结论是:想做一个优秀的前端开发(实现财富自由),一…

【干货】程序员必备的中文在线编程学习网站!

迫于英语烂得一塌糊涂,本人愤而转向中文编程学习网站,给大伙推荐几个我认为质量和性价比都很高的网站,放心食用! 在线OJ及部分题解 先推一波OJ(在线编程评测平台)。我的人生信条是:没有什么比…

限时白嫖!程序员专用刷题网站大全,已加入年度爱用清单!

1. TopCoderTopCoder 是最早的在线编程竞技平台之一,该网站提供了一系列的算法挑战,在这里,你可以:使用他们的代码编辑器直接进行在线作答。参加该网站举办的 SRMs 挑战项目。该比赛将会在每月定期举办,作为参赛者&…