大型网站系统架构的演化

news/2024/5/13 9:06:05/文章来源:https://blog.csdn.net/weixin_33893473/article/details/94539934

前言

    一个成熟的大型网站(如淘宝、京东等)的系统架构并不是开始设计就具备完整的高性能、高可用、安全等特性,它总是随着用户量的增加,业务功能的扩展逐渐演变完善的,在这个过程中,开发模式、技术架构、设计思想也发生了很大的变化,就连技术人员也从几个人发展到一个部门甚至一条产品线。所以成熟的系统架构是随业务扩展而完善出来的,并不是一蹴而就;不同业务特征的系统,会有各自的侧重点,例如淘宝,要解决海量的商品信息的搜索、下单、支付,例如腾讯,要解决数亿的用户实时消息传输,百度它要处理海量的搜索请求,他们都有各自的业务特性,系统架构也有所不同。尽管如此我们也可以从这些不同的网站背景下,找出其中共用的技术,这些技术和手段可以广泛运行在大型网站系统的架构中,下面就通过介绍大型网站系统的演化过程,来认识这些技术和手段。

一、最开始的网站架构

    最初的架构,应用程序、数据库、文件都部署在一台服务器上,如图:

image

二、应用、数据、文件分离

    随着业务的扩展,一台服务器已经不能满足性能需求,故将应用程序、数据库、文件各自部署在独立的服务器上,并且根据服务器的用途配置不同的硬件,达到最佳的性能效果。

image

三、利用缓存改善网站性能

    在硬件优化性能的同时,同时也通过软件进行性能优化,在大部分的网站系统中,都会利用缓存技术改善系统的性能,使用缓存主要源于热点数据的存在,大部分网站访问都遵循28原则(即80%的访问请求,最终落在20%的数据上),所以我们可以对热点数据进行缓存,减少这些数据的访问路径,提高用户体验。

251844453265971

    缓存实现常见的方式是本地缓存、分布式缓存。当然还有CDN、反向代理等,这个后面再讲。本地缓存,顾名思义是将数据缓存在应用服务器本地,可以存在内存中,也可以存在文件,OSCache就是常用的本地缓存组件。本地缓存的特点是速度快,但因为本地空间有限所以缓存数据量也有限。分布式缓存的特点是,可以缓存海量的数据,并且扩展非常容易,在门户类网站中常常被使用,速度按理没有本地缓存快,常用的分布式缓存是Memcached、Redis。

四、使用集群改善应用服务器性能

    应用服务器作为网站的入口,会承担大量的请求,我们往往通过应用服务器集群来分担请求数。应用服务器前面部署负载均衡服务器调度用户请求,根据分发策略将请求分发到多个应用服务器节点。

251844471702801

    常用的负载均衡技术硬件的有F5,价格比较贵,软件的有LVS、Nginx、HAProxy。LVS是四层负载均衡,根据目标地址和端口选择内部服务器,Nginx是七层负载均衡和HAProxy支持四层、七层负载均衡,可以根据报文内容选择内部服务器,因此LVS分发路径优于Nginx和HAProxy,性能要高些,而Nginx和HAProxy则更具配置性,如可以用来做动静分离(根据请求报文特征,选择静态资源服务器还是应用服务器)。

五、数据库读写分离和分库分表

    随着用户量的增加,数据库成为最大的瓶颈,改善数据库性能常用的手段是进行读写分离以及分表,读写分离顾名思义就是将数据库分为读库和写库,通过主备功能实现数据同步。分库分表则分为水平切分和垂直切分,水平切换则是对一个数据库特大的表进行拆分,例如用户表。垂直切分则是根据业务不同来切换,如用户业务、商品业务相关的表放在不同的数据库中。

260851219209749

六、使用CDN和反向代理提高网站性能

  假如我们的服务器都部署在成都的机房,对于四川的用户来说访问是较快的,而对于北京的用户访问是较慢的,这是由于四川和北京分别属于电信和联通的不同发达地区,北京用户访问需要通过互联路由器经过较长的路径才能访问到成都的服务器,返回路径也一样,所以数据传输时间比较长。对于这种情况,常常使用CDN解决,CDN将数据内容缓存到运营商的机房,用户访问时先从最近的运营商获取数据,这样大大减少了网络访问的路径。比较专业的CDN运营商有蓝汛、网宿。

  而反向代理,则是部署在网站的机房,当用户请求达到时首先访问反向代理服务器,反向代理服务器将缓存的数据返回给用户,如果没有没有缓存数据才会继续走应用服务器获取,也减少了获取数据的成本。反向代理有Squid,Nginx。

260851254513595

七、使用分布式文件系统

    用户一天天增加,业务量越来越大,产生的文件越来越多,单台的文件服务器已经不能满足需求。需要分布式的文件系统支撑。常用的分布式文件系统有NFS。

260851282647353

八、使用NoSql和搜索引擎

    对于海量数据的查询,我们使用nosql数据库加上搜索引擎可以达到更好的性能。并不是所有的数据都要放在关系型数据中。常用的NOSQL有mongodb和redis,搜索引擎有lucene。

260851321075527

九、将应用服务器进行业务拆分

    随着业务进一步扩展,应用程序变得非常臃肿,这时我们需要将应用程序进行业务拆分,如百度分为新闻、网页、图片等业务。每个业务应用负责相对独立的业务运作。业务之间通过消息进行通信或者同享数据库来实现。

260851352481788

 

十、搭建分布式服务

    这时我们发现各个业务应用都会使用到一些基本的业务服务,例如用户服务、订单服务、支付服务、安全服务,这些服务是支撑各业务应用的基本要素。我们将这些服务抽取出来利用分部式服务框架搭建分布式服务。淘宝的Dubbo是一个不错的选择。

260851397174320

小结

    大型网站的架构是根据业务需求不断完善的,根据不同的业务特征会做特定的设计和考虑,本文只是讲述一个常规大型网站会涉及的一些技术和手段。

 

 原文地址:http://www.cnblogs.com/leefreeman/p/3993449.html#!comments

参考资料:

《大型网站技术架构》 ——李智慧

《海量运维运营规划》 ——唐文

转载于:https://www.cnblogs.com/dreamroute/p/5626530.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_706465.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

大型高性能网站的十项规则

在我们公司ChinaNetCloud,见 过多种不同类型的网站和系统,有好也有差。其中有些系统拥有良好的服务器/网络架构,并且进行了合理的调整和监控 ;然而一般的系统都会有安全和性能上的 问题,不能良好运行,也无法…

网站第三方评论对比

1.网站为什么需要评论系统 博客或cms系统,一般都是有内容和评论两部分组成。评论可以增加博主与用户之间的交流互动,也是博主一对多的传达自己想法和观点的交流平台。所以除了社区平台外,评论也成为一般博客和cms系统必备功能。 大型网站本身…

#17# SCCM管理 - 软件中心 VS 应用程序目录网站点

软件中心 VS 应用程序目录网站点 本篇文章主要讨论ConfigMgr软件中心(Software Center)及应用程序目录网站点(Application Catalog)的区别 软件程序(包括应用程序、包) 对于目的为“可用”的部署类型,有如下区分: 在SCCM 1511之前…

服务器搭建网站完整教程(宝塔面板+WORDPRESS)

服务器最大的用途,就是可以搭建网站,许多人都认为搭建网站是一件很难的事情,因为包含许多的比较专业东西,比如服务器、编程之类的,确实,在几年前是这样的,普通人想要自己做一个网站太难了 但是随…

如何防止网站因改版导致权重下降?

网站改版是一件网站发展的重大工作,网站改版能够赋予网站新的活力,但也伴随着许多“网站改版并发症”出现。这里所谓的“网站改版并发症”是指网站在改版过后出现的问题,比如网站排名下降、网站索引下降、网站权重下降等问题,这些…

如何使用流量精灵刷网站流量

1 一定要设置访问时间在什么时候是高峰,比如除非是黄色网站,否则不可能高峰时间总是在凌晨1-3点这种时间段,同样,不同类型的网站需要模拟真实的流量曲线图,不要和真实情况相差太多,尤其是对于那些流量曲线是…

怎么样把网站内链优化与网站外链建设做好呢?

大家都知道,做网站seo优化,首先最为重要的就是要把网站内部链接优化做好,也就是我们俗称的“网站内链”、“站内链接”。做好网站链接是做好网站seo优化的第一步,也是做网站外链建设的基础。关于网站内链优化的一些要点&#xff1…

六:在线工具网站,让你PC上要装的软件少一半!

记住这几个在线工具网站,让你PC上要装的软件少一半! 一、uzer.me——丰富的云端应用聚合 这个云平台将我们常用的Office系列软件、Adobe家族的系列软件……乃至CAD制图都整合在了云端,随时都可以通过浏览器调用;而且还支持多人合作…

Django购物网站使用说明

自己在私有云(1C1G配置)部署,因配置较差,资源极其有限,请勿压力测试 #------------&a…

在Win2003、Win7、XP中配置IIS搭建ASP.NET Web网站或应用程序(1)

在各系统中配置IIS 1、Xp系统中iis5.1的配置 Xp系统中自带的是IIS5.1,而IIS5.1中只能建立一个网站——即默认网站,如果要在上面部署多个web应用程序,我们可以使用新建虚拟目录的形式。具体操作如下: a、 开始——控制面板——管理…

用图片做网站输入验证的构想

我们现在使用的验证手段都是以验证码为主,让用户根据图片输入验证字符,这种方法的安全度尚可,但会给用户带来一些不便和困扰,比如这个雅虎的验证码: 这个安全度很高,机器和人都无法正确识别了。 其实要让人…

c# 联合halcon 基于相关性 模板匹配_宣城seo公司_有效利用及时相关性解决关键词排名上不到首页的难题...

发布时间:2020-11-04 09:11:33当你写一条热门新闻时,百度总是能很快地收录和显示你。这就是即时新闻的魅力所在,考虑到全站的权重不算太多。它完全基于即时新闻和页面相关性,因此,如果你想快速获得搜索流量(如果你是新来的网站)&a…

代码内容变成图片_网站只剩25行代码,真有程序员“删库跑路”?

“可能我删了数据才会轻松吧可能我格了硬盘才会休息吧可能逃出了公司我就跑到天边可能我还没找到 那个BUG……”曾经,有一位程序员,在某个加班的深夜,一边听着《可能否》,一边打开Word填上程序员心声版歌词,也赢得了不…

路由器WIFI连接无法正常访问个别网站及发送图片

打开路由,路由默认MTU是1500,改成1472 就解决了 本文转自黄聪博客园博客,原文链接:http://www.cnblogs.com/huangcong/p/6127762.html,如需转载请自行联系原作者

如何在线把网站html生成xml文件_快速抓取网站信息工具

网络信息抓取如今广泛运用于社会生活的各个领域。在接触网络信息抓取之前,大多数人会觉得这需要编程基础,也因此对信息抓取望而却步,但是随着技术的发展,诞生出了许多工具,借助这些工具我们编程小白也可以获取大数据加…

hbase官方网站声称的兼容是否是100%兼容?

根据[1]中的兼容矩阵,如下: 我们采用 hadoop3.1.2 hbase2.2.4 进行测试 $HBASE_HOME/logs/hbase-appleyuchi-master-Desktop.log 报错: desired level of robustness and ensure the config value of hbase.wal.dir points to a FileSystem mount that can pr…

开发asp.net2.0手机用网站 点滴[xgluxv]

最近一段时间一直在做一个给手机浏览的网站基于asp.net2.0,现在第一期已经到尾声,说说开发的感想。客户要求只要支持wap2.0的手机都能浏览(我刚开始想他们应该说得是属于智能手机级别的都能浏览,后来发现有点不对,他们的测试机很多…

linux创建永不过期用户,linux下如何设置用户密码永不过期_网站服务器运行维护...

linux中有几种文件类型_网站服务器运行维护linux中可分为6种文件类型,分别是:1、普通文件(数据文件);2、目录文件;3、设备文件;4、链接文件;5、管道文件;6、套接字文件,用于不同计算…

linux出站入站端口维护,linux下如何用iptables开放指定端口_网站服务器运行维护,linux,iptables,端口...

win10系统老是弹出垃圾广告怎么办_网站服务器运行维护win10系统老是弹出垃圾广告的解决方法是:1、打开控制面板,进入Internet选项;2、在打开的Internet属性窗口中,切换到【隐私】栏目;3、勾选【启用弹出窗口阻止程序】…

一套cms内容网站发布系统

利用空闲时开发的一套内容发布系统,本着省心省力简单实用的原则开发,采用微软的三层架构,winform登录验证方式。并没有多高明的技术,也没打算开源,有需要的同学可拿去使用。 此系统的产品定位在中小网站,但…