瞬时响应:网站的高性能架构

news/2024/5/10 7:17:15/文章来源:https://blog.csdn.net/weixin_33734785/article/details/89658454

一、网站性能测试

(1)性能测试指标:①响应时间;②并发数;③吞吐量;④性能计数器;
(2)性能测试方法:①性能测试;②负载测试;③压力测试;④稳定性测试;
(3)性能优化策略:
  ①性能分析:检查请求处理各个环节的日志,分析哪个环节响应时间不合理,检查监控数据分析影响性能的因素;

②性能优化:Web前端优化,应用服务器优化,存储服务器优化;

二、Web前端性能优化

(1)浏览器访问优化:

①减少http请求:因为http是无状态的,每次请求的开销都比较昂贵(需要建立通信链路、进行数据传输,而服务器端对于每个http请求都需要启动独立的线程去处理);减少http的主要手段是合并CSS、合并JS、合并图片(CSS精灵,利用偏移定位image);

②使用浏览器缓存:设置http头中Cache-Control和Expires属性;

③启用压缩:可以对html、css、js文件启用Gzip压缩,可以达到较高的压缩效率,但是压缩会对服务器及浏览器产生一定的压力;

④CSS放页面最上面,JS放页面最下面:浏览器会在下载完全部CSS之后才开始对整个页面进行渲染,因此最好将CSS放在页面最上面;而浏览器在加载JS后会立即执行,有可能会阻塞整个页面,造成页面显示缓慢,因此最好将JS放在页面最下面;

⑤减少Cookie传输:一方面,太大的Cookie会严重影响数据传输;另一方面,对于某些静态资源的访问(如CSS、JS等)发送Cookie没有意义;

(2)CDN加速:

CDN(内容分发网络)仍然是一个缓存,它将数据缓存在离用户最近的地方,便于用户以最快速度获取数据。即所谓的“网络访问第一跳”,如下图所示:

img_8f031a6d0dc6d84db34ba9b4e3953367.jpe
CDN

CDN只将访问频度很高的热点内容(例如:图片、视频、CSS、JS脚本等访问频度很高的内容)进行缓存,可以极大地加快用户访问速度,减少数据中心负载。

(3)反向代理:
反向代理服务器位于网站机房一侧,代理网站Web服务器接收HTTP请求,对请求进行转发,如下图所示:


img_ab493d9fb8ed15f016df25d327f8e6f7.png
利用反向代理的网站架构

反向代理服务器具有以下功能:
①保护网站安全:任何来自Internet的请求都必须先经过代理服务器
②第一次被访问的静态内容别缓存在反向代理服务器上,加速Web请求响应速度,减轻Web服务器的负载压力
③负载均衡:均衡地分发请求,平衡集群中各个服务器的负载压力

三、应用服务器性能优化

(1)分布式缓存:

PS:网站性能优化第一定律:优先考虑使用缓存优化性能。缓存是指将数据存储在相对较高访问速度的存储介质中(如内存),以供系统进行快速处理响应用户请求。

①缓存本质是一个内存Hash表,数据以(Key,Value)形式存储在内存中。

img_edefa31d58477a58c20140396bdf670c.png
Hash表存储

②缓存主要用来存放那些读写比很高、很少变化的数据,如商品的类目信息、热门商品信息等。

③分布式缓存架构:一方面是以以JBoss Cache为代表的互相通信派;另一方面是以Memcached为代表的互不通信派;

JBoss Cache需要将缓存信息同步到集群中的所有机器,代价比较大;而Memcached采用一种集中式的缓存集群管理,缓存与应用分离部署,应用程序通过一致性Hash算法选择缓存服务器远程访问缓存数据,缓存服务器之间互不通信,因而集群规模可以轻易地扩容,具有良好的伸缩性。

img_a8bb8acea1a1a168f900beae4d9a1350.png
image

Memcached由两个核心组件组成:服务端(ms)和客户端(mc),在一个memcached的查询中,mc先通过计算key的hash值来确定kv对所处在的ms位置。当ms确定后,客户端就会发送一个查询请求给对应的ms,让它来查找确切的数据。因为这之间没有交互以及多播协议,所以 memcached交互带给网络的影响是最小化的。

img_83b0678143b8d465f079d9266f922bd8.jpe
image

(2)异步操作:

①使用消息队列将调用异步化,可改善网站的扩展性,还可改善网站性能;

img_8380169c10241920afa7798eea2ce7de.jpe
image

②消息队列具有削峰的作用->将短时间高并发产生的事务消息存储在消息队列中,从而削平高峰期的并发事务;

*PS:*****任何可以晚点做的事情都应该晚点再做。前提是:这个事儿确实可以晚点再做。

(3)使用集群:

①在高并发场景下,使用负载均衡技术为一个应用构建多台服务器组成的服务器集群;

img_8c1cfe007a2b5b64d221a20a335a9333.jpe
image

②可以避免单一服务器因负载压力过大而响应缓慢,使用户请求具有更好的响应延迟特性

③负载均衡可以采用硬件设备,也可以采用软件负载。商用硬件负载设备(例如出名的F5)成本通常较高(一台几十万上百万很正常),所以在条件允许的情况下我们会采用软负载,软负载解决的两个核心问题是:选谁、转发,其中最著名的是LVS(Linux Virtual Server)。

PS:LVS是四层负载均衡,也就是说建立在OSI模型的第四层——传输层之上,传输层上有我们熟悉的TCP/UDP,LVS支持TCP/UDP的负载均衡。

LVS的转发主要通过修改IP地址(NAT模式,分为源地址修改SNAT和目标地址修改DNAT)、修改目标MAC(DR模式)来实现。有关LVS的详情请参考:http://www.importnew.com/11229.html

(4)代码优化:

①多线程:使用多线程的原因:一是IO阻塞,二是多CPU,都是为了最大限度地利用CPU资源,提高系统吞吐能力,改善系统性能;

img_3602329a1d95131550e1a570502acb7e.png
image

②资源复用:目的是减少开销很大的系统资源的创建和销毁,主要采用两种模式实现:单例(Singleton)和对象池(Object Pool)。例如,在.NET开发中,经常使用到的线程池,数据库连接池等,本质上都是对象池。

③数据结构:在不同场合合理使用恰当的数据结构,可以极大优化程序的性能。

img_1974bf43deb7250a88d8859d88705b04.gif
image

④垃圾回收:理解垃圾回收机制有助于程序优化和参数调优,以及编写内存安安全的代码。这里主要针对Java(JVM)和C#(CLR)一类的具有GC(垃圾回收机制)的语言。

img_6bbfc69b18943d097c6bd8c2309644e0.png
image

四、存储性能优化

(1)机械硬盘 还是 固态硬盘?

①机械硬盘:通过马达驱动磁头臂,带动磁头到指定的磁盘位置访问数据。它能够实现快速顺序读写,慢速随机读写

②固态硬盘(又称SSD):无机械装置,数据存储在可持久记忆的硅晶体上,因此可以像内存一样快速随机访问

在目前的网站应用中,大部分应用访问数据都是随机的,这种情况下SSD具有更好的性能表现,但是性价比有待提升(蛮贵的,么么嗒)。

(2)B+树 vs LSM树

①传统关系型数据库广泛采用B+树,B+树是对数据排好序后再存储,加快数据检索速度。

img_416a1b17f4bc9055db554500393f6e2c.jpe
image

PS:目前大多数DB多采用两级索引的B+树,树的层次最多三层。因此可能需要5次磁盘访问才能更新一条记录(三次磁盘访问获得数据索引及行ID,一次数据文件读操作,一次数据文件写操作,终于知道数据库操作有多麻烦多耗时了)

②NoSQL(例如:HBase)产品广泛采用LSM树:

具体思想是:将对数据的修改增量保持在内存中,达到指定的大小限制后将这些修改操作批量写入磁盘。不过读取的时候稍微麻烦,需要合并磁盘中历史数据和内存中最近的修改操作,所以写入性能大大提升,读取时可能需要先看是否命中内存,否则需要访问较多的磁盘文件。

LSM树的原理是:把一棵大树拆分成N棵小树,它首先写入内存中,随着小树越来越大,内存中的小树会被清除并写入到磁盘中,磁盘中的树定期可以做合并操作,合并成一棵大树,以优化读性能。

img_6af9d4d25bf9e051a0772a6e744fb443.jpe
image

LSM树的优势在于:在LSM树上进行一次数据更新不需要磁盘访问,在内存即可完成,速度远快于B+树。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_764146.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

建站手册-网站主机:网站主机的服务器技术

ylbtech-建站手册-网站主机:网站主机的服务器技术1.返回顶部 1、http://www.w3school.com.cn/hosting/host_technologies.asp2、2.返回顶部1、本节介绍一些最常用的的主机技术。 Windows 主机 Windows 主机是运作在 Windows 操作系统上的主机服务。 如果您使用ASP作…

【PHP】五分钟教你编写一个实时弹幕网站

由于博主是个忠实的英雄联盟粉丝,所以经常观看一些明星大神的直播。而一谈到直播,肯定会看到满屏幕飘来飘去的弹幕。那么问题来了,这些视频弹幕网站如何做到实时同步的?PHP如何开发一个类似的网站? 首先要搞定的是前端…

django搭建一个小型的服务器运维网站

前言 不管是运维还是开发抑或是测试,工作中不免会和Linux服务器打交道,常见的操作譬如:查看CPU或内存状态、查看和修改服务器时间、查看或者修改服务器配置文件、实时查看或回看系统的日志、重启服务器中某个进程等。如果不在服务器旁&#x…

请求https前缀的网站验证SSL证书的解决方案之一

from requests.packages.urllib3.exceptions import InsecureRequestWarning# 禁用安全请求警告requests.packages.urllib3.disable_warnings(InsecureRequestWarning) 转载于:https://www.cnblogs.com/weiwei-python/p/10118999.html

基于 vue+element ui 的cdn网站(多页面,都是各种demo)

前言:这个网站持续更新中...,有网上预览,github上也有源码,喜欢记得star哦,欢迎留言讨论。 网站地址:我的个人vueelement ui demo网站 github地址:yuleGH github (喜欢记得star哦) 附&#xff…

Zabbix监控Low level discovery实时监控网站URL状态

今天我们来聊一聊Low level discovery这个功能,我们为什么要用到loe level discovery这个功能呢? 很多时候,在使用zabbix监控一些东西,需要对类似于Itens进行添加,这些items具有一些共同特性, 如果说某些特…

P9架构师讲解从单机至亿级流量大型网站系统架构的演进过程

阶段一、单机构建网站 网站的初期,我们经常会在单机上跑我们所有的程序和软件。此时我们使用一个容器,如tomcat、jetty、jboos,然后直接使用JSP/servlet技术,或者使用一些开源的框架如mavenspringstructhibernate、mavenspringspr…

让你高效工作的7大工具类网站

一 Smallpdf——最好的PDF在线无损转换工具 对于专业的 PDF 工作者或 PDF 的重度使用者来说,目前比较流行的几款PDF处理工具,包括著名的Adobe acrobat原版工具以及国内流行的福昕PDF处理套件。但是对于普通的学生党和上班族来说,平时都是用PD…

网站如何防止sql注入攻击的解决办法

首先我们来了解下什么是SQL注入,SQL注入简单来讲就是将一些非法参数插入到网站数据库中去,执行一些sql命令,比如查询数据库的账号密码,数据库的版本,数据库服务器的IP等等的一些操作,sql注入是目前网站漏洞…

从团购网的漏洞看网站安全性问题

自从9月份在同事推荐下在某团购网买了一份火锅的套餐后,就迷上了,几乎每天必去浏览一遍,看看有什么又便宜又好吃的。元旦期间当然也不例外,1号那天上午,看到了XXX团购网的“VIP会员0元领红包”活动,0元&…

社会工程学攻击之网站钓鱼

前言网络给了我们方便的同时,但也并不总是那么美好。还记得邀请苍蝇到它的客厅做客的蜘蛛吗?还记得帮助蝎子渡河的乌龟吗?这些故事都包含了猎物的天真和猎手的肮脏。互联网也是如此,其中中充斥着诱惑的陷阱、阴暗的角落、恶意的行…

[技术分享] 20110803,Web 代理客户端通过 TMG ISA 不能访问新浪微博等网站

Web 代理客户端通过 TMG/ISA 不能访问新浪微博等网站,Web 客户端返回错误:" Error Code: 502 Proxy Error. The request is not supported (50)”。 这类问题一般是由于网站回复的数据是压缩的所导致。遇到此类问题,您可以尝试以下方法…

网站建设流程图

网站建设流程 网站建设包括域名注册查询、网站策划、网页设计、网站功能、网站优化技术、网站内容整理、网站推广、网站评估、网站运营、网站整体优化、网站改版等,这里用一张图概括了网站建设的基本流程,需要的朋友可以参考下, 常见的前端产…

收藏网站制作常用经典css.div.布局.设计实例打包下载2

点击下载:多功能导航Demo.rar 点击下载:发一个选项卡动态增删的效果.rar 点击下载:仿yahoo的特色服务内容切换效果.rar 点击下载:给图片加上边框[1].(仿胶卷).rar 点击下载:国外网站的一个效果.rar 点击下载&#xff1…

协助用户搜寻您的网站 { 创建一个OpenSearch }

导言 现代浏览器其中一个最美好的特点, Microsoft Internet Explorer 和 Mozilla Firefox 的浏览器右上角有一个搜索栏在。有了这个工具,您可以很快的进行搜索任何数目的网站,无须首次访问他们的搜索页。 如何搜索您的网站是存在一个XM…

大型网站技术架构(六)网站的伸缩性架构

2019独角兽企业重金招聘Python工程师标准>>> 网站系统的伸缩性架构最重要的技术手段就是使用服务器集群功能,通过不断地向集群中添加服务器来增强整个集群的处理能力。“伸”即网站的规模和服务器的规模总是在不断扩大。 1、网站架构的伸缩性设计 网站的…

《Flash建站技术》系列6-LoadVars数据提交与表单处理

1.LoadVars vs getURLsend()getURL有很多的限制&#xff0c;LoadVars则弥补了这一点Flash时间轴脚本:<?xml:namespace prefix o ns "urn:schemas-microsoft-com:office:office" />System.useCodepagetrue;signBtn.onReleasefunction(){var formVars:LoadVar…

C++在线编程网站

1、推荐 https://wandbox.org/ 2、https://www.tutorialspoint.com/compile_cpp_online.php 3、https://www.anycodes.cn/#/OnlineCode 4、https://tool.lu/coderunner/ 测试&#xff1a; #include <iostream>using namespace std;int main() {cout<<"input s…

我记录网站综合系统 -- 技术原理解析[11:ActionProcessor流程-wojilu核心]

这篇文章不是专门讲数据缓存的&#xff0c;但是这里有大量缓存内容&#xff0c;wojilu的缓存系统近期升级了&#xff0c;可能我的理解不是最正确的。 改日将会写专门的缓存文章。 源代码位置&#xff1a;\Web\Mvc\Processors&#xff1a;ActionProcessor.cs Config -> wojil…

大型网站的高可用分析

本文主要分析网站的高可用性&#xff0c;从应用需求、用户角度展开分析。 1.1 高可用性 “高可用性”(High Availability) 通常用来描述一个系统&#xff0c;经过特殊设计&#xff0c;减少停止服务的时间&#xff0c;从而使其服务保持高度的可使用性。 计算机系统的可靠性用平均…