白话Elasticsearch48-深入聚合数据分析之 Percentiles Aggregation-percentiles百分比算法以及网站访问时延统计及Percentiles优化

news/2024/5/20 3:31:10/文章来源:https://artisan.blog.csdn.net/article/details/100079491

文章目录

  • 概述
  • 官方说明
  • 示例
  • Percentiles优化 compression

在这里插入图片描述


概述

继续跟中华石杉老师学习ES,第48篇

课程地址: https://www.roncoo.com/view/55


官方说明

Percentiles Aggregation: 戳这里
在这里插入图片描述

在这里插入图片描述

在这里插入图片描述


示例

需求: 网站访问时延统计

为了演示该功能,我们先建个索引,模拟一批数据

#新建索引
PUT /website
{"mappings": {"logs": {"properties": {"latency": {"type": "long"},"province": {"type": "keyword"},"timestamp": {"type": "date"}}}}
}
#模拟数据
POST /website/logs/_bulk
{ "index": {}}
{ "latency" : 105, "province" : "江苏", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 83, "province" : "江苏", "timestamp" : "2018-10-29" }
{ "index": {}}
{ "latency" : 92, "province" : "江苏", "timestamp" : "2018-10-29" }
{ "index": {}}
{ "latency" : 112, "province" : "江苏", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 68, "province" : "江苏", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 76, "province" : "江苏", "timestamp" : "2018-10-29" }
{ "index": {}}
{ "latency" : 101, "province" : "新疆", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 275, "province" : "新疆", "timestamp" : "2018-10-29" }
{ "index": {}}
{ "latency" : 166, "province" : "新疆", "timestamp" : "2018-10-29" }
{ "index": {}}
{ "latency" : 654, "province" : "新疆", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 389, "province" : "新疆", "timestamp" : "2018-10-28" }
{ "index": {}}
{ "latency" : 302, "province" : "新疆", "timestamp" : "2018-10-29" }

DSL:

#网站访问时延统计(50% 95% 99%的请求)
GET /website/logs/_search
{"size": 0,"aggs": {"latency_percentiles": {"percentiles": {"field": "latency","percents": [50,95,99]}},"latency_avg": {"avg": {"field": "latency"}}}
}

返回:

{"took": 3,"timed_out": false,"_shards": {"total": 5,"successful": 5,"skipped": 0,"failed": 0},"hits": {"total": 12,"max_score": 0,"hits": []},"aggregations": {"latency_avg": {"value": 201.91666666666666},"latency_percentiles": {"values": {"50.0": 108.5,"95.0": 627.4999999999997,"99.0": 654}}}
}

可知,

  • 50%的请求 在 108.5毫秒
  • 95%的请求 在 627.5毫秒
  • 99%的请求 在 654毫秒
  • 平均时延 201.9毫秒

数值的最大的值是多少,不是完全准确的

在这里插入图片描述

在这里插入图片描述


需求二:按地区分组后看下每个地区的 网站访问时延统计

GET /website/_search
{"size": 0,"aggs": {"group_by_province": {"terms": {"field": "province"},"aggs": {"latency_percentiles": {"percentiles": {"field": "latency","percents": [50,95,99]}},"latency_avg": {"avg": {"field": "latency"}}}}}
}

返回:

在这里插入图片描述


Percentiles优化 compression

compression 官方指导: 戳这里

在这里插入图片描述

TDigest算法,用很多节点来执行百分比的计算,近似估计,有误差,节点越多,越精准

compression ,限制节点数量最多 compression * 20 = 2000个node去计算 ,默认100

compression 越大,占用内存越多,越精准,性能越差

一个节点占用32字节,100 * 20 * 32 = 64KB

简单来说: 如果你想要percentile算法越精准,compression可以设置的越大

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_704517.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

白话Elasticsearch49-深入聚合数据分析之 Percentile Ranks Aggregation-percentiles rank以及网站访问时延SLA统计

文章目录概述官方说明案例概述 继续跟中华石杉老师学习ES,第49篇 课程地址: https://www.roncoo.com/view/55 官方说明 Percentiles Ranks Aggregation:戳这里 更多请参考官网 案例 需求:在200ms以内的,有百分之多少…

怎么取html网页中的样式,从建站到拿站 -- HTML和CSS基础

总有人会陪你在慌乱无序的生活里同步前行。。。---- 网易云热评一、简介HTML指的是超文本标记语言,使用标记标签来描述网页,标签是由尖括号和关键词组成,并且是成对出现,例如。二、一个完整的html网页周杰伦《说好不哭》词&#…

如何在时间紧迫情况下进行机器学习:构建标记的新闻 数据 库 开发 标记 网站 阅读1629 原文:How we built Tagger News: machine learning on a

如何在时间紧迫情况下进行机器学习:构建标记的新闻 数据 库 开发 标记 网站阅读1629 原文:How we built Tagger News: machine learning on a tight schedule 作者:David Robinson 翻译:Diwei 译者注:本文介绍了作者和…

织梦网站被黑客生成html,dedecms网站被挂马怎么处理

dedecms被批量挂马后如何处理?我们知道一般站长选择织梦系统是因为其支持生成静态页面以便于seo优化。但是根据西部数码west263.com开发工程师刘工介绍,一般被挂马的网站不单单是一个页面,目前的织梦挂马已经逐步演变呈多个目录,根…

jvm性能调优实战 - 61常用的JVM调优网站

文章目录线程Dump日志分析堆Dump可视化分析GC日志分析Alibaba ArthasAliabba jvmGeneratePerfMaPerfMa - XXFox (Java虚拟机参数分析)PerfMa - XSheepdog (Java线程Dump分析)PerfMa - XElephant (Java内存Dump分析)线程Dump日志分析 https://fastthread…

高并发高流量网站架构详解--转载

原文地址:http://www.ha97.com/818.html Web2.0的兴起,掀起了互联网新一轮的网络创业大潮。以用户为导 向的新网站建设概念,细分了网站功能和用户群,不仅成功的造就了一大批新生的网站,也极大的方便了上网的人们。但We…

零基础,最完整的WordPress建站教程

网站域名空间和数据库网站程序模板 1准备材料 【域名】 网址就相当于家的住址,记住和找到家的位置。可在阿里云,新网,爱名网或其它IDC商购买注册。 【空间和数据库】 就是盖房子的地基。同样可在阿里云,新网,爱名网…

微软新冠: 数据分析网站 COVID Insights

洞察疫情,微软推出新冠数据分析网站 COVID Insights COVID Insights 网站功能亮点 持续数月的新冠疫情一路肆虐、席卷全球,世界各地的科研人员都在为此奋战,希望通过最先进的技术逐步揭开新冠病毒的神秘面纱。 近日,微软亚洲研…

大型网站架构演化历程

http://www.hollischuang.com/archives/728 本文内容大部分来自《大型网站技术架构》,这本书很值得一看,强烈推荐。 大型网站系统的特点 高并发,大流量 需要面对高并发用户,大流量访问。Google 日均 PV 35 亿,日 IP 访问数 3 亿&a…

大型网站架构技术一览

http://www.hollischuang.com/archives/1132 本文内容大部分来自《大型网站技术架构》,这本书很值得一看,强烈推荐。 网站系统架构层次如下图所示: 1.前端架构 前端指用户请求到达网站应用服务器之前经历的环节,通常不包含网站业务逻辑&#…

Lambda架构与推荐在电商网站实践

王富平 现为1号店搜索与精准化部门架构师,之前在百度从事数据挖掘相关工作,对实时处理有着深刻的研究。一直从事大数据相关研发工作,2013年开发了一款SQL实时处理框架,致力于建设高可用的大数据业务系统。一、Lambda架构Lambda架构…

【数据分析】Python :视频网站数据清洗整理和结论研究

视频网站数据清洗整理和结论研究 要求: 1、数据清洗 - 去除空值 要求:创建函数提示:fillna方法填充缺失数据,注意inplace参数 2、数据清洗 - 时间标签转化 要求: ① 将时间字段改为时间标签 ② 创建函数提示&#…

京东前端:PhantomJS 和NodeJS在网站前端监控平台的最佳实践

http://www.infoq.com/cn/articles/practise-of-phantomjs-and-nodejs-in-jingdong 1. 为什么需要一个前端监控系统 通常在一个大型的 Web 项目中有很多监控系统,比如后端的服务 API 监控,接口存活、调用、延迟等监控,这些一般都用来监控后台…

手把手教您制作并发布个人网站或主页(一)(图解教程针对小白)

很多人都像我一样,从小就有个梦想,就是能自己制作一个属于自己的网站,下面就让我图解一下制作过程,针对广大小白,大神绕道。 首先,我推荐一款类似于记事本的编译工具,叫sublime2 Text2&#xff…

如何在github发布个人网站或开源项目-手把手教您制作并发布个人网站或主页(二)

(首先感谢留美博士czxttkl的技术支持maider.blog.sohu.com) 作为开源代码库以及版本控制系统,Github目前拥有140多万开发者用户。随着越来越多的应用程序转移到了云上,Github已经成为了管理软件开发以及发现已有代码的首选方法。…

github关联域名,创建个人网站教程终结篇

1.背景最近心血来潮,买了一个域名,本来要买fuckgfw的,没想到被抢注了。就拿自己的英文名买了一个,叫做www.garvinli.com。因为知道会有很多朋友不太清楚整个网站搭建的过程,所以在这里贴出之前的一些列教程。有的是两年…

python+flask+html/css+mysql+BAE 打造CSDN简历自动生成系统(附网站完全源码)

1.背景一直想自己动手写个web app玩玩,前几天看了一个github的resume自动生成的web-app,所以就动手仿造了一个csdn的简历生成器。结构很简单,前端是html/css文件(这个模仿了github的那个网页,因为博主不太懂前端&#…

什么是网站跳出率?一招教你如何处理高跳出率?

如果您管理自己的企业网站,或者负责报告网站效果,则高跳出率可能是您网站的祸根。为什么跳出率会上升?您如何解决?跳出率如何影响SEO? 这些是我们在为客户的网络营销工作中始终遇到的问题,下面继续阅读以找到如何解决高跳出率!或者,直接跳到有关如何解决高跳出率的问题…

难道是我洞悉了CSDN网站订阅专栏收益的秘密?带你看看网站专栏一天营收几何?

10月4号,当你们都在欢度国庆的时候,作为一个苦逼攻城狮,我还在默默滴加着班。唯一能让我老怀宽慰的是,一直默默耕耘的专栏订阅还能给自己每天加个鸡腿。但是,不知道是网站的开发国庆玩嗨了还是急着过节留下了一个大bug…

见光死怎么办?如何提升用户对网站的好感,提升转化?

不知道大家有没有过面基的经历?如果有的话,相信大家都希望自己能在面基的时候给对方留下一个好的印象。因为一旦给对方留下一个好印象,那么接下来的相处都会变得轻松,愉悦;相反如果第一次见面就给对方留下了不好的或者一般的印象都有可能导致后面的故事提前结束。 其实,…