MySQL百万级高并发网站优化

news/2024/5/15 19:35:15/文章来源:https://blog.csdn.net/weixin_34238633/article/details/91548299

为什么80%的码农都做不了架构师?>>>   hot3.png

一网站以下简称A站,这A站在年后流量猛增从一天的七八十万猛跑到了好几百万的IP,一天下来接近一千万的PV让整个服务器在高压下超负荷的工作着,时不时的服务就出现宕机。 最首先反映出情况的是数据统计,一天下来一个数据也没有统计上,原来是MySQL停止工作了。 本文就围绕这个问题来讲讲我们公司几个技术人员的解决方案。 1. MySQL服务器集群 由于是小公司在资金和成本上都有所限制,而且在技术上也没有几个技术员接触过,所以这个方法自然就让大伙否决了。 这里说说我个人的理解!做集群不但添加资费的开销,而且在技术上也有很大的挑战,对于我们公司目前的情况是不大现实的。集群无非就是把一台服务器的压力转接到两台或是多台服务器上,我是这么理解的,也许我理解有误,还请大家指教。 2. 分而治之 这个方法和集群差不多,不过是把统计的代码放在不同的服务器上跑,由于公司有不少配置低的服务器跑几万到几十万IP还是没有问题的,我们可以把几百万流量分成十来个几十万的量分而统计。 优点:充分的利用了现在的资源,解决了目前的问题。 缺点:这样的方法不是长久之计,迟早还是会出问题的。而且在统计数据的时候比较麻烦。 3. 统计代码的修改 由于之前采用的是在插入数据之前加以判断,这个IP是否存在,来路等的处理,无形中增加了服务器的压力,所以大伙把统计代码改成来一个就插入数据库,不管三七二十一等以后在处理。 这个方法基本上把当天的数据保留下来了,可是在处理的时候由于数据量的庞大,来来回回还是把服务器跑死了,而且在插入的时候由于当时设计数据结构的时候留有的索引,也大大的消耗了不少的服务器资源。 那么把索引去掉到最后处理的时候又是老慢的,得不偿失。 4. 统计方式的修改 最后这一个方法,效果非常的明显。那是什么方法呢! 这里就主要介绍这个方法: A、 保留原用的数据结构不变,并把所有的数据按一定的结构存入文件 结构:可以是xml,json,也可以是你自己想的任何有规律的数据排放。 例如: 1 221.2.70.52,httpwww.baidu.com,windowxprn 2 221.2.70.52,httpwww.baidu.com,windowxprn 写入文件fopen,fwriteno 这里介绍一个非常好用的技巧,也许大家都知道,但是像我这样的菜鸟大概都不知道,那就是用error_log,这不是写错误日志的吗对就是他,非常方便。 格式: error_log(“内容”, 3, ”date.dat”); 这里我就不说他的具体用了,不明白的朋友可以查一下手册。 B、数据文件的命名 为什么这里要讲文件的命名呢如果就一味的把数据的写入文件不作任何的处理那么他和直接插入数据库有多大的区别呢那么我们所作的一切都是无用功了。 首先是在时间的利用上date(‘YmdH’)得到的值是如:2008121112这有什么好入,这样一来这个数据就是一个小时一个文件必免了文件过大,而且不用去判断自动生成。 IP的应用:由于在很多数据上都是一个IP操作的,所以把相同IP的数据放在一个文件里在后面的处理就非常方便处理。请看后面的介绍,这里我们取IP成三位为文件名字的一部分。 C、数据的导入处理 通过以上两位的操作当天的数据会一个不少的保留下来,接下来怎么处理其实并不是很重要了。但是这里还是讲讲我的想法。 入库前处理: 前面讲到把IP三位相同的放一个文件就是为了入库前到它们进行处理,首先可以用最笨的方法把数据拆成N个数据。在进行重复数据的删除。 如果一个IP浏览多页那么PV在这里就可以得到统计,并把访问的页面进行处理,组成新的数据。 导入方法: 这里要介绍一下数据的导入方法
$sql=”LOAD DATA INFILE ’”.$file.”‘ INTO TABLE `test` FIELDS TERMINATED BY ’,‘ LINES TERMINATED BY ’rn’(`time` , `md5`)”;
就这一个语句,在导入几十万数据的时候可以说是十分快速的,用法我这里也不过多介绍了,大家有不明白的可以查手册,所以说解决数据库的瓶颈的办法不定要加设备,也不一定要换数据库,只要换一个思路就能解决不少问题。

转载于:https://my.oschina.net/766/blog/211410

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_712303.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

白山搜索引擎优化收费_在网络推广中,SEO排名优化是成本最低的方式

互联网时代企业不得不面对的是互联网对企业的冲击,利用互联网做推广,对于企业来说是一个很好的选择,毕竟人们已经习惯了互联网的使用。 然后,只要有人通过互联网寻找信息,就有人通过互联网推广信息。 其中最具代表性的…

另类网页设计:30个复古怀旧风格的网站作品

复古怀旧风格的网页设计是一种独特的网页设计模式。在过去的几年里,我们看到很多复古设计的例子,其中的一些看起来真的很不错,并提供出色的用户体验。当然,复古设计不是适合任何类型的网站,设计必须是故事的一部分并有…

移动一个网站集所使用的内容数据库

在默认的情况下,每个SharePoint Web应用程序只会使用一个内容数据库(Content Database)。随着在这个Web应用程序中创建的网站集越来越多,或者网站集中的数据越来越多,这个内容数据库也在不断的增大。 也许是为了提高性能,也许是原…

linux系统入门命令大全,Linux常用命令5 - Linux 入门常用命令_Linux教程_Linux公社-Linux系统门户网站...

Linux与用户有关的命令passwd命令出于系统安全考虑,Linux系统中的每一个用户除了有其用户名外,还有其对应的用户口令。因此使用useradd命令增加时,还需使用passwd命令为每一位新增加的用户设置口令;用户以后还可以随时用passwd命令…

读《高性能网站建设指南》有感

这本书最大的特点是把管理人员和技术人员从传统的思维模式中解放出来,对于大多数管理人员和技术人员来说当谈到高性能网站和性能瓶颈时,总是习惯从系统硬件、网络、数据库、中间件、系统架构等方面去思考问题,诚然这些是至关重要的&#xff0…

网站设计者:提高网页打开速度的一些小技巧

互联网带宽越来越宽,似乎让网页的加载速度得到了质的飞跃。其实不然,因为随着带宽的提高,网页上的对象也越来越多,因此加快网页打开速度还是一个重要的课题。加快网页的打开速度,有三个路径,一是提高网络带…

extjs 网站首页table布局,秀一下

用extjs做首页,布局是最难的,我参考网上发挥的,看看吧。呵呵 这个只是首页的中间部分,东、西、南、北都还有东西的,只是没有截图下来。(其中三个板块样式应该是一样的,这里为了显示多样化。所以…

springboot做网站_Github点赞接近10万的SpringBoot学习教程+实战推荐!牛批!

很明显的一个现象,除了一些老项目,现在 Java 后端项目基本都是基于 Spring Boot 进行开发,毕竟它这么好用以及天然微服务友好。不夸张的说,Spring Boot 是 Java 后端领域最最最重要的技术之一,熟练掌握它对于 Java 程序…

html推荐网站,20个经典bootsrtap后台html网站模板推荐

今天为大家推荐20款不同风格的Bootstrap后台管理模板,每一款都经典可用,能预览和下载,保证让你挑得眼花缭乱。1,Simpli flag蓝色Simpli Flat蓝色管理模板是一款采用Flat扁平风格的响应式管理模板,功能齐全,…

新练习作,实验室网站首页——未采用

一直很喜欢蓝色 由于种种猫腻,残鸟! 每个孩纸的作品后面都有一段悲伤滴往事,而我滴充满了猫腻! 擦~~不解释 让某些银的感觉史一会吧,我先自由的飞一会!转载于:https://www.cnblogs.com/meimeiwa/archive/2011/03/12/in…

ECSHOP商城网站建设之自定义调用广告方法(二)

原文地址:http://www.cnblogs.com/zgzy/p/3598991.html 使用ecshop进行商城网站建设时,ecshop默认的很多功能对于我们个性化设计之后不太使用。今天我们主要是来分析如果自定义调用广告位:1.调用单个广告位时我们可以使用:{insert…

网站建设过程中的:重要页面、关键页面、过程页面、结果页面

网站的页面类型和等级可做归类。 有些是“重要页面”,有些是“关键页面”,有些是“过程页面”,有些是“结果页面”。 这些根据页面存在的目的和作用分门别类。 “重要页面”和“关键页面”等级高于“过程页面”和“结果页面” 用户行为分析这…

网站的安全登录认证设计

用户登录是任何一个应用系统的基本功能,特别是对于网上银行系统来说,用户登录的安全性尤为重要。如何设计一个网站的安全登录认证程序,是本文主要讨论的问题。静态密码存在着比较多的安全隐患,***者有很多手段获得静态密码&#x…

借双慧眼识别钓鱼欺诈网站

借双慧眼识别钓鱼欺诈网站 钓鱼欺诈网站,又称仿冒网站。这些网站的内容主要是复制那些正常网站的内容,使得网民粗一看几乎和正常网站一模一样,区别仅限于浏览器的地址。 曾有新闻报道有骗子在北京街头做了个假ATM机,这ATM机和市民…

php漏洞书籍,PHP漏洞全解(一)-PHP网站的安全性问题

845002618491765410.jpg (163.16 KB, 下载次数: 58)2015-11-13 14:40 上传针对PHP的网站主要存在下面几种攻击方式:1、命令注入(Command Injection)2、eval注入(Eval Injection)3、客户端脚本攻击(Script Insertion)4、跨网站脚本攻击(Cross Site Scripting, XSS)5、…

博文视点大讲堂41期——SEO难点之网站内部链接结构 圆满成功

博文视点大讲堂41期——SEO难点之网站内部链接结构 圆满成功 2010年11月21日,电子工业出版社博文视点在中关村图书大厦五层如期举办了“博文视点大讲堂第41期:SEO难点之网站内部链接结构”,本次活动邀请经典畅销图书《网络营销实战密码》作者…

一步一步SharePoint 2007之十七:解决实现Form认证后无法再用SharePoint Designer编辑网站的问题...

值得提一下的是,或许Microsoft公司还没有考虑到实现Form认证后无法再用SharePoint Designer编辑网站的问题,所以这里讲到的方法并不是彻底的解决问题,而是用一个简单的方法巧妙的避开这个问题。希望SharePoint Designer正式版出来后&#xff…

说说大型高并发高负载网站的系统架构 (转)

By Michael转载请保留出处:俊麟 Michael’s blog (http://www.toplee.com/blog/?p71)Trackback Url : http://www.toplee.com/blog/wp-trackback.php?p71 我在CERNET做过拨号接入平台的搭建,而后在Yahoo&3721从事过搜索引擎前端开发,又…

php网站mysql数据库导入工具_phpstudy通过phpMyAdmin导入mysql数据库方法

不是我们作品的用户,也可联系上面QQ提供有偿人工指导服务导入Mysql数据库只用导一次,以后项目出问题了,也不用操作数据库了。但是运行程序的时候一定保证phpstudy是启 动状态。1、a、把电脑上的杀毒软件必须先退出再下载安装。B 防火墙也尽量…

ASP.NET网站防止SQL注入攻击

目的: 对输入的字串长度,范围,格式和类型进行约束. 在开发 ASP.NET 程序时使用请求验证防止注入攻击. 使用 ASP.NET 验证控件进行输入验证. 对不安全的输出编码. 使用命令参数集模式防止注入攻击. 防止错误的详细信息被返回到客户端. 概述 : 你应该在程序中验证所有的不信任输入…