Python_记一次网站数据定向爬取实现

news/2024/5/20 15:47:54/文章来源:https://blog.csdn.net/weixin_30794851/article/details/98017356

记一次网站数据定向爬取实现

by:授客 QQ1033553122

测试环境:

Python版本:Python 3.4

Win7

 

请勿用于商业及非法用途,仅供学习研究用,否则后果自负

 

 

数据爬取场景

如下,打开网站查询页面,输入关键字,点击查询

Python_记一次网站数据定向爬取实现

 

 

如上图,如果记录数比较多,还会有翻页按钮出现

 

 

 

Python_记一次网站数据定向爬取实现 

如上图,右侧还有个最新资助列表,和左侧记录是同一个性质

 

如下图,点击列表记录,打开以下界面

 

Python_记一次网站数据定向爬取实现 

 

数据爬取需求:获取上述红色选框部分的数据,因为记录检索可能比较多,可能有几百页,所以还要求可以只获取指定翻页数量

 

程序实现思路

1、获取关键字查询url

/index.php?m=&c=Search&a=index&keyword=丰巢&hash=dkFMbUhBTkJIPTNCRjc3Z09yczZVOWRONS1xRE89cU9JPThkTnYzeEM5MW1U&__hash__=77b9003885166213582f27c5e6098d21_53f9dce8d49ffef0259a38cb6a6a3c8b&p=1

 

2、获取记录页面访问url

 

3、获取数据

 

4、翻页查询,并重复1-3

由第1点可知,翻页查询仅需要替换 &p=1中的数字

 

需要注意的地方,就是要过滤右侧的 最新资助 列表中的记录链接,另外,要控制翻页数,所以访问xxx……&p=1的链接时,就要获取总记录数,然后计算总的翻页数量

 

实现效果

 

Python_记一次网站数据定向爬取实现 

 

代码下载

https://pan.baidu.com/s/1HJkGUgyZOxkjTNpPBrJKzA

 

 

转载于:https://www.cnblogs.com/shouke/p/10157470.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_846548.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

大型网站架构演变和知识体系

之前也有一些介绍大型网站架构演变的文章,例如LiveJournal的、ebay的,都是非常值得参考的,不过感觉他们讲的更多的是每次演变的结果,而没有很详细的讲为什么需要做这样的演变,再加上近来感觉有不少同学都很难明白为什么…

v2013调试无法访问此网站 localhost 拒绝了我们的连接请求

问题描述: 别人给的服务器代码,在本地部署以后调试的,localhost:8080 可以访问,localhost:2524访问不了需要改什么配置吗 解决思路: 这种只能在服务器上访问,可能端口号2524…

如何优化您的网站以提高速度

大家好! 今天,我们有一个来宾帖子,介绍有关如何加快网站速度的一些提示! 他目前正在一家电子商务网站上工作,他的任务之一是使网站快速加载。 因此,请在下面阅读! 〜迈克 网站速度已成为诸如Go…

如何优化程序提高运行速度_如何优化您的网站以提高速度

如何优化程序提高运行速度大家好! 今天,我们有一个来宾帖子,介绍有关如何加快网站速度的一些提示! 他目前正在一家电子商务网站上工作,他的任务之一是使网站快速加载。 因此,喜欢在下面阅读! 〜…

网站托管平台_托管Kubernetes平台综述

网站托管平台在容器协调器的竞争中,Kubernetes不断前进。 但是,就像我在Docker主机上撰写我的文章时一样,人们经常被困在将基础架构投入生产的步骤上。 与我最初写这篇文章时不同,该行业取得了长足的发展,正如您将看到…

PHP的网站主要攻击方式有哪些?

1、命令注入(Command Injection) 2、eval注入(Eval Injection) 3、客户端脚本攻击(Script Insertion) 4、跨网站脚本攻击(Cross Site Scripting, XSS) 5、SQL注入攻击(SQL injection) 6、跨网站请求伪造攻击(Cross Site Request Forgeries, CSRF) 7、Session 会话劫持(Session …

Xshell命令行学习,宝塔创建网站

参考链接 :https://blog.csdn.net/u014074697/article/details/86241642 宝塔创建面板-在安全组新添加一个端口 浏览器输入Bt-panel网址,登入用户名和密码即可进入

curl网站开发指南

整理curl命令: curl www.sina.com curl -o [文件名] www.sina.com curl -L www.sina.com curl -i www.sina.com curl -I www.sina.com curl -v www.sina.com curl --trace output.txt www.sina.com curl --trace-ascii output.txt www.sina.com php-curl这个库也不…

电商购物网站(登陆注册购物车详情页等)(仿jd)

电商购物网站(仿jd) 源码链接: https://gitee.com/ZRXXUAN/shopping https://github.com/ZRXXUAN/shopping 介绍 仿照jd写的电商购物网站 可以实现基本功能,登录、注册与数据库交互,购物车,详情页&…

BS4+Openpyxl循环爬取114网站黄页信息存入excel + tinker界面输入(开源代码)

使用beautifulSoup框架爬取114黄页数据。 代码开源在gitee地址: https://gitee.com/aismarter/ScrapySpider_bs4_openpyxl_tinker github地址: https://github.com/Aismarter/ScrapySpider_BS4_openpyxl_tinker 分析网站 首先打开网页,分析爬取网页的…

简易购物网站JSP

下载源码 开发工具: 1.myeclipse2014 2.SQLServer2012 开发思路: 开发思路及过程请详看附件内开发文档 项目构造: 数据库说明: 需创建一个数据库(shopDB),三个表(users、goods、shopCart),空表即可,后…

宝塔部署java项目建站最全爬坑博客-为啥叫最全,因为我爬的坑最多

1.首先你要有阿里云域名,然后在阿里云上解析A类你的域名,这就不多说了 2.进入宝塔面板后,你要先安装环境,最好是编译安装,因为求稳,急速安装不稳定,但是像tomcat这类app程序没有编译安装哦 环境如果都安装好了,那么我们就开始配置项目了 首先,要看我们需要运行的项目是什么,…

Java-POI大数据分析 -实体店选址POI数据分析-5天,多网站爬虫数据融合处理

实体店选址大数据分析-保定地区-POI数据-powermap-爬虫获取真实数据讲一下项目的思路 预期通过获得poi数据进行分析,以为实体店选址进行决策 数据源 58同城店铺转让数据 安居客小区详细信息数据 安居客小区平均房价数据 上爬虫代码 package wubaSpider;import java.io.FileO…

网站漏洞扫描工具AWVS相关问题——Access Denied for your user role. Contact your Administrator.

在AWVS登录用户后,在选择自己要使用的功能时会出现“Access Denied for your user role. Contact your Administrator.”问题,即“拒绝访问您的用户角色。请与管理员联系。” 此问题的出现是由于在软件处于未激活状态所致。 解决方案: 1、AW…

AWVS启动后显示“无法访问此网站”的解决方法

当双击桌面的“Acunetix图标”,自动打开浏览器跳转页面,结果页面显示“无法访问此网站” 按WindowsR键输入services.msc打开服务界面查看Acunetix服务是否开启,一般是两个服务 右键选择服务,选择启动,将两个服务全部启…

网站漏洞扫描工具AWVS_v13下载和安装

Acunetix Web Vulnerability Scanner(简称AWVS)是一款知名的网络漏洞扫描工具,它能够测试你的网站安全,检测网站的安全漏洞,如sql 注入,交叉站点脚本等等。 AWVS_v13软件的下载 1、AWVS漏洞扫描工具是一款…

技术分享,如何使用图数据库构建网站后台数据库?

在数据库设计开发之初,开发人员都会面临一个重要的选择:用哪个数据库呢?用什么数据库技术来实现呢?在本文中,笔者将以构建一套文档系统为例,具体阐述用Ultipa Graph如何将开发需求转化成图数据库的存储结构…

招聘网站代码模板 mysql_招聘网站爬虫模板

招聘网站爬虫模板项目的创建项目的设置中间件的理解与使用selenium的基本使用爬虫项目的创建:scrapy startproject spiderNamecd spiderNamescrapy genspider name www.xxx.com项目的设置:settings的基础设置:USER_AGENTMozilla/5.0 (Windows…

【Flask】nginx+uwsgi+flask部署个人网站

部署flask前提 针对nginx和uwsgi已经安装完毕,并且已经正确配置 第一步,安装项目必要的库 因为我自己是用的centos7自带的python2.7环境,所以直接先在服务器上pip安装flask,如果项目需要其他的库,也需要提前安装 p…

【Django】总结用Django框架搭建表白网站

前言 2020.2.14是情人节,2020.2.13花了整整一晚搭表白网站,由于第一次用Django框架,遇到很多坑,在此记录 搭建Django框架的网站需要哪些东西 一台云服务器(如阿里云) 云服务器上安装好配置环境&#xff…