python 爬取数据还要下载scrapy吗_在Python3.5下安装和测试Scrapy爬网站

news/2024/5/9 0:01:24/文章来源:https://blog.csdn.net/weixin_30855927/article/details/114400434

本帖最后由 xandy 于 2017-3-2 16:13 编辑

1. 引言

Scrapy框架结构清晰，基于twisted的异步架构可以充分利用计算机资源，是爬虫做大的必备基础。本文将讲解如何快速安装此框架并使用起来。

2. 安装Twisted

2.1 同安装Lxml库

(参考《为编写网络爬虫程序安装Python3.5》3.1节)一样，通过下载对应版本的.whl文件先安装twisted库，下载地址:http://www.lfd.uci.edu/~gohlke/pythonlibs/#twisted

python26_1.png (13.67 KB, 下载次数: 64)

2016-10-20 14:46 上传

2.2 安装twisted

打开命令提示符窗口，输入命令：

pip install E:\demo\Twisted-16.4.1-cp35-cp35m-win_amd64.whl(下载好的twisted模块的whl文件路径)复制代码

python26_2.png (14.54 KB, 下载次数: 66)

2016-10-20 14:46 上传3. 安装scrapy

twisted库安装成功后，安装scrapy就简单了，在命令提示符窗口直接输入命令： pip install scrapy 回车

python26_3.png (58.54 KB, 下载次数: 58)

2016-10-20 14:46 上传安装关联模块pypiwin32，在命令提示符窗口直接输入命令： pip install pypiwin32 回车

python26_4.png (8.71 KB, 下载次数: 63)

2016-10-20 14:46 上传

4. Scrapy测试，敲一个基于Scrapy框架的爬虫程序

新建一个Scrapy爬虫项目fourth(因为这是继Python3.5安装的第四篇教程，有兴趣的话请从头看起)：在任意目录按住shift+右键->选择在此处打开命令提示符窗口(这里默认为E:\demo)，然后输入命令：

E:\demo>scrapy startproject fourth复制代码

python26_5.png (8.76 KB, 下载次数: 60)

2016-10-20 14:46 上传该命令将会创建包含下列内容的fourth目录:

fourth/

scrapy.cfg

fourth/

__init__.py

items.py

pipelines.py

settings.py

spiders/

__init__.py

...复制代码

修改项目配置文件settings.py，有些网站会在根目录下放置一个名字为robots.txt的文件，里面声明了此网站希望爬虫遵守的规范，Scrapy默认遵守这个文件制定的规范，即ROBOTSTXT_OBEY默认值为True。在这里需要修改ROBOTSTXT_OBEY的值，找到项目目录(这里为：E:\demo\fourth\fourth)下文件settings.py，更改ROBOTSTXT_OBEY的值为False

引入Gooseeker最新规则提取器模块gooseeker.py(下载地址:https://github.com/FullerHua/gooseeker/tree/master/core)，拷贝到项目目录下，这里为E:\demo\fourth\gooseeker.py

创建爬虫模块，进入项目目录E:\demo\fourth下，在此处打开命提示符窗口输入命令：

E:\demo\fourth>scrapy genspider anjuke 'anjuke.com'复制代码

python26_6.png (5.53 KB, 下载次数: 56)

2016-10-20 14:46 上传该命令将会在项目目录E:\demo\fourth\fourth\spiders下创建模块文件anjuke.py，以记事本打开然后添加代码，主要代码：

# -*- coding: utf-8 -*-

# Scrapy spider 模块

# 采集安居客房源信息

# 采集结果保存在anjuke-result.xml中

import os

import time

import scrapy

from gooseeker import GsExtractor

class AnjukeSpider(scrapy.Spider):

name = "anjuke"

allowed_domains = ["'anjuke.com'"]

start_urls = (

'http://bj.zu.anjuke.com/fangyuan/p1',

)

def parse(self, response):

print("----------------------------------------------------------------------------")

# 引用提取器

bbsExtra = GsExtractor()

# 设置xslt抓取规则

bbsExtra.setXsltFromAPI("31d24931e043e2d5364d03b8ff9cc77e", "安居客_房源")

# 调用extract方法提取所需内容

result = bbsExtra.extractHTML(response.body)

# 打印采集结果

print(str(result).encode('gbk','ignore').decode('gbk'))

# 保存采集结果

file_path = os.getcwd() + "/anjuke-result.xml"

open(file_path,"wb").write(result)

# 打印结果存放路径

print("采集结果文件：" + file_path)复制代码

启动爬虫，进入项目目录E:\demo\fourth下，在此处打开命提示符窗口输入命令：

E:\demo\fourth>scrapy crawl anjuke复制代码

python26_7.png (130.52 KB, 下载次数: 57)

2016-10-20 14:46 上传注：网站若发现抓取时报重定向错误了，尝试修改user-agent后，再启动爬虫爬取数据。操作步骤如下：

1、在爬虫项目目录(这里为E:\demo\fourth\fourth)下创建模块文件middlewares.py，以记事本打开后，添加如下代码：

#-*-coding:utf-8-*-

# 随机更换user agent

import random

from scrapy.downloadermiddlewares.useragent import UserAgentMiddleware

class RotateUserAgentMiddleware(UserAgentMiddleware):

def __init__(self, user_agent=''):

self.user_agent = user_agent

def process_request(self, request, spider):

ua = random.choice(self.user_agent_list)

if ua:

request.headers.setdefault('User-Agent', ua)

user_agent_list = [\

"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/22.0.1207.1 Safari/537.1"\

"Mozilla/5.0 (X11; CrOS i686 2268.111.0) AppleWebKit/536.11 (KHTML, like Gecko) Chrome/20.0.1132.57 Safari/536.11",\

"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.6 (KHTML, like Gecko) Chrome/20.0.1092.0 Safari/536.6",\

"Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.6 (KHTML, like Gecko) Chrome/20.0.1090.0 Safari/536.6",\

"Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/537.1 (KHTML, like Gecko) Chrome/19.77.34.5 Safari/537.1",\

"Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.9 Safari/536.5",\

"Mozilla/5.0 (Windows NT 6.0) AppleWebKit/536.5 (KHTML, like Gecko) Chrome/19.0.1084.36 Safari/536.5",\

"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",\

"Mozilla/5.0 (Windows NT 5.1) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",\

"Mozilla/5.0 (Macintosh; Intel Mac OS X 10_8_0) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1063.0 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1062.0 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1062.0 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.1) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.1 Safari/536.3",\

"Mozilla/5.0 (Windows NT 6.2) AppleWebKit/536.3 (KHTML, like Gecko) Chrome/19.0.1061.0 Safari/536.3",\

"Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/535.24 (KHTML, like Gecko) Chrome/19.0.1055.1 Safari/535.24",\

"Mozilla/5.0 (Windows NT 6.2; WOW64) AppleWebKit/535.24 (KHTML, like Gecko) Chrome/19.0.1055.1 Safari/535.24"

]复制代码2、修改项目配置文件settings.py，加上如下代码：

DOWNLOADER_MIDDLEWARES = {

'scrapy.downloadermiddlewares.useragent.UserAgentMiddleware':None,

'fourth.middlewares.RotateUserAgentMiddleware':400,

}复制代码

查看保存结果文件,进入Scrapy爬虫项目目录，这里为E:\demo\fourth，找到名称为anjuke-result.xml的文件夹然后打开

python26_8.png (17.9 KB, 下载次数: 63)

2016-10-20 14:46 上传

5. 总结

安装pypiwin32时碰到了一次超时断开，再次输入命令重新安装才成功，若重复安装都失败可以尝试连接vpn再安装。下一篇《Python爬虫实战:单页采集》将讲解如何爬取微博数据(单页)，同时整合Python爬虫程序以Gooseeker规则提取器为接口制作一个通用的采集器，欢迎有兴趣的小伙伴一起交流进步。

6. 集搜客GooSeeker开源代码下载源

7. 修订历史

2017.03.02 补充报重定向错误解决方案

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.luyixian.cn/news_show_815039.aspx

如若内容造成侵权/违法违规/事实不符，请联系dt猫网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！