Python轻松爬取Rosimm写真网站全部图片

news/2024/5/10 2:52:27/文章来源:https://blog.csdn.net/weixin_34319640/article/details/93858413

RosimmImage

942621-20180704090305137-1532496093.jpg

爬取Rosimm写真网站图片

有图有真相

942621-20180704090314134-2145846698.png

def main_start(url):"""爬虫入口,主要爬取操作"""try:r = requests.get(url+'.html', headers=HEADERS, timeout=10).textprint(url+'.html')name_index = 0# 套图名,也作为文件夹名folder_name = BeautifulSoup(r, 'lxml').find('h1',class_='article-title').find('a').text.encode('ISO-8859-1').decode('utf-8')with lock:if make_dir(folder_name):# 套图张数max_count = BeautifulSoup(r, 'lxml').find('div',class_='pagination2').find_all('li')[-2].find('a').get_text()print('-------max_count-----'+max_count)# 套图页面page_urls=[]for i in range(1,(int(max_count)+1)):if i==1:page_urls.append(url + '.html')else:page_urls.append(url + '_' + str(i)+'.html')# 图片地址for index, page_url in enumerate(page_urls):print('-----page_url-----'+page_url)result = requests.get(page_url, headers=HEADERS, timeout=10).textimg_url=BeautifulSoup(result,'lxml').find('article',class_='article-content').find_all('img')for s_img_url in img_url:real_img='http://www.rosimm8.com'+s_img_url.get('src')print('-----real_img-----'+real_img)name_index=name_index+1save_pic(real_img,name_index)except Exception as e:print(e)

全部代码传送门:https://github.com/SiberiaDante/RosimmImage

仅供学习参考使用

转载于:https://www.cnblogs.com/shen-hua/p/9261625.html

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_700912.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

让别人不知道你的网站使用PHP

2019独角兽企业重金招聘Python工程师标准>>> 如果不想让别人知道你的网站使用了PHP程序,这样可以提高网站的安全。这并不说明PHP不安全,只是可以防止一些人攻击你的网站。你可以按照下面的方法设置你的httpd.conf文件。 你可以使用下面的方法…

winform模拟登陆网页_【教程】模拟登陆网站 之 C#版(内含两种版本的完整的可运行的代码)...

之前已经介绍过了网络相关的一些基础知识了:以及简单的网页内容抓取,用C#是如何实现的:现在接着来介绍,以模拟登陆百度首页:为例,说明如何通过C#模拟登陆网站。不过,此处需要介绍一下此文前提&a…

15岁天才创办4chan匿名网站,如今因股权分配不均,与谷歌不欢而散!

点击上方“视学算法”,选择加"星标"或“置顶”重磅干货,第一时间送达视学算法报道 转载自:新智元来源:cnbc编辑:LZY【新智元导读】15岁创立在线社区4chan,这位「天才男孩」Chris Poole 现离职谷…

学以致用七---Centos7.2+python3.6.2+django2.1.1 --搭建一个网站(补充)

补充:上一节出现的报错提示 可在settings.py 里,改成 ‘*’ ,这样所有的主机都可以访问了。 打开网页 注意红色框出来的 hello 是和 urls.py里的hello对应 urls.py 里的 views.hello 和 app下views.py 里的函数对应 关系对应图 关系图随着…

小学六年级,自学计算机,会爬虫,搞崩过学校网站,还有女朋友...

点击上方“视学算法”,选择加"星标"或“置顶”重磅干货,第一时间送达我在上周遇到一个很奇怪的读者,他的头像是电影《V字仇杀队》里的面具。感觉上去是一个黑客爱好者,不是一个好惹的家伙,小林看了瑟瑟发抖。…

优词词根词典mdx_推荐|一波好用的在线英语词典网站

【01】Definitions:http://t.cn/RcL6CcH;在线多语言词典查询网是一个免费的英文单词解释的多语言翻译网站,内容涵盖了人名、地名、热门词汇、技术、历史名词等丰富的词汇,支持中文语言,是英语爱好者查询词语解释的必备…

网站优化基础教程:发布外链常见的五种方式!

想要做好网站优化,外链的发布也是很重要的一环,如果您还没有做,建议您抓紧去做一下。 这篇文章发迹创业网就分享一下,常见的几种发布外链的方法。 1,锚文本 又叫做超链接,是指给关键词加一个链接&#xff0…

一个可提供html5制作服务的网站

2019独角兽企业重金招聘Python工程师标准>>> 【TechWeb报道】最近网上出现了一个专门基于HTML5/CSS3制作服务的组织 P2H.cn. 就是专门提供网站切图的一项服务。特别在哪儿呢 ,P2H.cn 可以制作出完美的兼容的html5/css3的页面。 王大利/文 如果你不知…

两个网站做到同一个服务器,两个网站放在同一个服务器 备案

两个网站放在同一个服务器 备案 内容精选换一换没有,华为云包含企业邮箱服务,具体请参考: https://www.huaweicloud.com/marketplace/activity/mail.html。您可享受咨询解答、退换货和软件维护、升级等服务。云速建站提供的以下四种形式的帮助…

爬虫之selenium爬取斗鱼网站

爬虫之selenium爬取斗鱼网站 示例代码: from selenium import webdriver import timeclass Douyu(object):def __init__(self):self.url https://www.douyu.com/directory/allself.driver webdriver.Chrome()def parse_data(self):time.sleep(3)room_list self…

献上程序员大学四年珍藏的30个宝藏网站,全部拿出来

目录一、程序员视频学习网站1.哔哩哔哩2.慕课网3.学堂在线二、编程学习网站1.菜鸟教程2.W3cSchool3.实验楼三、刷题网站1.力扣2.牛客网——在线编程模块3.CodeTop4.赛码网四、实用工具1.Processon2.ioDraw3.在线JSON解析4.在线进制转换五、博客 、论坛1.CSDN2.掘金3.简书4.博客…

七个合法学习黑客技术的网站,让你从萌新成为大佬

合法的学习网站,以下这些网站,虽说不上全方位的满足你的需求,但是大部分也都能。能带你了解到黑客有关的技术,视频,电子书,实践,工具,数据库等等相关学习内容。以上这些网站我都是用…

java中的Executors简介与多线程在网站上逐步优化的运用案例

提供Executor的工厂类 忽略了自定义的ThreadFactory、callable和unconfigurable相关的方法newFixedxxx:在任意时刻,最多有nThreads个线程在处理task;如果所有线程都在运行时来了新的任务,它会被扔入队列;如果有线程在执行期间因某…

爬取网站图片并保存到本地

第一步:模拟浏览器发出请求,获取网页数据 import requests# 目标网站 url https://baijiahao.baidu.com/s?id1687278509395553439&wfrspider&forpc # 头部伪装 headers {User-Agent: Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:84.0) Ge…

php网站安全狗绕过,最新安全狗绕过姿势 - Azeng呐的个人空间 - OSCHINA - 中文开源技术交流社区...

安全狗是让大家最头疼的安全防护软件,然后我给大家带来最新的安全狗绕过,也不知道能活多久。攻防永无止境吧。最新版本安全狗从官网下载的,我来说一下思路。要想绕过安全狗首先你要知道,安全狗是怎么防护的,过滤的是什…

使用C#的HttpWebRequest模拟登陆网站

很久没有写新的东西了,今天在工作中遇到的一个问题,感觉很有用,有种想记下来的冲动。 这篇文章是有关模拟登录网站方面的。 实现步骤; 启用一个web会话发送模拟数据请求(POST或者GET)获取会话的CooKie 并根…

Scrapy框架模拟Github网站登陆

1. 以往的模拟登陆的方法 1.1 requests模块是如何实现模拟登陆的? 直接携带cookies请求页面找url地址,发送post请求存储cookie 1.2 selenium是如何模拟登陆的? 找到对应的input标签,输入文本点击登陆 1.3 scrapy的模拟登陆 直…

Python爬虫并自制新闻网站,太好玩了

来源 | 凹凸数据(ID:alltodata)我们总是在爬啊爬,爬到了数据难道只是为了做一个词云吗?当然不!这次我就利用flask为大家呈现一道小菜。Flask是python中一个轻量级web框架,相对于其他web框架来说…

Spring Boot 2.X整合Spring-cache,让你的网站速度飞起来

计算机领域有人说过一句名言:“计算机科学领域的任何问题都可以通过增加一个中间层来解决”,今天我们就用Spring-cache给网站添加一层缓存,让你的网站速度飞起来。本文目录 一、Spring Cache介绍二、缓存注解介绍三、Spring BootCache实战1、…

一步步构建大型网站架构

之前我简单向大家介绍了各个知名大型网站的架构,MySpace的五个里程碑、Flickr的架构、YouTube的架构、PlentyOfFish的架构、WikiPedia的架构。这几个都很典型,我们可以从中获取很多有关网站架构方面的知识,看了之后你会发现你原来的想法很可能…