python爬虫外贸客户_我用Python爬了一个零售网站,分析了一千多种葡萄酒!

news/2024/5/16 12:09:38/文章来源:https://blog.csdn.net/weixin_34641420/article/details/113984579

本文作者是一名地地道道的程序员,最大的乐趣就是爬各种网站。特别是在过去的一年里,为了娱乐和利润而爬掉了无数网站。从小众到主流电子商店再到新闻媒体和文学博客,通过使用简单的工具(如BeautifulSoup)获得了很多有趣且干净的数据—我也很喜欢Chrome 的Headless模式。

本文,作者将分析从Greek wine e-shop商店(一个希腊葡萄酒网站)中获得的数据,来看看哪种葡萄酒最受欢迎。

scraper本身相当简单,可以在GitHub页面(https://github.com/Florents-Tselai/greek-wines-analysis)找到。作者将着重于通过使用标准的Python包对得到的数据(1125个独特的标签)做一些快速的探索性分析。

scraper本身暴露了一个相当简单的API。首先,请求葡萄酒页面的数据,并将数据返回给nicedict,如下所示:

In [2]:

118375366_1_20171207093616646

In [3]:

118375366_2_20171207093616756

Out[3]:

118375366_3_20171207093616865

然后,定义一些matplotlib。

In [4]:

118375366_4_2017120709361799

加载由houseofwine_gr.dump模块生成的数据转储,开发者也可以在GitHub页面找到.json,.csv和.xlsx的数据集。

In [5]:

118375366_5_20171207093617287

以下是所拥有数据的视图:

In [6]:

118375366_6_20171207093617381

Out[6]:

118375366_7_20171207093617490

用np.nan替换空的字符串,使它们更容易处理 Pandas。

In [7]:

118375366_8_20171207093617740

重命名一些包含特殊字符的列名,以便将它们用作本机DataFrame存储器。

In [8]:

118375366_9_20171207093617896

我们还将适当的类型分配给列:

In [9]:

118375366_10_20171207093617974

让我们将color列值从希腊语翻译成英语。

In [10]:

118375366_11_20171207093618115

以下是数据集的颜色直方图。

In [11]:

118375366_12_20171207093618209

118375366_13_20171207093618302

以下是每种葡萄酒的简单指标分布情况:

In [12]:

118375366_14_20171207093618443

118375366_15_20171207093618599

如图所示,Average Rating列几乎为正态分布,μ值高达85以上。 Reddit上的Kroutoner解释了为什么会发生这种情况(并纠正了作者以前的错误):

典型的葡萄酒评级是50-100,而不是0-100。所以看起来似乎只有一半分布,实际上是一个几乎完全的分布。此外,90分以上的葡萄酒一般被认为效果更好,销售也更好。这个事实改变了对数据的解释,也就是说大多数葡萄酒被评为好,只有一小部分被评为非常好。

为了进一步推进,来看一下tags 列。

118375366_16_20171207093618818

似乎每个标签列表可以给出有关葡萄酒的各种属性(品种,甜味等)的信息。接下来,作者将这些属性分开,将tags列元素从list 转换为set列表元素,因为这样会使操作更简单。也就是说,不是在一个if x in -else-try-except-IndexError中,我们将使用set操作。

118375366_17_2017120709361937

现在,做一些简单操作来提取关于甜度,温和性等信息,以下信息同样从希腊语翻译到了英语。

118375366_18_20171207093619209

以下是4个属性中每一个属性的直方图:

118375366_19_20171207093619537

118375366_20_20171207093619693

在这一点上,开发者可以(几乎)安全地假设所有剩下的标签显示每种葡萄酒的品种信息,所以定义一个新的列来存储它们。

118375366_21_20171207093619912

由于解析错误,列中出现了一些整数,我们将其过滤掉。

118375366_22_2017120709362068

我们也可以添加一个布尔变量varietal。酒中的混合物只有一种的称为varietal,至少有两种混合物的称作blends。

118375366_23_20171207093620271

对于varietal葡萄酒,我们设定了一个single_variety - 对于其他非varietal的葡萄酒来说,这个数值将是NaN。

118375366_24_20171207093620396

让我们来看看Varietal / Blend的分布是怎样的。

118375366_25_20171207093620584

这是一些指示性的情节。

In [27]:

118375366_26_20171207093620756

118375366_27_2017120709362168

看起来Chardonnay是最流行的品种,而Vidal和Sangiovese是最昂贵的品种。评分最高的是Malvasia,但所有品种都非常接近。

把注意力转移到blends上,我们做了一些Numpy和Scikit-Learn来产生blends的矩阵。

118375366_28_20171207093621443

上面的代码简单地从这里得到:

118375366_29_20171207093621631

对此:

118375366_30_20171207093621865

这些是blends中出现频率最高的品种。

In [30]:

118375366_31_2017120709362268

118375366_32_20171207093622193

这里是一个热图,显示哪些品种通常混合在一起。

In [31]:

118375366_33_20171207093622349

118375366_34_20171207093622474

In [32]:

118375366_35_20171207093622818

118375366_36_2017120709362321

118375366_37_20171207093623381

118375366_38_20171207093623631

如果你有兴趣,欢迎来Github页面与作者交流。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_780391.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

配置虚拟网站主机

1.1 问题 本例要求以案例1的结果为基础,通过httpd网站服务器实现虚拟主机的支持,完成下列任务: 1)修改 /etc/hosts 文件,临时解决DNS名称识别问题 在文件尾添加“Web服务器IP地址 tts8.tedu.cn ne.tedu.cn”内容 2&…

浅谈:网站制作过程中需要重视的6个方面!

随着互联网时代兴起,如今越来越多的传统公司也逐渐有了互联网意识,面对公司的需求日益加剧,公司对网站的功能方面要求也随之提高,通常建站公司是根据企业目标定位来制作用户需求高质量的网站。那制作高质量网站需要重视哪些方面呢…

案例学Python--案例四:Django实现一个网站的雏形(1)

第一次用python的Web框架,也是第一次听说Django,参考菜鸡教程和一些博客,倒腾了半天,算是有一个雏形。数据基于昨天爬的豆瓣电影信息,详见案例三。 Python版本:3.7.1 Django版本:2.1.3 Django安…

javaweb网站安全问题web网站安全问题防范安全部署tomcat方法

Apache tomcat是JAVA开发,JSP运行首选的web环境,国内很多网站,以及平台都在使用tomcat 环境来运行网站,高效,稳定,安全,赢得了国内许多客户。tomcat 该如何安全设置与部署呢?SINE安全…

开源网站流量统计系统Piwik源码分析——参数统计(一)

Piwik现已改名为Matomo,这是一套国外著名的开源网站统计系统,类似于百度统计、Google Analytics等系统。最大的区别就是可以看到其中的源码,这正合我意。因为我一直对统计的系统很好奇,很想知道里面的运行原理是怎么样的&#xff…

Microsoft Office 365开通试用(Outlook、Lync、团队网站)(一)

Office365主页: http://www.microsoft.com/zh-sg/office365/online-software.aspx Office365版本: http://www.microsoft.com/zh-sg/office365/free-office365-trial.aspx?WT.z_O365_caTry_online-software_zh-sg Office365中型和大型企业版免费试用…

Microsoft Office 365开通试用(Outlook、Lync、团队网站)(二)

——SharePoint Online 用户配置文件(管理用户属性) Office 365团队网站中,在“我的网站”中管理用户配置文件 1、 查看编辑用户配置文件 进入我的网站: 编辑我的配置文件 在我的配置文件中进行编辑如下各项 2、 显示隐藏用户属…

查看移动App排名和推荐的网站分享

App Annie:http://www.appannie.com。通过此网站,可以查看: 1、 App每日排名,包括App Store和Android。 App Store排名 Android市场排名 2、 App排名历史 3、 推荐记录 另外国外还有不少类似的网站,例如http://www.a…

HTML5浏览器测试网站汇总

我经常看到有很多人询问HTML5某个特性当前各浏览器的支持情况。的确,因为HTML5内容庞大,特性众多,而浏览器的支持情况又混杂不一,随时都有可能变化,所以了解起来比较困难。在这里,我汇总了一些常用的网站供…

Asp.Net与SEO – 庞大的反向链接网络(一)

讲到链接那我们就来接触几个概念,先看一下下面的反向链接网络图。 反向链接 A网页中有一个链接指向B网页,那么A网页就是B网页的反向链接!如下图,所有链接都算反向链接。 外部链接 如上图中的①链接,其他网站给你网站的…

网站无法加载json文件

为什么80%的码农都做不了架构师?>>> 错误日志如下 2019/02/22 12:14:11 [error] 24225#0: *10768 FastCGI sent in stderr: "Access to the script /var/www/html/ad-server/manifest.json has been denied (see security.limit_extensions)"…

搜索关键词分析——以个人博客网站为例

背景 我做了一个个人博客网站,希望能够记录自己的学习,工作和成长笔记。同时为更多有相同需求的人提供帮助和支持。那么用户应该怎么来找到我这个博客网站呢?通过什么关键词能够快速找到这个博客网站呢? 接下来本文就来探讨一下关…

大型网站架构演变和知识体系

微博上看到的一张图,很形象。之前看过一个淘宝网负责技术的一个主管在某技术交流会上介绍的淘宝的的三代架构发展过程,也是像这样的一步步走过。特此分享。

旅游网站项目开发过程总结

两周前,接到一个旅游网站的项目,老爷子给限定的工期是10天,我们(我,大帅,小崔)根据一个大概的需求,简单拟了个方案,就直接框框地干了。 下面是我们简单商议出的一个计划&…

【网站公告】.NET Core 版博客站点第二次发布尝试

在上次发布失败后,很多朋友建议我们改用 k8s ,但我们还是想再试试 docker swarm ,实在不行再改用 k8s 。 在改进了 docker swarm 集群的部署后,我们准备今天 17:30 左右进行一次发布尝试。 docker swarm 集群是我们使用阿里云服务…

Spring Boot 2.X整合Spring-cache,让你的网站速度飞起来

计算机领域有人说过一句名言:“计算机科学领域的任何问题都可以通过增加一个中间层来解决”,今天我们就用Spring-cache给网站添加一层缓存,让你的网站速度飞起来。 本文目录 一、Spring Cache介绍二、缓存注解介绍三、Spring BootCache实战1、…

利用WxJava实现网站集成微信登录功能,核心代码竟然不超过10行

最近网站PC端集成微信扫码登录,踩了不少坑,在此记录下实现过程和注意事项。 本文目录 一、微信开放平台操作步骤1.创建“网站应用”2.获取AppID和AppSecret二、开发指南三、开发实战1、pom.xml引入jar包2、配置文件添加对应的配置3、初始化配置4、控制层…

织梦栏目加html,织梦dedecms调用栏目SEO标题,关键字,栏目描述的教程

标题、关键字和描述是每个网页SEO优化的基础,dedecms针对用户网站SEO优化考虑,给每个网站栏目提供了SEO标题、关键字和栏目描述的设置,但是要使用这几项设置还需要在dedecms模板中调用,那么织梦dedecms栏目怎么调用SEO标题、关键字…

愚人节恶搞html,愚人节来玩变装!爆笑在线恶搞照片网站

1爆笑在线恶搞照片网站(一)【PConline 欣赏】愚人节,不论是愚人还是自娱,开心是最重要的。在跟大家推荐了愚人节爆笑整蛊小游戏之后(详情),这里再和大家分享一组超级搞笑有趣的在线照片处理网站。事实上,处理照片的方式除了有Phot…

爬虫python下载网站所有图片_[记录][python]python爬虫,下载某图片网站的所有图集...

随笔仅用于学习交流,转载时请注明出处,http://www.cnblogs.com/CaDevil/p/5958770.html 该随笔是记录我的第一个python程序,一个爬去指定图片站点的所有图集,现在还是一个非常简陋的单线程程序。下一步是改写成多线程,…