Windows运维之Scrapy的安装--------Windows、linux、mac等操作平台
小标 2018-09-25 来源 : 阅读 1425 评论 0

摘要:本文主要向大家介绍了Windows运维之Scrapy的安装--------Windows、linux、mac等操作平台,通过具体的内容向大家展现,希望对大家学习Windows运维有所帮助。

本文主要向大家介绍了Windows运维之Scrapy的安装--------Windows、linux、mac等操作平台,通过具体的内容向大家展现,希望对大家学习Windows运维有所帮助。

Scrapy安装
  Scrapy的安装有多种方式,它支持Python2.7版本及以上或者是Python3.3版本及以上。下面来说py3环境下,scrapy的安装过程。
  Scrapy依赖的库比较多,至少需要依赖库Twisted 14.0,lxml 3.4,pyOpenSSL 0.14。在不同平台环境又不相同,所以在安装前确保先把一些基本库安装好,尤其是Windows。
一、Anaconda
  这种方法是一种比较简单的安装scrapy的方法(尤其对Windows来说),你可以使用该方法安装。也可以选用下文中专用平台的安装方法。
  Anaconda是包含了常用的数据科学库的Python发行版本,如果没有安装,可以到官网https://www.continuum.io/downloads下载对应平台的包安装。
  如果已经安装了,可以通过conda命令安装scrapy。
  安装如下:
  先打开Anaconda的 Anaconda Prompt 输入

 conda install Scrapy

  如图所示表示安装成功:
  
 
二、Windows
1.安装lxml
  最好的安装方式是通过wheel文件来安装,//www.lfd.uci.edu/~gohlke/pythonlibs/,这个网站真的是windows用户的福音,基本上python的库里面都有,称他为python万能库网站。从该网站找到lxml的相关文件(ctrl+F),假如是python3.5版本,windows 64位系统,那就找到 lxml?3.7.2?cp35?cp35m?win_amd64.whl 这个文件下载,通过pip安装。
  
  下载之后,运行如下命令安装:

pip3 install wheel
pip3 install lxml?3.7.2?cp35?cp35m?win_amd64.whl
#如果是python2版本,pip3改为pip2

  即可完成lxml的安装,其他文件替换文件名即可。
2.安装pyOpenSSL
  官方网站下载wheel文件,https://pypi.python.org/pypi/pyOpenSSL#downloads,下载 .whl文件,安装即可。

pip3 install pyOpenSSL-16.2.0-py2.py3-none-any.whl

3.安装Twisted
  同理,从python万能网站上下载 //www.lfd.uci.edu/~gohlke/pythonlibs/#twisted 安装即可。假如是python3.5版本,windows 64位系统,那就找到 Twisted?17.1.0?cp35?cp35m?win_amd64.whl  这个文件下载,通过pip安装。

pip3 install Twisted?17.1.0?cp35?cp35m?win_amd64.whl 

4.安装pywin32
  从官方网站 https://sourceforge.net/projects/pywin32/files/pywin32/Build%20220/ 下载对应版本的安装包安装即可。
5.安装Scrapy
  最后安装Scrapy即可,依然使用pip,命令如下:

pip3 install Scrapy

三、CentOS、RedHat、Fedora
  依赖库安装,确保一些必须的类库已经安装,运行如下命令:

sudo yum groupinstall development tools
sudo yum install python34-devel epel-release libxslt-devel libxml2-devel openssldevelpip3 install Scrapy

四、Ubuntu、Debian、Deepin
  依赖库安装,确保一些必须的类库已经安装,运行如下命令:

sudo apt-get install build-essential python3-dev libssl-dev libffi-dev libxml2 libxml2-dev libxslt1-dev zlib1g-dev 
pip3 install Scrapy

五、Mac OS
  依赖库安装,在Mac上构建Scrapy的依赖库需要C编译器以及开发头文件,他一般由Xcode提供,运行如下命令安装即可:

xcode-select --installpip3 install Scrapy

  验证:
  安装之后,在命令行输入scrapy,如果出现类似下方的结果,那么久恭喜你安装成功scrapy。
  
六、常见错误

pkg_resources.VersionConflict: (six 1.5.2 (/usr/lib/python3/dist-packages),Requirement.parse(‘six>=1.6.0‘))six包版本过低,six包是一个提供兼容Python2和3的库,升级six包即可。

sudo pip3 install -U six


c/_cffi_backend.c:15:17: fatal error: ffi.h: No such file or directory 缺少Libffi这个库,什么是libffi?“FFI”的全名是Foreign Function Interface,通常指的是允许以一种语言编写的代码调用另一种语言的代码。而Linffi库只是提供了最底层的、与架构相关的、完整的“FFI”。安装:  Ubuntu、Debian: sudo apt-get install build-essential libssl-dev libffi-dev python3-dev       CentOS、RedHat:sudo yum install gcc libffi-devel python-devel openssl-devel 
ImportError: No module named ‘cryptography ‘这是缺少加密的相关组件,利用pip安装即可。

sudo pip3 install cryptography


ImportError: No module named ‘packaging 缺少packaging这个包,它提供了Python包的核心功能。利用pip安装即可。

sudo pip3 install packaging


ImportError: No module named ‘appdirs‘ 缺少appdirs这个包,它用来确定文件目录,利用pip单独安装即可。

sudo pip3 install appdirs

本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注系统运维windows频道!

本文由 @小标 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved