python的爬虫框架scrapy有什么用

这篇文章主要介绍了python的爬虫框架scrapy有什么用，具有一定借鉴价值，需要的朋友可以参考下。希望大家阅读完这篇文章后大有收获。下面让小编带着大家一起了解一下。

创新互联-专业网站定制、快速模板网站建设、高性价比芦山网站开发、企业建站全套包干低至880元,成熟完善的模板库,直接使用。一站式芦山网站制作公司更省心,省钱,快速模板网站建设找我们，业务覆盖芦山地区。费用合理售后完善，十年实体公司更值得信赖。

1、Scrapy爬虫框架

Scrapy是一个使用Python编程语言编写的爬虫框架，任何人都可以根据自己的需求进行修改，并且使用起来非常的方便。它可以应用在数据采集、数据挖掘、网络异常用户检测、存储数据等方面。

Scrapy使用了Twisted异步网络库来处理网络通讯。整体架构大致如下图所示。

2、由上图可知Scrapy爬虫框架主要由5个部分组成。

Scrapy Engine（Scrapy引擎），Scheduler（调度器），Downloader（下载器），Spiders（蜘蛛），Item Pipeline（项目管道）。

3、这五大组件及其中间件的功能如下：

1) Scrapy引擎

2) Scheduler（调度器）

3) Downloader（下载器）

4) Spiders（蜘蛛）

5) Item Pipeline（项目管道）

6) 中间件（Middlewares）

感谢你能够认真阅读完这篇文章，希望小编分享python的爬虫框架scrapy有什么用内容对大家有帮助，同时也希望大家多多支持创新互联，关注创新互联行业资讯频道，遇到问题就找创新互联，详细的解决方法等着你来学习!

当前标题：python的爬虫框架scrapy有什么用
文章URL：http://scjbc.cn/article/jehsjp.html