怎么监控php状态，有没有什么厉害的app推荐一下？
推荐一个我个人认为可以秒杀一切非大众性的APP了，保证你看完介绍，百分之99的概率会下载使用。
每次换手机我都要下载这个APP，大小不足100M，功能相当强大，相当给力，最重要的是，它还非常实用！！不像某些软件，虽然它也非常强大，但很多我下载来就塞文件夹去吃灰了。
APP隆重登场：Cerulean
为什么推荐它呢？
首先，它是免费的。
其次，我随机介绍一下它的部分功能：
测网速：瞬间就知道自己的手机上网速度了。赶紧去和身材的小伙伴比比，谁的速度更快。
来电模拟：有时候和朋友一起聚会什么的，时间越来越晚，自己想走了，别人还在马不停蹄的聊天，自己一时半会又找不到借口。这时候，可以悄悄的模拟一个来电，还可以设置名字和语音，天衣无缝啊。
自定义制作表情：里面有各种原始素材图，自己可以加文字等等。以前别人发表情，我都是一愣一愣的。现在就不一样了，兵来将挡，见招拆招。
单位换算：里面有各种常用的计量单位，这个很实用哦，有时候可以救急。比如辅导小孩子作业的时候，万一自己忘记了换算还有条后路可选…
心率检测：这个有点厉害了，只需要把手指放在摄像头，等5秒钟结果就出来了，刚刚亲测本人的心率是86，貌似有点紧张啊。可能APP功能太强大了，震慑到我的灵魂了。
做决定：到了饭店不知道点什么菜，看了黄瓜想吃茄子，两个都点又吃不完浪费。这时候，你就可以把你想点的那几个菜添加进去，然后点击开始，它就会随机抽选一个答案出来，选择恐惧症的福音有没有！
二维码生成：这个可以去逗你喜欢的异性哦，机灵的小伙伴已经想到方法了。
文字识别：支持识别各种网络文字，文本文字等等，比如面对书本，直接扫描，生成文字，复制粘贴，简直就是操作业神器。
亲戚关系计算：每次过年的时候，面对一大堆亲戚，把自己都能绕晕。有了这个神器，妈妈再也不用担心我会乱对号了…
分贝仪：去测试一下你所处的环境是否安静吧。
图片拼接：有时候聊天记录太长了，或者好几张图片需要拼接在一起，这就体现它的用处了。
星座运势：输入自己的星座，就可以查看今天的运势，可以秒变算命大师有没有！
历史上的今天：点开它，就能知道历史上今天发生了一些什么事，相当齐全，让你成为行走的百科全书。
生辰八字：所谓一命二运三风水，八字命理对人的一生还是有一定影响的。很多小伙伴还不知道自己的生辰八字吧，赶快去了解一下吧。
自定义通知：下个月3号你有一场会议，但是你又怕忘记，没关系，盘它。
手持弹幕：坐地铁或坐公交的时候非常非常的困，担心自己一不小心睡着了错过站，这时候就可以设置一个手持弹幕，字体颜色背景都可以自定义，还很炫酷呢。
最后，我们来欣赏一下它超级简洁的界面，所有功能都在主页，一级菜单，简洁到指哪打哪，点哪就是哪。（主页往下拉还有一大堆实用的功能，各位下载点开一目了然）
集72般武艺于一身的APP，它才64M！而且以上功能全部免费！必须单独的，认真仔细的分享给大家！超级良心！非你莫属！
Python可以用哪些IED？
你说的是开发Python的IDE吧，这里介绍几个常用的开发python的IDE，如下：
1.VS Code：这个是微软开发的一款跨平台的代码编辑器，良心之作，语法提示、代码高亮、自动补全、插件丰富，还支持git功能，小巧灵活，运行流畅，使用起来非常方便，安装对应插件后，可以直接编辑运行C/C++，Python，Java等几十种编程语言，简直就是一个神器，对于初学者来说，是一个很不错的选择：
2.Sublime Text：这也是一个非常不错的代码编辑器，跨平台、轻巧灵活，支持几十种编程语言，包括Java，Html，Python，Ruby，C#等，语法提示、代码高亮、智能补全，插件扩展丰富，对于初学者来说，也是一个非常不错的选择：
3.Jupyter：这个是基于命令行的python开发环境，输入一行代码，输出一行结果，实时分析中经常用到，目前来说有Jupyter QtConsole和Jupyter Notebook，使用起来都不错，自带语法提示，自动补全的功能，界面朴素、简洁友好：
4.Spyder：这也是一个很不错的python IDE，类似于Matlab一样，由多个窗口构成，用户可以根据自己喜好调整窗口的大小和位置，可以很方便地观察和修改程序中的变量值，既可编辑文本代码，也可直接运行python shell，使用起来也很方便：
5.PyCharm：这就是一个专业的Python IDE了，重量级的，专门用于Python开发，由JetBrains公司出品，支持语法提示、代码高亮、智能补全、单元测试、版本控制等，还提供了常见的Python Web开发，像Django，Flask，Web2Py等，可以快速创建项目，在大型项目开发中，经常会使用到，在业界也非常流行，是一个很不错的IDE：
目前，就介绍这5个python开发的IDE，使用起来都不错，对于日常的开发来说，完全够用了，希望以上分享的内容能对你有所帮助吧，也欢迎大家留言、交流。
Java程序员应该学习哪些技术呢？
学习是一个循序渐进的过程，是一件非常难得坚持的事情。如果真的想学Java，一定要下定决心！
这里我分享给你的Java学习线路图，希望对你有帮助，以下为2020年更新版本，黑马君在2020年更新了Java学习路线图，把2019年新技术，新课程囊括其中，也写了技术树，每个阶段需要学习的技术，跟着学学完你就是中高级程序员！
一、Java基础JavaSE基础是Java中级程序员的起点，是帮助你从小白到懂得编程的必经之路。
在Java基础板块中有6个子模块的学习：
基础语法，可帮助你建立基本的编程逻辑思维；面向对象，以对象方式去编写优美的Java程序；集合，后期开发中存储数据必备技术；IO，对磁盘文件进行读取和写入基础操作；多线程与并发，提高程序效率；异常，编写代码逻辑更加健全；网络编程，应用服务器学习基础，完成数据的远程传输。学习该阶段，可以完成一些简单的管理系统、坦克大战游戏、QQ通信等。配套学习视频：
Java教程|Java基础班-小白的福音（冯老师）
二、数据库数据库不仅仅是Java开发工程师的必学课程，也是其他语言都需要掌握的技能。用于对交互过程中客户的数据进行存储。
该板块包括关系型数据库和非关系型数据库。
例如：MySQL、oracle、redis、MongoDB等。数据库学习完毕后，可以将数据存储到数据库中，也可以通过SQL语句从数据库中查询数据，结合Java项目可以实现动态站点的数据的保存。
技术树
配套学习视频：
5天玩转MySQL
Sharding-JDBC从入门到精通
java进阶教程4天oracle快速入门
三、前端技术Javaweb阶段包括前端、数据库和动态网页。Javaweb是互联网项目的入门课程，是学习后面高进阶课程的基础。
首先，我们先看一下前端板块。该板块主要包括如下几个模块：
HTML5，网页制作标记语言；CSS，对HTML制作网页进行美化；JavaScript，嵌入在页面中的脚本语言，具备逻辑性；Vue，前端框架，简化了与服务器端交互的操作，用户良好的交互体验是必不可少的。学习前端技术后，可以完成类似京东、淘宝的前端工程的编写。
技术树
配套学习视频：
Ajax从入门到精通|黑马程序员
2018年Vue.js深入浅出教程
PHP HTML+CSS+JavaScript教程
零基础玩转微信小程序
四、动态网页技术动态网页是中级程序员服务器端编程的基础，是高级框架学习的必备课程，后期学习的框架、服务底层都是基于动态网页技术之上的。
该板块包括Javaweb核心技术、包括Servlet、Request、Response、Cookie和Session等，通过这些技术的学习可以完成动态站点开发，可更好的完成服务器端与客户的交互，让页面的数据“动”起来，做出小型的应用系统。
技术树
配套学习视频：
JavaWeb教程_JavaWeb入门教程|黑马程序员
servlet4.0新特性
五、编程强化编程强化是对解决实际问题方面做一个深入的了解和应用，是对JavaSE基础的加强，对后期自动以框架和对一些服务框架的底层理解做支撑。
编程强化板块主要包括如下几个模块：多线程高级、涉及线程内存、线程通信等；JVM优化，对JVM底层进行调优来提高项目执行效率；NIO，同步非阻塞IO来提高效率。
学习该阶段，可以对原有项目进行优化从而使程序更快更稳定。
技术树
配套学习视频：
Java多线程与并发库高级应用
java程序算法与实际运用--刘意老师
匠心之作java基础强化之JVM内存结构
匠心之作java基础强化之强转溢出&浮点数运算精讲
六、软件项目管理JavaSE基础是Java中级程序员的起点，是帮助你从小白到懂得编程的必经之路。
在Java基础板块中有6个子模块的学习：基础语法，可帮助你建立基本的编程逻辑思维；面向对象，以对象方式去编写优美的Java程序；集合，后期开发中存储数据必备技术；IO，对磁盘文件进行读取和写入基础操作；多线程与并发，提高程序效率；异常，编写代码逻辑更加健全；网络编程，应用服务器学习基础，完成数据的远程传输。
学习该阶段，可以完成一些简单的管理系统、坦克大战游戏、QQ通信等。
技术树
配套学习视频：
Maven教程_Maven视频教程|黑马程序员
Git零基础入门到实战详
七、热门技术框架使用Javaweb进行企业级开发是完全可以的，但是开发效率比较低，所以对常用的逻辑操作进行封装就形成了框架，因此框架是企业开发的入门技能。
热门框架板块主流框架有如下几个：Spring框架，占据统治地位，其生态系统涉及各个方面解决方案；MyBatis框架，使用ORM思想对数据库进行操作。
该板块学习后，就可以进行真实企业级项目开发了，做出的项目也会更加符合企业要求。
技术树
配套学习视频：
Java教程|Springmvc由浅入深教程
java进阶教程Mybatis由浅入深教程
JPA教程_JPA视频教程|黑马程序员
数据层全栈方案 SpringData 高级应用
八、分布式架构方案随着互联网的发展，业务的复杂性和用户的体验性都需要提高，所以分布式架构出现了。该板块主要讲解的是分布式架构的相关解决方案。
主要包括如下模块：Dubbo，高性能的 RPC 服务发布和调用框架；SpringBoot，简化Spring应用的初始搭建以及开发过程；Spring Cloud，一系列框架的有序集合，如服务发现注册、配置中心、负载均衡、断路器、数据监控等。
该板块的学习，可以具备大型互联网项目开发的必备技术和实际经验，为进入BATJ打下基础
技术树
配套学习视频：
java中级程序员教程快速入门Zookeeper+dubbo
两小时由浅入深搞定springboot
4天从浅入深精通SpringCloud 微服务架构
九、服务器中间件中间件板块是大型互联网项目中必备的。服务中间件可以帮助各子模块间实现互相访问，消息共享或统一访问等功能。其包括远程服务框架中间件，例如阿里（Apache）的RPC框架Dubbo等；消息队列中间件，例如：阿里巴巴开源分布式中间件RocketMQ、高吞吐量消息发布和流处理服务Kafka等。
学习服务中间件是中级JavaEE工程师必要技术，也是JavaEE架构师必须精通的技术。
技术树
配套学习视频：
MongoDB基础入门到高级进阶
REDIS高级应用：使用redis消息队列完成秒杀过期订单处理
十、服务器技术
不管是使用原生Javaweb进行开发，还是使用框架进行开发，项目最终需要对外发布才能供全世界的人访问到，而服务器板块就可以解决这个问题，所以服务器是项目发布的必要技术。该板块包括虚拟化和web应用服务器的学习，主要包括如下几个模块：Vmware，虚拟机软件；Linux，专门用于服务器的系统；Nginx，集群部署时反向代理服务器；Tomcat，项目发布时主要使用的服务器。
该板块学习后，我们就可以把开发好的项目发布到服务器中，然后供你的小伙伴远程访问了，超酷！
技术树
配套学习视频：
高可用的并发解决方案nginx+keepalived
Linux运维189讲系统教程
服务器tomcat（Java开发必会）
利刃出鞘-Tomcat核心原理解析
十一、容器技术
容器化技术是近两年超级火的一个专题，通过容器化技术可以对环境进行打包，方便移植，大大提高了开发效率。该板块包括容器化技术Docker和其平台管理引擎Kubernetes，其中，Docker 是一个开源的应用容器引擎，可以打包应用以及依赖包到一个可移植的镜像中，然后发布到任何流行的Linux或Windows 机器上，也可以实现虚拟化。而Kubernetes是一个开源的，用于管理云平台中多个主机上的容器化的应用，Kubernetes的目标是让部署容器化的应用简单并且高效。通过该板块的学习，你可以通过上述技术快速搭建环境，节省开发时间，提高开发效率。
技术树
配套学习视频：
深入解析docker容器化技术
十二、业务解决方案
虽然我们已经具备了基础技术和高阶技术，但是要想与企业开发相接轨，还需要对实际项目的业务解决方案进行探究。而此版块就是在实际业务场景中的真实解决方案集合，常用的业务解决方案有如下：搜索业务场景解决方案、日志收集与分析场景解决方案、工作流引擎场景解决方案、任务调度场景解决方案、地图开发平台场景解决方案、支付开放平台场景解决方案、图表可视化场景解决方案。通过分析实际业务来学习这个解决方案技术集，完全可以达到中级甚至高级工程师水平。
技术树
好了，学习线路图分享到这里
但不知道从哪入手怎么办？
推荐再装一个wgcloud监控系统
这是一款开源高效的运维监控系统，分布式，轻量实用，集成度高，指标多，部署简单等特点
它在github非常受欢迎，目前有2.6k stars，在码云也有1.2k stars
下面放几张wgcloud效果图
Python爬虫和数据分析需要哪些知识储备？
数据是决策的原材料，高质量的数据价值不菲，如何挖掘原材料成为互联网时代的先驱，掌握信息的源头，就能比别人更快一步。
大数据时代，互联网成为大量信息的载体，机械的复制粘贴不再实用，不仅耗时费力还极易出错，这时爬虫的出现解放了大家的双手，以其高速爬行、定向抓取资源的能力获得了大家的青睐。
爬虫变得越来越流行，不仅因为它能够快速爬取海量的数据，更因为有python这样简单易用的语言使得爬虫能够快速上手。
对于小白来说，爬虫可能是一件非常复杂、技术门槛很高的事情，但掌握正确的方法，在短时间内做到能够爬取主流网站的数据，其实非常容易实现，但建议你从一开始就要有一个具体的目标。
在目标的驱动下，你的学习才会更加精准和高效。那些所有你认为必须的前置知识，都是可以在完成目标的过程中学到的。
基于python爬虫，我们整理了一个完整的学习框架：
筛选和甄别学习哪些知识，在哪里去获取资源是许多初学者共同面临的问题。
接下来，我们将学习框架进行拆解，分别对每个部分进行详细介绍和推荐一些相关资源，告诉你学什么、怎么学、在哪里学。
爬虫简介爬虫是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。
这个定义看起来很生硬，我们换一种更好理解的解释：
我们作为用户获取网络数据的方式是浏览器提交请求->下载网页代码->解析/渲染成页面；而爬虫的方式是模拟浏览器发送请求->下载网页代码->只提取有用的数据->存放于数据库或文件中。
爬虫与我们的区别是，爬虫程序只提取网页代码中对我们有用的数据，并且爬虫抓取速度快，量级大。
随着数据的规模化，爬虫获取数据的高效性能越来越突出，能够做的事情越来越多：
市场分析：电商分析、商圈分析、一二级市场分析等市场监控：电商、新闻、房源监控等商机发现：招投标情报发现、客户资料发掘、企业客户发现等进行爬虫学习，首先要懂得是网页，那些我们肉眼可见的光鲜亮丽的网页是由HTML、css、javascript等网页源码所支撑起来的。
这些源码被浏览器所识别转换成我们看到的网页，这些源码里面必定存在着很多规律,我们的爬虫就能按照这样的规律来爬取需要的信息。
无规矩不成方圆，Robots协议就是爬虫中的规矩，它告诉爬虫和搜索引擎哪些页面可以抓取，哪些不可以抓取。
通常是一个叫作robots.txt的文本文件，放在网站的根目录下。
轻量级爬虫“获取数据——解析数据——存储数据”是爬虫的三部曲，大部分爬虫都是按这样的流程来进行，这其实也是模拟了我们使用浏览器获取网页信息的过程。
1、获取数据
爬虫第一步操作就是模拟浏览器向服务器发送请求，基于python，你不需要了解从数据的实现，HTTP、TCP、IP的网络传输结构，一直到服务器响应和应达的原理，因为python提供了功能齐全的类库来帮我们完成这些请求。
Python自带的标准库urllib2使用的较多，它是python内置的HTTP请求库，如果你只进行基本的爬虫网页抓取，那么urllib2足够用。
Requests的slogen是“Requests is the only Non-GMO HTTP library for Python, safe for humanconsumption”，相对urllib2，requests使用起来确实简洁很多，并且自带json解析器。
如果你需要爬取异步加载的动态网站，可以学习浏览器抓包分析真实请求或者学习Selenium来实现自动化。
对于爬虫来说，在能够爬取到数据地前提下当然是越快越好，显然传统地同步代码不能满足我们对速度地需求。
（ps：据国外数据统计：正常情况下我们请求同一个页面 100次的话，最少也得花费 30秒，但使用异步请求同一个页面 100次的话，只需要要 3秒左右。）
aiohttp是你值得拥有的一个库，aiohttp的异步操作借助于async/await关键字的写法变得更加简洁，架构更加清晰。使用异步请求库进行数据抓取时，会大大提高效率。
你可以根据自己的需求选择合适的请求库，但建议先从python自带的urllib开始，当然，你可以在学习时尝试所有的方式，以便更了解这些库的使用。
推荐请求库资源:
urllib2文档：https://dwz.cn/8hEGdsqDrequests文档 ：http://t.cn/8Fq1aXrselenium文档：https://dwz.cn/DlL9j9hfaiohttp文档：https://dwz.cn/hvndbuB42、解析数据
爬虫爬取的是爬取页面指定的部分数据值，而不是整个页面的数据，这时往往需要先进行数据的解析再进行存储。
从web上采集回来的数据的数据类型有很多种,主要有HTML、 javascript、JSON、XML等格式。解析库的使用等价于在HTML中查找需要的信息时时使用正则，能够更加快捷地定位到具体的元素获取相应的信息。Css选择器是一种快速定位元素的方法。Pyqurrey使用lxml解析器进行快速在xml和html文档上操作，它提供了和jQuery类似的语法来解析HTML文档，支持CSS选择器，使用非常方便。
Beautiful Soup是借助网页的结构和属性等特性来解析网页的工具，能自动转换编码。支持Python标准库中的HTML解析器,还支持一些第三方的解析器。
Xpath最初是用来搜寻XML文档的，但是它同样适用于HTML文档的搜索。它提供了超过 100 个内建的函数。这些函数用于字符串值、数值、日期和时间比较、节点和 QName 处理、序列处理、逻辑值等等，并且XQuery和XPointer都构建于XPath基础上。
Re正则表达式通常被用来检索、替换那些符合某个模式(规则)的文本。个人认为前端基础比较扎实的，用pyquery是最方便的，beautifulsoup也不错，re速度比较快，但是写正则比较麻烦。当然了，既然用python，肯定还是自己用着方便最好。
推荐解析器资源：
pyquery https://dwz.cn/1EwUKsEGBeautifulsoup http://t.im/ddfvxpath教程 http://t.im/ddg2re文档 http://t.im/ddg63、数据存储
当爬回来的数据量较小时，你可以使用文档的形式来储存，支持TXT、json、csv等格式。但当数据量变大，文档的储存方式就行不通了，所以掌握一种数据库是必须的。
Mysql 作为关系型数据库的代表，拥有较为成熟的体系，成熟度很高，可以很好地去存储一些数据，但在在海量数据处理的时候效率会显著变慢，已然满足不了某些大数据的处理要求。
MongoDB已经流行了很长一段时间，相对于MySQL ，MongoDB可以方便你去存储一些非结构化的数据，比如各种评论的文本，图片的链接等等。你也可以利用PyMongo，更方便地在Python中操作MongoDB。因为这里要用到的数据库知识其实非常简单，主要是数据如何入库、如何进行提取，在需要的时候再学习就行。
Redis是一个不折不扣的内存数据库，Redis 支持的数据结构丰富，包括hash、set、list等。数据全部存在内存，访问速度快，可以存储大量的数据，一般应用于分布式爬虫的数据存储当中。
推荐数据库资源：
mysql文档 https://dev.mysql.com/doc/mongoDB文档 https://docs.mongodb.com/redis文档 https://redis.io/documentation/工程化爬虫掌握前面的技术你就可以实现轻量级的爬虫，一般量级的数据和代码基本没有问题。
但是在面对复杂情况的时候表现不尽人意，此时，强大的爬虫框架就非常有用了。
首先是出身名门的Apache顶级项目Nutch，它提供了我们运行自己的搜索引擎所需的全部工具。支持分布式抓取，并有Hadoop支持，可以进行多机分布抓取，存储和索引。另外很吸引人的一点在于，它提供了一种插件框架，使得其对各种网页内容的解析、各种数据的采集、查询、集群、过滤等功能能够方便的进行扩展。
其次是GitHub上众人star的scrapy，scary是一个功能非常强大的爬虫框架。它不仅能便捷地构建request，还有强大的 selector 能够方便地解析 response，然而它最让人惊喜的还是它超高的性能，让你可以将爬虫工程化、模块化。学会scrapy，你可以自己去搭建一些爬虫框架，你就基本具备爬虫工程师的思维了。
最后Pyspider作为人气飙升的国内大神开发的框架，满足了绝大多数Python爬虫的需求 —— 定向抓取，结构化化解析。它能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时查看，后端使用常用的数据库进行爬取结果的存储等。其功能强大到更像一个产品而不是一个框架。这是三个最有代表性的爬虫框架，它们都有远超别人的有点，比如Nutch天生的搜索引擎解决方案、Pyspider产品级的WebUI、Scrapy最灵活的定制化爬取。建议先从最接近爬虫本质的框架scary学起，再去接触人性化的Pyspider，为搜索引擎而生的Nutch。
推荐爬虫框架资源：
Nutch文档 http://nutch.apache.org/scary文档 https://scrapy.org/pyspider文档 http://t.im/ddgj反爬及应对措施爬虫像一只虫子，密密麻麻地爬行到每一个角落获取数据，虫子或许无害，但总是不受欢迎的。因为爬虫技术造成的大量IP访问网站侵占带宽资源、以及用户隐私和知识产权等危害，很多互联网企业都会花大力气进行“反爬虫”。
你的爬虫会遭遇比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。
常见的反爬虫措施有：
通过Headers反爬虫基于用户行为反爬虫基于动态页面的反爬虫字体反爬.....遇到这些反爬虫的手段，当然还需要一些高级的技巧来应对，控制访问频率尽量保证一次加载页面加载且数据请求最小化，每个页面访问增加时间间隔；
禁止cookie可以防止可能使用cookies识别爬虫的网站来ban掉我们；
根据浏览器正常访问的请求头对爬虫的请求头进行修改，尽可能和浏览器保持一致等等。
往往网站在高效开发和反爬虫之间会偏向前者，这也为爬虫提供了空间，掌握这些应对反爬虫的技巧，绝大部分的网站已经难不到你了。
分布式爬虫爬取基本数据已经没有问题，还能使用框架来面对一写较为复杂的数据，此时，就算遇到反爬，你也掌握了一些反反爬技巧。
你的瓶颈会集中到爬取海量数据的效率，这个时候相信你会很自然地接触到一个很厉害的名字：分布式爬虫。
分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理将多台主机组合起来，共同完成一个爬取任务，需要你掌握 Scrapy +Redis+MQ+Celery这些工具。
Scrapy 前面我们说过了，用于做基本的页面爬取， Redis 则用来存储要爬取的网页队列，也就是任务队列。
scarpy-redis就是用来在scrapy中实现分布式的组件，通过它可以快速实现简单分布式爬虫程序。
由于在高并发环境下，由于来不及同步处理，请求往往会发生堵塞，通过使用消息队列MQ，我们可以异步处理请求，从而缓解系统的压力。
RabbitMQ本身支持很多的协议：AMQP，XMPP, SMTP,STOMP，使的它变的非常重量级，更适合于企业级的开发。
Scrapy-rabbitmq-link是可以让你从RabbitMQ 消息队列中取到URL并且分发给Scrapy spiders的组件。Celery是一个简单、灵活且可靠的，处理大量消息的分布式系统。支持 RabbitMQ、Redis 甚至其他数据库系统作为其消息代理中间件， 在处理异步任务、任务调度、处理定时任务、分布式调度等场景表现良好。
所以分布式爬虫只是听起来有些可怕，也不过如此。当你能够写分布式的爬虫的时候，那么你可以去尝试打造一些基本的爬虫架构了，实现一些更加自动化的数据获取。
推荐分布式资源：
scrapy-redis文档 http://t.im/ddgkscrapy-rabbitmq文档 http://t.im/ddgncelery文档 http://t.im/ddgr你看，通过这条完整的学习路径走下来，爬虫对你来说根本不是问题。
因为爬虫这种技术，既不需要你系统地精通一门语言，也不需要多么高深的数据库技术。
解锁每一个部分的知识点并且有针对性的去学习，走完这一条顺畅的学习之路，你就能掌握python爬虫。
以上便是本文内容，有帮助点赞喜欢支持一下吧。。