php怎么取得节点，怎样开发一款软件？
喜望软件基于十年的软件应用开发经验给大家详细讲一下我们的App标准化开发流程。
我们按工作的性质不同先把App开发分成三个阶段：售前、售中、售后，每个阶段包括了多个步骤，循序渐进，最终完成项目的开发。
一、售前
1.需求沟通
在意向客户提出有项目需求时，我们的产品经理会跟售前顾问一起跟客户进行沟通。有些客户对于自己的需求通常只是一个大方面的想法，这个时候就需要我们专业的产品经理帮他整理出项目的具体需求和功能列表清单，并帮客户分析出没有考虑到的或能否实现的需求。
2.项目可行性分析
客户自身和产品经理都需要清晰了解该项目的功能特点、用户痛点、行业需求和为用户提供的服务内容等，每一点都要做出详细的调查分析，尤其是客户痛点这块。如果开发出来的App存留很多痛点，那么就算开发成功，也没多长时间的存活时间。因为任何一个App最终的成功都是建立在用户基础之上的。
（喜望某项目的解决方案）3.功能流程梳理
（1）整理架构
整理架构的过程就像是修房子打地基，产品经理会梳理产品整体功能架构，整理出核心内容，打造产品的地基，以确保客户以后可以在这个原有的基础上进行调整，更为方便、更具有扩展性。
（2）功能列表
接下来，产品经理会做出更详细的功能列表，添加每个模块的细节内容及具体功能，比如“注册”用哪种注册方式，短信验证码还是第三方注册等。这部分就像你在装修毛坯房时，首先要考虑加上门窗、水电改造等。
（3）梳理流程
产品经理会根据客户的需求梳理出产品的核心业务，会帮客户提前考虑到他们现有的流程是否可以在互联网上进行操作，例如一些传统行业转互联网的企业客户，产品经理会站在移动互联网的专业角度帮客户梳理并优化流程。
4.量身定制实施方案
当需求文档确认完毕之后，售前顾问会根据客户需求量身定制一套App开发方案和报价清单，包括项目组人员安排、时间节点安排和技术方案等，待客户确认完之后就可以开始正式签约合作了。
二、售中1.产品设计
（1）原型设计与评审
喜望产品经理根据需求文档设计出高保真原型图，包括功能的结构性布局、各分页面的设计、界面交互逻辑的设计等。高保真原型图将需求文档转换为更直观的软件demo版本，这样即可以确认更多的细节，保证项目研发的效果，也能避免沟通不畅或沟通不到位而引发的纠纷问题。
（喜望某项目的高保真原型图）（2）UI设计与评审
原型图设计确认好之后，UI设计师会根据产品的定位和原型图设计UI界面效果图了，相当于是在原型图的基础上加上颜色、确定产品整体风格、功能具象化处理、交互设计和排版布局等，使客户更直观的可以看到App的雏形，具有极高的还原度，能够为用户带来更高的体验度。一个完整的App需要一个吸引用户眼球的创意，这就需要产品经理和UI设计师在创意策划上有着独到的见解。
（3）需求详细讲解
产品经理会跟项目经理对接需求和原型图UI图，讲解客户的详细需求、功能板块、跳转页面等，项目经理需要细化需求，将这些需求和图片翻译成工程师们能更好理解的语言。接着，项目组会搭配着原型图UI图来召开技术会议，统一进行项目需求讲解。
（4）技术标准制定
项目经理在了解清楚整个项目的需求后提供易扩展、可持续迭代的技术框架方案，比如是原生开发还是混合开发、用Java还是PHP、还有第三方选型等。
2.敏捷开发
（1）迭代开发计划
在正式进入项目开发之前，项目组会对项目本身进行评估，对研发周期、提测时间、预发布时间点进行初步的判断。接着对项目功能进行分解，把项目需求划分成4-5个节点，比如1号-9号做第一个功能模块，10号-15号做第二个功能模块……项目组把迭代开发计划发给客户确认后，就开始按着这个计划做节点研发了。
（喜望某项目的开发节点计划表）（2）节点研发
按照需求分析整理出来的功能数据处理情况，项目组会建立合理的数据库表结构，优化数据算法，提升数据的处理效率，保证后期App使用过程中数据的安全性、准确性、稳定性和及时性。
一个完整的App项目一般包含以下几个模块：
①服务器端：编写接口协议文档，服务器环境架设（国内一般都是用阿里云服务器，国外一般用亚马逊），设计数据库和编写API接口，业务功能实现及接口封装、管理后台的开发。
②App端：根据UI设计图进行界面开发，UI开发完成后对接服务器接口，通过服务端接口获取数据，编写功能上的逻辑代码。
③Web管理端：根据前端的业务逻辑，后台会有相应的功能与之匹配，同样需要编写功能上的逻辑代码。
在项目研发阶段，项目经理进行技术攻关，流程助理同时跟踪进度，项目组也会每周向客户进行开发进度汇报，并协助客户申请软著。
（喜望某项目的总进度甘特图）（3）单元测试
以前的开发流程就是工程师从头写到尾，把App功能全部开发完成后再进行系统测试，这样就很容易出现以下几个问题：修改了一处bug却在另一处地方引发了新的bug、扩展新功能的同时导致旧代码出现bug等等，这个时候就需要引入单元测试。
单元测试简单来说就是工程师做一个节点研发，测试工程师就测试一个节点，这样就能够清晰的知道是否破坏了老的业务逻辑，容易排除掉一些非常低级的错误，大大减少回归出错的可能性和调试的时间，提高代码质量。
（喜望正在测试某项目）（4）系统测试
App功能开发完成之后，测试人员会对整个项目进行系统性测试。而完成项目测试调试最重要的环节是问题的管理，追踪各个bug的进度以及状态，包括指派给谁、优先级、修复状态等，以便有质量地完成问题的处理。
产品面向的平台多机型同步测试，包括：App内容测试、App性能测试、App功能测试、App视觉测试，对BUG调试修复。测试合格，确认没有bug后与客户进行沟通，开始验收，再由客户进行测试，提出修改意见。
3.上线交付
01.用户体验测试
喜望在2018年新设了一个“创新性人才岗位”——用户体验官，这是移动互联网行业首创的“从功能试错服务到运营实践服务”。
用户体验官的工作就是用户体验测试，从用户体验、产品、易用性、颜值、App设计还原度等多个维度进行体验性测试，并通过后台上传真实的前期种子数据，让整个App的内容很丰满，互动性强。用户体验测试是从项目本身的用户群体和运营逻辑来帮助客户打造好整个App的调性。
02.部署上线
在代码开发和测试完成后，就进入了后期上线的阶段。
（1）部署正式服务器：将数据库、后台系统部署到正式的服务器上面，并录入正式的上线数据到app系统后台。
（2）准备上架相关的资料：如软件著作权、应用说明、App界面截图和打包版等。
（3）发布App应用到市场：根据App端口选择发布iOS或Android应用市场。
①Android：涉及的应用市场很多，主流市场是腾讯应用宝、手机百度助手、360手机助手、91手机助手，不同的应用市场的受众属性和流量会有所不同，需要根据客户需求和项目实际情况来选择。一般来说，1-2个工作日就可以通过审核上线。
②iOS：发布到App Store，提交后一般最快都需要5个工作日左右才可以通过审核上架。因为App Store审核比较严格，比如是否符合最新的上架要求、是否涉及到虚拟货币、是否支持最新环境等很多问题都会决定审核能否通过。
但有可能会遇到这种情况：比如某App存在3个导致不通过的问题，App Store只要找到其中一个问题就不会通过，不会把3个问题都找出来告诉你为什么拒绝，所以如果经验不足，上架N次花费几个月都是很有可能的。
③发布小程序到微信公众号：需要把小程序发布提交给微信团队审核并上架，一般1-2个工作日就可以通过审核上线。
03.源码交付
APP开发测试上线后，要进行终验交付，即按照合同规定，将源码、说明文档、操作文档等所有项目的相关资料交付给客户。
包括但不限于：
1前后端项目的所有最新源代码（含注释）
2数据库设计文档
3API设计文档
4所有的开发者账号资料
5测试文档
6原型设计稿
7UI设计稿
8项目相关文档等资料
04.项目运营培训
在交付源码时，喜望的项目经理会给客户针对项目的所有功能操作进行培训，比如优惠券怎么发、司机怎么核审、怎么查看用户注册等。我们也会根据客户需求，让品牌设计师和新媒体运营官为客户设计上线海报和新媒体运营方案。
三、售后1.前期维护
一般的App开发完后都需要进行维护，即便是已经达到相对稳定的阶段，也可能随着手机系统的升级或长时间的使用等，出现一些小问题或隐藏得比较深的bug。
喜望会免费赠送客户三个月的维护期，一个项目正式上线运营了3个月左右的时候就已经清楚了整体的运营模式和部分功能欠缺，接下来想要继续运营app就需要迭代开发、优化功能模块。
在此期间，我们会解答客户的疑问、指导软件的使用和内容的上传等事项，以及修复程序Bug、突发情况发生后紧急维修等。
2.定制更新
在App投放到市场后，会得到用户以及市场本身的一些反馈，从而知道该如何修正或者调整运营策略，当目前系统的功能无法满足项目需求时，就需要规划新一版本功能的迭代问题了，也就是开发项目2.0。
喜望会帮助客户进行定制更新，也就是继续App开发前期“售前”所做的工作：需求沟通、可行性分析、功能流程梳理以及量身定制实施方案。
这个迭代方案一般根据以下2点进行制定：
①未完善的BUG
比如上线后的App在运营过程发现的一些BUG，或者逻辑错误的一些地方，如果我们想要修复这些逻辑错误问题和功能BUG，就必须进行App的迭代。
②App数据分析
数据是极其重要的衡量标准，通过分析App的投放资源、用户激活率、转化率、留存率和用户进入使用不同功能的占比、各个环节的流失，寻找对App体验影响较大的指标，分析自查功能设计上的优劣，以便进行功能上的版本迭代。
3.迭代开发
同样的，当项目进行迭代开发时，也会重新经历“售中”的全部过程，包含产品设计、敏捷开发和上线交付等所有的产品生命周期。
4.项目维护回访
当项目运营过一段时间（免费维护期结束）后，喜望会对客户进行回访，询问运营情况等。当然了，如果后续客户需要我们继续提供运维支持，我们也是很乐意的，因为在App运营的过程中需要与时俱进、维护更新，App才能长存。
5.新媒体运营
成功上线后的App可以通过企业的运营推广，发展用户数量，得以长久的运营。推广运营的方式有很多种，比如进行线下推广、投入广告、新媒体运营推广等。
贴心的喜望根据九年的从业经验以及目前市场情况，会推荐客户做成本相对较低的新媒体运营推广。
从上面的App开发流程来看，每一个项目研发都要经历以上3个阶段22环节，这其实是一条完整的流水线，做到这样往往能达到较高水准的项目质量。但是如何保证流程顺畅进行？如何使项目成员的工作效率最大化？这就十分考验开发公司的专业度和项目成员的规划能力了。
之前有讲到过，一款App开发的时间也会影响到App开发的价格，所以，了解一下App的标准开发流程还是很有必要的哟。
如果您想开发App软件，或者想了解更详细的开发流程、开发方案、报价等等相关内容，欢迎咨询成都喜望软件，有专业的售前顾问、产品经理为您详细解答App相关疑问。
天津有什么好玩的？
天津依河而建，景色优美，素有万国建筑博览会之称，城市建筑独具特色，既有雕梁画栋、典雅朴实的古建筑，又有众多新颖别致的西洋建筑。
天津亦是著名的历史文化名城，著名的有天后宫、玉皇阁、文庙、天主教堂、清真大寺、大悲禅院、广东会馆，以及周恩来青年时代在津革命活动旧址等。
1.五大道五大道位于天津和平区，以区域内五个主要的道路命名，实际有二十多条街道。清朝遗老、北洋政府里很多官员名流都曾在这里寓居，一栋栋优美典雅的洋房仿佛在诉说着津门曾经的风云故事。
街道有2000多所花园式的欧式建筑，其中名人故居就有三百多处，张学良、顾维钧、爱新觉罗载振等众多清末民初的名流都在这里留下了名字。这里的建筑整体是欧式，但形式多样各有特色。街区优雅浪漫，不少影视剧组来此取景，拍婚纱照的也爱把五大道的小洋房当背景。
游玩贴士：
1. 游览五大道的最佳时间是春天，路边开满海棠花，很美。
2. 目前五大道的很多建筑门牌上设置了二维码，可以留意查找，扫描并了解建筑的故事。
3.初到五大道，可以先到长沙路101号的民园广场，看看曾经的欧式体育馆，这里也相当于是五大道的集散中心。广场附近的游客中心里，可以拿一份地图（也有付费购买的更清晰版），上面标注了五大道很多故居、建筑的所在地，根据地图参观游玩即可。
2.天津之眼摩天轮天津之眼是一座横跨在海河上的摩天轮，就像是桥上的一只眼睛，这里也是天津最著名的的地标之一，每到夜晚华灯初上时，天津之眼的彩灯柔美，无数游客会来到这里，拍摄全景或是乘坐观光，享受别样的浪漫。
游玩天津之眼一般有两种方式，乘坐或是远观拍照。乘坐摩天轮70元每人，如果想要独享，还可以花400块包一个包厢（限坐5人或以下）。摩天轮运营一圈大约是30分钟，座舱内有空调，可以缓慢舒适的观赏周围开阔的景色，尤其夜晚天黑后华灯初上，十分漂亮。
游玩贴士：
摩天轮目前每天上午9:30开始运营，下午到票售罄时即结束，每到节假日时摩天轮旁都会排起大长队，常常五六点钟票就售完了，所以若有条件还请避开节假日。
3.古文化街古文化街位于天津市南开区，以天后宫为中心，南起水阁大街，北到通北路。这里是天津最著名的老字号和手工艺品店铺集中地。可以找到杨柳青年画、泥人张、魏记风筝等众多的手工艺品，还能品尝到经典的天津美食。
古文化街目前有上百家店堂，大多是天津老字号店铺，充满浓郁的民间特色。。这里有出售景泰蓝、苏绣、漆器等的综合性店铺乔香阁；有出售土特产的果仁张、皮糖张、崩豆张；最负盛名的还是民间工艺品店铺，拥有神态逼真的彩绘泥塑的“泥人张”，使用木板印绘年画的杨柳青年画，制作形态各异的风筝的“风筝魏”等，都是游客到古文化街必须去逛一逛的店铺。
逛街的同时还可以享受天津特色美食，狗不理包子，煎饼果子，天津麻花等，绝对满足吃货的胃口。店铺早上8:30左右开张，晚上17:30左右打烊，可以注意一下逛街的时间。
4.盘山盘山位于蓟县县城西侧，是京津一带名山。山上多奇松、怪石、流水，而且随高度不同，三层风景依次出现，成为著名的“三盘”奇景。因为风景秀美，引得清朝乾隆32次巡游盘山，还发出“早知有盘山，何必下江南”的感慨。
前山有两段索道：入胜索道（山门-万松寺），单程60元，可以上到半山腰；云松索道（万松寺-云罩寺），单程60元，从半山腰上到挂月峰下的云罩寺，距离山顶很近。后山有盘山观光车加挂月索道，两者打包出售，单程80元，依次乘坐观光车和索道后，再爬一小段路就能到山顶。
游玩贴士：
1. 景区周边常有野导拉客，常常宣称说可以帮助免门票、免索道等，大多是骗人的，请不要轻信。
2. 盘山山下有农家院，如果时间充裕不妨住宿一晚，可以品尝地道的农家菜，有时候农家院的老板们还会帮忙拿到打折票。
【高端服务信息】盘山含尊享特级导游讲解，专业导游全程陪同讲解服务（此服务无法线上预定，只能通过现场预定）
5.意大利风情区意大利风情区位于天津市中心，这里有200余栋地中海风格的典雅建筑。漫步其中，就像行走在浪漫的欧洲小镇，众多的名人故居、影视剧取景地也为游人的旅程增色不少。
意大利风情区就在海河的旁边，从海河边（北安桥）走过来，首先看到是高高的有尖顶的钟楼，再往前可以看到精致的镂空铜马车，标志着意大利风情旅游区到了。沿街随意逛逛，看看红顶意式建筑群，欧式雕塑，踱步到马可波罗广场。
马可波罗广场是景区的标志性建筑之一，中央柯林斯式的石柱上站着手持橄榄枝的和平女神。往西走，是威尼斯广场的“飞狮许愿池”，它远没有《罗马假日》电影里真正的罗马许愿池的气魄和鼎盛人气，可与整个意大利风情区营造的气氛融合，也依稀有电影的感觉了。的确有众多影视剧来这里取景，比如《建国大业》、《金粉世家》等，游人可以在这里找到剧中熟悉的场景，同时，也吸引了很多拍婚纱照的爱侣。
游玩贴士：
园内交通：电瓶车：位于马可波罗广场旁，工作时间10:00-16:00，10元/人/次，仅支付现金、微信、支付宝，运行于景区内马可波罗广场至但丁广场
6.瓷房子瓷房子是一座动用了无数私藏古瓷器、汉白玉石雕、水晶、玛瑙、古董装饰而成的法式建筑。房子的墙上密密麻麻贴满了精美的中国古代瓷器，庭院和楼内堆满了古董，铺天盖地的瓷器古董常让初到瓷房子的游客眼花缭乱。
瓷房子的围墙由数百个民国时期和晚清时期的古瓷瓶垒砌串联而成，名平安墙。房顶用古瓷片拼成的巨龙盘旋出“China”的图案，巨龙后是碎瓷片拼出的2008年奥运主体育场鸟巢。注意看房子外围右侧，有一竖排的瓷猫从顶层延伸到一层墙角，瓷猫周边镶嵌满水晶、玛瑙，如此兴师动众装饰的却是一根下水管道，令人赞叹。
游玩贴士：
1.瓷房子中有免费的讲解服务，每到游客达到一定人数就开始一次，可以留意听听。
2.整幢楼共有五层，地下室不对外开放，一到四层供游客参观。
7.天津海昌极地海洋公园海昌极地海洋世界位于天津市塘沽区南侧，是天津市最大的海洋水族馆和极地乐园，来此可以观赏各种水生和极地动物，观看精彩的动物表演，是周末放松娱乐的乐园，也是带小朋友出游的好去处。
极地海洋世界内分为极地动物展示区、海底隧道区、白鲸展区、珊瑚展区和科普馆几大展区，在这里可以看到可爱的企鹅、白鲸和众多的海洋动物，还能在触摸池里亲手触摸各种鱼类、虾类、蟹类、贝壳、珊瑚、海藻等，非常适合带小朋友前来体验。
景区内每天还有多场精彩的动物表演，有企鹅、北极熊、海狮、海象等多种动物的搞笑或浪漫演出。
游玩贴士：
具体演出时间参见官网说明：http://www.tianjinpolar.com/index.php?case=archive&act=list&catid=10
8.张学良故居张学良故居位于和平区赤峰道，是一座中西合璧的优雅洋楼，张学良和赵四小姐曾经在这里生活。故居里恢复了当年的陈设，设有张学良生平的图文介绍，还提供餐饮服务，可以了解、体验少帅的生平和生活环境。
故居的内部全部都是按照少帅在此生活时的原样复原陈设，这里有当年的会客厅、书房、卧室等各个房间，客厅内的大吊灯、唱机、赵四小姐浪漫的卧房等等多个高贵静美的细节都在彰显着曾经主人的身份。在房子里还有关于张学良生平的图文介绍，可以在此了解将军的生平故事。故居每天会提供两次免费讲解，上午一场下午一场，具体时间会根据游客人数调节确定。
走进张学良故居的小院子，迎面便是气派的三层小洋楼。楼房为白色的西式建筑，呈阶梯式，在二层和三层各有一个大露台，而建筑内部就是少帅曾经居住生活过的地方，进入后一一参观即可，一般仅参观的话1-2小时即可。
9.静园静园，始建于1921年，初名乾园，为北洋政府驻日公使陆宗舆的私宅。1929年到1931年，末代皇帝溥仪携皇后婉容，淑妃文绣于此居住。更名为“静园，”意在静观时局，以求复辟。
静园占地面积约3016平米，建筑面积为1900平方米。园内建有砖木结构的楼房一座，为西班牙主义建筑风格，其中掺杂着日本木构建筑特色。
整体建筑是砖木结构楼房，很有异域风情，环境静谧，花草茂密。
Docker有什么优势？
单纯的Docker是一个非常难理解的东西，它和虚拟机有些类似，但又不等同于虚拟机，它们的原理是不同的。
虚拟机只是对硬件进行虚拟化，基于物理机的硬件虚拟出一套硬件之后，在这个基础上运行一个完整的操作系统，而Docker是虚拟化的容器，容器虚拟化的是操作系统而不是硬件，容器和容器之间共享同一套操作系统资源。
容器的优势是非常明显的：虚拟机将一台服务器变成多台服务器，每一个VM都拥有整套的操作系统、需要占用大量的空间，所以VM启动缓慢系统也会占用很多的硬件资源。代码、依赖的资源打包在一起形成一个容器，容器没有自己的内核，容器内的应用直接运行在系统的内核上，多个容器可以同时运行共享系统内核，但容器之间又以相互独立的进程在运行。所以容器比虚拟机要轻便很多，几乎瞬间就能启动。
如此这般说Docker的概念还是很抽象，举个例子：Ubuntu的系统搭建的项目要部署到CentOS的服务器上，所有依赖的环境（比如：MySQL、Redis等等）都需要重新安装一遍，并按照部署的要求进行配置。使用Docker只需要一条命令就可以达成，需要MySQL只需要安装一个MySQL的镜像，需要Redis只需要安装一个带Redis的镜像，然后启动这些容器就可以。
容器可以用别人制作的，也可以添加一些自己的软件、修改相应的配置文件做一个镜像，通过这个镜像就可以创建出无数个一模一样的容器。Docker和各大开源项目团队一起维护着庞大高质量的官方镜像，我们可以直接使用或者修改定制后再使用。你还无法体会这样的优势所在，比如通过一个Redis镜像，可以轻松的搭建一个集群。容器更多地用来表示软件的标准化单元，无视物理硬件设施之间的差异部署到任意位置、任意平台，所以容器又被誉为代码集装箱装卸工。
如此这般就不会再出现诸如“这段代码在我机器上运行没有问题”之类的，可以轻松的将在一个平台上运行的应用，迅速的迁移到另一个平台，而不用考虑平台和运行环境的兼容性。
Docker包含了镜像（Image）、容器（Container）、仓库（Repository）Docker的镜像相当于Linux的root文件系统，它提供容器运行所需要的软件、资源、配置参数、库文件等等。容器才是运行的实体，镜像是经过一层层构建定义的，里面不包含任何动态数据，构建完之后就不会再改变，而容器可以创建、启动、停止、暂停、删除。仓库是用来集中存放镜像文件，这样就便于服务器进行统一的管理。
Docker码头装卸工的形象已经深入人心Docker将开源仓库的镜像拉到本地，镜像运行后在本地运行形成容器，这个就是Docker码头装卸工的形象，已经深入人心。它赋予了软件独立性，避免了开发、预演、环境之间的差异。Docker这几年这么火爆是不无道理的，好用所以它就火了。
以上个人浅见，欢迎批评指正。
认同我的看法，请点个赞再走，感谢！喜欢我的，请关注我，再次感谢！自学编程该如何入手？
其实编程语言的很多思想都是相通的，在时间有限的情况下，通过一个或几个小项目的训练可以帮助你比较快的梳理编程的思路，在这里向题主推荐《我的第一本编程书》这本书。
这本书通过一个将不断下落的方块排列整齐的游戏，讲解一个小游戏项目中涉及到的编程知识。在对编程语言不精通的情况下，可以先通过这本书提供的案例，使用专用的编程语言体验项目流程并学习做小项目的编程思路，了解各种知识点的用途。
具体到编程语言的学习，在这里推荐一些比较适合初学者学习的编程语言书籍。希望能对题主有所帮助。
C语言是编程者的入门语言，也是许多大学的第一门程序设计课程。如果题主未来想从事编程方面的工作，学习C语言还是非常必要的，《“笨办法”学C语言》这本书比较适合初学者。
这本书的内容十分浅显易懂，通过52个习题来讲解C语言的相关知识，每个习题都配了视频，更加方便读者操作，并保证程序能正确运行。
如果你觉得《“笨办法”学C语言》这本书的难易程度还能接受的话，也可以再尝试阅读一下《C Primer Plus 第6版 中文版》这本书，挑战一下自己的能力。
C语言主要是用于小规模程序的开发，对于计算量较大的程序而言，C++是更好的选择。不过初中编程者学习C++还是有一定难度的，如果题主想进行更深入的研究，可以尝试一下《C++ Primer Plus(第6版)中文版》这本书，看看能否更进一步。
除了C/C++以外，Java和Python也是目前比较主流的编程语言，题主可以通过学习《漫画面向对象编程Java语言版》、《教孩子学编程（Python语言版）》、《Python趣味编程入门》中的一些简单案例来了解不同编程语言的特点。
Python爬虫和数据分析需要哪些知识储备？
数据是决策的原材料，高质量的数据价值不菲，如何挖掘原材料成为互联网时代的先驱，掌握信息的源头，就能比别人更快一步。
大数据时代，互联网成为大量信息的载体，机械的复制粘贴不再实用，不仅耗时费力还极易出错，这时爬虫的出现解放了大家的双手，以其高速爬行、定向抓取资源的能力获得了大家的青睐。
爬虫变得越来越流行，不仅因为它能够快速爬取海量的数据，更因为有python这样简单易用的语言使得爬虫能够快速上手。
对于小白来说，爬虫可能是一件非常复杂、技术门槛很高的事情，但掌握正确的方法，在短时间内做到能够爬取主流网站的数据，其实非常容易实现，但建议你从一开始就要有一个具体的目标。
在目标的驱动下，你的学习才会更加精准和高效。那些所有你认为必须的前置知识，都是可以在完成目标的过程中学到的。
基于python爬虫，我们整理了一个完整的学习框架：
筛选和甄别学习哪些知识，在哪里去获取资源是许多初学者共同面临的问题。
接下来，我们将学习框架进行拆解，分别对每个部分进行详细介绍和推荐一些相关资源，告诉你学什么、怎么学、在哪里学。
爬虫简介爬虫是一种按照一定的规则，自动地抓取万维网信息的程序或者脚本。
这个定义看起来很生硬，我们换一种更好理解的解释：
我们作为用户获取网络数据的方式是浏览器提交请求->下载网页代码->解析/渲染成页面；而爬虫的方式是模拟浏览器发送请求->下载网页代码->只提取有用的数据->存放于数据库或文件中。
爬虫与我们的区别是，爬虫程序只提取网页代码中对我们有用的数据，并且爬虫抓取速度快，量级大。
随着数据的规模化，爬虫获取数据的高效性能越来越突出，能够做的事情越来越多：
市场分析：电商分析、商圈分析、一二级市场分析等市场监控：电商、新闻、房源监控等商机发现：招投标情报发现、客户资料发掘、企业客户发现等进行爬虫学习，首先要懂得是网页，那些我们肉眼可见的光鲜亮丽的网页是由HTML、css、javascript等网页源码所支撑起来的。
这些源码被浏览器所识别转换成我们看到的网页，这些源码里面必定存在着很多规律,我们的爬虫就能按照这样的规律来爬取需要的信息。
无规矩不成方圆，Robots协议就是爬虫中的规矩，它告诉爬虫和搜索引擎哪些页面可以抓取，哪些不可以抓取。
通常是一个叫作robots.txt的文本文件，放在网站的根目录下。
轻量级爬虫“获取数据——解析数据——存储数据”是爬虫的三部曲，大部分爬虫都是按这样的流程来进行，这其实也是模拟了我们使用浏览器获取网页信息的过程。
1、获取数据
爬虫第一步操作就是模拟浏览器向服务器发送请求，基于python，你不需要了解从数据的实现，HTTP、TCP、IP的网络传输结构，一直到服务器响应和应达的原理，因为python提供了功能齐全的类库来帮我们完成这些请求。
Python自带的标准库urllib2使用的较多，它是python内置的HTTP请求库，如果你只进行基本的爬虫网页抓取，那么urllib2足够用。
Requests的slogen是“Requests is the only Non-GMO HTTP library for Python, safe for humanconsumption”，相对urllib2，requests使用起来确实简洁很多，并且自带json解析器。
如果你需要爬取异步加载的动态网站，可以学习浏览器抓包分析真实请求或者学习Selenium来实现自动化。
对于爬虫来说，在能够爬取到数据地前提下当然是越快越好，显然传统地同步代码不能满足我们对速度地需求。
（ps：据国外数据统计：正常情况下我们请求同一个页面 100次的话，最少也得花费 30秒，但使用异步请求同一个页面 100次的话，只需要要 3秒左右。）
aiohttp是你值得拥有的一个库，aiohttp的异步操作借助于async/await关键字的写法变得更加简洁，架构更加清晰。使用异步请求库进行数据抓取时，会大大提高效率。
你可以根据自己的需求选择合适的请求库，但建议先从python自带的urllib开始，当然，你可以在学习时尝试所有的方式，以便更了解这些库的使用。
推荐请求库资源:
urllib2文档：https://dwz.cn/8hEGdsqDrequests文档 ：http://t.cn/8Fq1aXrselenium文档：https://dwz.cn/DlL9j9hfaiohttp文档：https://dwz.cn/hvndbuB42、解析数据
爬虫爬取的是爬取页面指定的部分数据值，而不是整个页面的数据，这时往往需要先进行数据的解析再进行存储。
从web上采集回来的数据的数据类型有很多种,主要有HTML、 javascript、JSON、XML等格式。解析库的使用等价于在HTML中查找需要的信息时时使用正则，能够更加快捷地定位到具体的元素获取相应的信息。Css选择器是一种快速定位元素的方法。Pyqurrey使用lxml解析器进行快速在xml和html文档上操作，它提供了和jQuery类似的语法来解析HTML文档，支持CSS选择器，使用非常方便。
Beautiful Soup是借助网页的结构和属性等特性来解析网页的工具，能自动转换编码。支持Python标准库中的HTML解析器,还支持一些第三方的解析器。
Xpath最初是用来搜寻XML文档的，但是它同样适用于HTML文档的搜索。它提供了超过 100 个内建的函数。这些函数用于字符串值、数值、日期和时间比较、节点和 QName 处理、序列处理、逻辑值等等，并且XQuery和XPointer都构建于XPath基础上。
Re正则表达式通常被用来检索、替换那些符合某个模式(规则)的文本。个人认为前端基础比较扎实的，用pyquery是最方便的，beautifulsoup也不错，re速度比较快，但是写正则比较麻烦。当然了，既然用python，肯定还是自己用着方便最好。
推荐解析器资源：
pyquery https://dwz.cn/1EwUKsEGBeautifulsoup http://t.im/ddfvxpath教程 http://t.im/ddg2re文档 http://t.im/ddg63、数据存储
当爬回来的数据量较小时，你可以使用文档的形式来储存，支持TXT、json、csv等格式。但当数据量变大，文档的储存方式就行不通了，所以掌握一种数据库是必须的。
Mysql 作为关系型数据库的代表，拥有较为成熟的体系，成熟度很高，可以很好地去存储一些数据，但在在海量数据处理的时候效率会显著变慢，已然满足不了某些大数据的处理要求。
MongoDB已经流行了很长一段时间，相对于MySQL ，MongoDB可以方便你去存储一些非结构化的数据，比如各种评论的文本，图片的链接等等。你也可以利用PyMongo，更方便地在Python中操作MongoDB。因为这里要用到的数据库知识其实非常简单，主要是数据如何入库、如何进行提取，在需要的时候再学习就行。
Redis是一个不折不扣的内存数据库，Redis 支持的数据结构丰富，包括hash、set、list等。数据全部存在内存，访问速度快，可以存储大量的数据，一般应用于分布式爬虫的数据存储当中。
推荐数据库资源：
mysql文档 https://dev.mysql.com/doc/mongoDB文档 https://docs.mongodb.com/redis文档 https://redis.io/documentation/工程化爬虫掌握前面的技术你就可以实现轻量级的爬虫，一般量级的数据和代码基本没有问题。
但是在面对复杂情况的时候表现不尽人意，此时，强大的爬虫框架就非常有用了。
首先是出身名门的Apache顶级项目Nutch，它提供了我们运行自己的搜索引擎所需的全部工具。支持分布式抓取，并有Hadoop支持，可以进行多机分布抓取，存储和索引。另外很吸引人的一点在于，它提供了一种插件框架，使得其对各种网页内容的解析、各种数据的采集、查询、集群、过滤等功能能够方便的进行扩展。
其次是GitHub上众人star的scrapy，scary是一个功能非常强大的爬虫框架。它不仅能便捷地构建request，还有强大的 selector 能够方便地解析 response，然而它最让人惊喜的还是它超高的性能，让你可以将爬虫工程化、模块化。学会scrapy，你可以自己去搭建一些爬虫框架，你就基本具备爬虫工程师的思维了。
最后Pyspider作为人气飙升的国内大神开发的框架，满足了绝大多数Python爬虫的需求 —— 定向抓取，结构化化解析。它能在浏览器界面上进行脚本的编写，功能的调度和爬取结果的实时查看，后端使用常用的数据库进行爬取结果的存储等。其功能强大到更像一个产品而不是一个框架。这是三个最有代表性的爬虫框架，它们都有远超别人的有点，比如Nutch天生的搜索引擎解决方案、Pyspider产品级的WebUI、Scrapy最灵活的定制化爬取。建议先从最接近爬虫本质的框架scary学起，再去接触人性化的Pyspider，为搜索引擎而生的Nutch。
推荐爬虫框架资源：
Nutch文档 http://nutch.apache.org/scary文档 https://scrapy.org/pyspider文档 http://t.im/ddgj反爬及应对措施爬虫像一只虫子，密密麻麻地爬行到每一个角落获取数据，虫子或许无害，但总是不受欢迎的。因为爬虫技术造成的大量IP访问网站侵占带宽资源、以及用户隐私和知识产权等危害，很多互联网企业都会花大力气进行“反爬虫”。
你的爬虫会遭遇比如被网站封IP、比如各种奇怪的验证码、userAgent访问限制、各种动态加载等等。
常见的反爬虫措施有：
通过Headers反爬虫基于用户行为反爬虫基于动态页面的反爬虫字体反爬.....遇到这些反爬虫的手段，当然还需要一些高级的技巧来应对，控制访问频率尽量保证一次加载页面加载且数据请求最小化，每个页面访问增加时间间隔；
禁止cookie可以防止可能使用cookies识别爬虫的网站来ban掉我们；
根据浏览器正常访问的请求头对爬虫的请求头进行修改，尽可能和浏览器保持一致等等。
往往网站在高效开发和反爬虫之间会偏向前者，这也为爬虫提供了空间，掌握这些应对反爬虫的技巧，绝大部分的网站已经难不到你了。
分布式爬虫爬取基本数据已经没有问题，还能使用框架来面对一写较为复杂的数据，此时，就算遇到反爬，你也掌握了一些反反爬技巧。
你的瓶颈会集中到爬取海量数据的效率，这个时候相信你会很自然地接触到一个很厉害的名字：分布式爬虫。
分布式这个东西，听起来很恐怖，但其实就是利用多线程的原理将多台主机组合起来，共同完成一个爬取任务，需要你掌握 Scrapy +Redis+MQ+Celery这些工具。
Scrapy 前面我们说过了，用于做基本的页面爬取， Redis 则用来存储要爬取的网页队列，也就是任务队列。
scarpy-redis就是用来在scrapy中实现分布式的组件，通过它可以快速实现简单分布式爬虫程序。
由于在高并发环境下，由于来不及同步处理，请求往往会发生堵塞，通过使用消息队列MQ，我们可以异步处理请求，从而缓解系统的压力。
RabbitMQ本身支持很多的协议：AMQP，XMPP, SMTP,STOMP，使的它变的非常重量级，更适合于企业级的开发。
Scrapy-rabbitmq-link是可以让你从RabbitMQ 消息队列中取到URL并且分发给Scrapy spiders的组件。Celery是一个简单、灵活且可靠的，处理大量消息的分布式系统。支持 RabbitMQ、Redis 甚至其他数据库系统作为其消息代理中间件， 在处理异步任务、任务调度、处理定时任务、分布式调度等场景表现良好。
所以分布式爬虫只是听起来有些可怕，也不过如此。当你能够写分布式的爬虫的时候，那么你可以去尝试打造一些基本的爬虫架构了，实现一些更加自动化的数据获取。
推荐分布式资源：
scrapy-redis文档 http://t.im/ddgkscrapy-rabbitmq文档 http://t.im/ddgncelery文档 http://t.im/ddgr你看，通过这条完整的学习路径走下来，爬虫对你来说根本不是问题。
因为爬虫这种技术，既不需要你系统地精通一门语言，也不需要多么高深的数据库技术。
解锁每一个部分的知识点并且有针对性的去学习，走完这一条顺畅的学习之路，你就能掌握python爬虫。
以上便是本文内容，有帮助点赞喜欢支持一下吧。。