请选择 进入手机版 | 继续访问电脑版
 找回密码
 立即注册
什么是“爬虫”?[blockquote]
什么是“爬虫”?
简单来说,写一个从web上获取需要数据并按规定格式存储的程序就叫爬虫;
爬虫理论上步骤很简单,第一步获取html源码,第二步分析html并拿到数据。但实际操作,老麻烦了~[/blockquote]

Python写“爬虫”有哪些方便的库
常用网络请求库:requests、urllib、urllib2、urllib和urllib2是Python自带模块,requests是第三方库
常用解析库和爬虫框架:BeautifulSoup、lxml、HTMLParser、selenium、ScrapyHTMLParser是Python自带模块;[blockquote]
BeautifulSoup可以将html解析成Python语法对象,直接操作对象会非常方便;
lxml可以解析xml和html标签语言,优点是速度快;
selenium调用浏览器的driver,通过这个库你可以直接调用浏览器完成某些操作,比如输入验证码;
Scrapy很强大且有名的爬虫框架,可以轻松满足简单网站的爬取;[/blockquote]

“爬虫”需要掌握哪些知识[blockquote]
1)超文本传输协议HTTP:HTTP协议定义了浏览器怎样向万维网服务器请求万维网文档,以及服务器怎样把文档传送给浏览器。常用的HTTP方法有GET、POST、PUT、DELETE。
【插曲:某站长做了一个网站,奇葩的他把删除的操作绑定在GET请求上。百度或者谷歌爬虫爬取网站链接,都是用的GET请求,而且一般用浏览器访问网页都是GET请求。在谷歌爬虫爬取他网站的信息时,该网站自动删除了数据库的全部数据】
2)统一资源定位符URL: URL是用来表示从因特网上得到的资源位置和访问这些资源的方法。URL给资源的位置提供一种抽象的识别方法,并用这种方法给资源定位。只要能够对资源定位,系统就可以对资源进行各种操作,如存取、更新、替换和查找其属性。URL相当于一个文件名在网络范围的扩展。
3)超文本标记语言HTTP:HTML指的是超文本标记语言,是使用标记标签来描述网页的。HTML文档包含HTML标签和纯文本,也称为网页。Web 浏览器的作用是读取 HTML 文档,并以网页的形式显示出它们。浏览器不会显示 HTML 标签,而是使用标签来解释页面的内容。简而言之就是你要懂点前端语言,这样描述更直观贴切。
4)浏览器调试功能:学爬虫就是抓包,对请求和响应进行分析,用代码来模拟[/blockquote]

进阶爬虫[blockquote]
熟练了基本爬虫之后,你会想着获取更多的数据,抓取更难的网站,然后你就会发现获取数据并不简单,而且现在反爬机制也非常的多。
a.爬取知乎、简书,需要登录并将下次的请求时将sessions带上,保持登录姿态;
b.爬取亚马逊、京东、天猫等商品信息,由于信息量大、反爬机制完善,需要分布式【这里就难了】爬取,以及不断切换USER_AGENT和代理IP;
c.滑动或下拉加载和同一url加载不同数据时,涉及ajax的异步加载。这里可以有简单的返回html代码、或者json数据,也可能有更变态的返回js代码然后用浏览器执行,逻辑上挺简单、但是写代码那叫一个苦哇;
d.还有点是需要面对的,验证码识别。这个有专门解析验证码的平台.....不属于爬虫范畴了,自己处理需要更多的数据分析知识。
e.数据储存,关系数据库和非关系数据库的选择和使用,设计防冗余数据库表格,去重。大量数据存储数据库,会变得很头疼,
f.编码解码问题,数据的存储涉及一个格式的问题,python2或者3也都会涉及编码问题。另外网页结构的不规范性,编码格式的不同很容易触发编码异常问题。下图一个简单的转码规则
file:///C:\Users\ADMINI~1\AppData\Local\Temp\ksohtml\wpsC0C3.tmp.png[/blockquote]

一些常见的限制方式[blockquote]
a.Basic Auth:一般会有用户授权的限制,会在headers的Autheration字段里要求加入;
b.Referer:通常是在访问链接时,必须要带上Referer字段,服务器会进行验证,例如抓取京东的评论;
c.User-Agent:会要求真是的设备,如果不加会用编程语言包里自有User-Agent,可以被辨别出来;
d.Cookie:一般在用户登录或者某些操作后,服务端会在返回包中包含Cookie信息要求浏览器设置Cookie,没有Cookie会很容易被辨别出来是伪造请求;也有本地通过JS,根据服务端返回的某个信息进行处理生成的加密信息,设置在Cookie里面;
e.Gzip:请求headers里面带了gzip,返回有时候会是gzip压缩,需要解压;
f.JavaScript加密操作:一般都是在请求的数据包内容里面会包含一些被javascript进行加密限制的信息,例如新浪微博会进行SHA1和RSA加密,之前是两次SHA1加密,然后发送的密码和用户名都会被加密;
g.网站自定义其他字段:因为http的headers可以自定义地段,所以第三方可能会加入了一些自定义的字段名称或者字段值,这也是需要注意的。
真实的请求过程中,其实不止上面某一种限制,可能是几种限制组合在一次,比如如果是类似RSA加密的话,可能先请求服务器得到Cookie,然后再带着Cookie去请求服务器拿到公钥,然后再用js进行加密,再发送数据到服务器。所以弄清楚这其中的原理,并且耐心分析很重要。[/blockquote]

总结
[blockquote]
爬虫入门不难,但是需要知识面更广和更多的耐心
一句话概括爬虫——爬虫本质就是cosplay,将爬虫模拟成各种【USER_AGENT】浏览器,甚至还模拟成别人【ip代理】的浏览器。

本文内容来自昨天的百楼技术分享会,《Python网络爬虫实战--Scrapy框架学习
》的作者布拉豆老师,带来了一场精彩的Python爬虫入门讲座,非常适合想学习Python爬虫的同学入门!
(本文内容整理自「 百楼俱乐部技术分享第五期——Python爬虫技术分享」,分享人是Python工程师、Scrapy讲师布啦豆
百楼俱乐部 」顾名思义,是实验楼100楼以上的用户组成的群体,除了定期的技术分享外,还有其他福利,欢迎大家爬楼加入。)[/blockquote]

收藏

1 个回复

倒序浏览
感谢你的分享!!
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 立即注册