作為一種便捷地收集網(wǎng)上信息并從中抽取出可用信息的方式，網(wǎng)絡(luò)爬蟲(chóng)技術(shù)變得越來(lái)越有用。使用Python這樣的簡(jiǎn)單編程語(yǔ)言，你可以使用少量編程技能就可以爬取復(fù)雜的網(wǎng)站。

《用Python寫(xiě)網(wǎng)絡(luò)爬蟲(chóng)》作為使用Python來(lái)爬取網(wǎng)絡(luò)數(shù)據(jù)的杰出指南，講解了從靜態(tài)頁(yè)面爬取數(shù)據(jù)的方法以及使用緩存來(lái)管理服務(wù)器負(fù)載的方法。此外，本書(shū)還介紹了如何使用AJAX URL和Firebug擴(kuò)展來(lái)爬取數(shù)據(jù)，以及有關(guān)爬取技術(shù)的更多真相，比如使用瀏覽器渲染、管理cookie、通過(guò)提交表單從受驗(yàn)證碼保護(hù)的復(fù)雜網(wǎng)站中抽取數(shù)據(jù)等。本書(shū)使用Scrapy創(chuàng)建了一個(gè)高級(jí)網(wǎng)絡(luò)爬蟲(chóng)，并對(duì)一些真實(shí)的網(wǎng)站進(jìn)行了爬取。

用Python寫(xiě)網(wǎng)絡(luò)爬蟲(chóng)包含如下內(nèi)容：

通過(guò)跟蹤鏈接來(lái)爬取網(wǎng)站；

使用lxml從頁(yè)面中抽取數(shù)據(jù)；

構(gòu)建線程爬蟲(chóng)來(lái)并行爬取頁(yè)面；

將下載的內(nèi)容進(jìn)行緩存，以降低帶寬消耗；

解析依賴(lài)于Java的網(wǎng)站；

與表單和會(huì)話進(jìn)行交互；

解決受保護(hù)頁(yè)面的驗(yàn)證碼問(wèn)題；

對(duì)AJAX調(diào)用進(jìn)行逆向工程；

使用Scrapy創(chuàng)建高級(jí)爬蟲(chóng)。

。。。

?；ǎ侵敢粋€(gè)學(xué)校中最最受歡迎的女學(xué)生。一般長(zhǎng)得清純，受人歡迎，性格好，交際能力強(qiáng)。不一定是在這所學(xué)校最漂亮的，但一定清純,受人歡迎，受人追捧。

展開(kāi)全文

Scrapy運(yùn)行流程大概如下：

引擎從調(diào)度器中取出一個(gè)鏈LJ接用于接下來(lái)的抓取

引擎把LJ封裝成一個(gè)請(qǐng)求(Request)傳給下載器

下載器把資源下載下來(lái)，并封裝成應(yīng)答包(Response)

爬蟲(chóng)解析Response

解析出實(shí)體（Item）,則交給實(shí)體管道進(jìn)行進(jìn)一步的處理

解析出的是LJ,則把LJ交給調(diào)度器等待抓取

。。。

Scrapy，Python開(kāi)發(fā)的一個(gè)快速,高層次的屏幕抓取和web抓取框架，用于抓取web站點(diǎn)并從頁(yè)面中提取結(jié)構(gòu)化的數(shù)據(jù)。Scrapy用途廣泛，可以用于數(shù)據(jù)挖掘、監(jiān)測(cè)和自動(dòng)化測(cè)試。

Scrapy吸引人的地方在于它是一個(gè)框架，任何人都可以根據(jù)需求方便的修改。它也提供了多種類(lèi)型爬蟲(chóng)的基類(lèi)，如BaseSpider、sitemap爬蟲(chóng)等，最新版本又提供了web2.0爬蟲(chóng)的支持。

Scratch，是抓取的意思，這個(gè)Python的爬蟲(chóng)框架叫Scrapy，大概也是這個(gè)意思吧，就叫它：小刮刮吧。

Scrapy 使用了 Twisted異步網(wǎng)絡(luò)庫(kù)來(lái)處理網(wǎng)絡(luò)通訊。

。。。

Scrapy主要包括了以下組件：

引擎(Scrapy)

用來(lái)處理整個(gè)系統(tǒng)的數(shù)據(jù)流處理, 觸發(fā)事務(wù)(框架核心)

調(diào)度器(Scheduler)

用來(lái)接受引擎發(fā)過(guò)來(lái)的請(qǐng)求, 壓入隊(duì)列中, 并在引擎再次請(qǐng)求的時(shí)候返回. 可以想像成一個(gè)URL（抓取網(wǎng)頁(yè)的網(wǎng)址或者說(shuō)是鏈接）的優(yōu)先隊(duì)列, 由它來(lái)決定下一個(gè)要抓取的網(wǎng)址是什么, 同時(shí)去除重復(fù)的網(wǎng)址

下載器(Downloader)

用于下載網(wǎng)頁(yè)內(nèi)容, 并將網(wǎng)頁(yè)內(nèi)容返回給蜘蛛(Scrapy下載器是建立在twisted這個(gè)高效的異步模型上的)

爬蟲(chóng)(Spiders)

爬蟲(chóng)是主要干活的, 用于從特定的網(wǎng)頁(yè)中提取自己需要的信息, 即所謂的實(shí)體(Item)。用戶(hù)也可以從中提取出鏈接,讓Scrapy繼續(xù)抓取下一個(gè)頁(yè)面

項(xiàng)目管道(Pipeline)

負(fù)責(zé)處理爬蟲(chóng)從網(wǎng)頁(yè)中抽取的實(shí)體，主要的功能是持久化實(shí)體、驗(yàn)證實(shí)體的有效性、清除不需要的信息。當(dāng)頁(yè)面被爬蟲(chóng)解析后，將被發(fā)送到項(xiàng)目管道，并經(jīng)過(guò)幾個(gè)特定的次序處理數(shù)據(jù)。

下載器中間件(Downloader Middlewares)

位于Scrapy引擎和下載器之間的框架，主要是處理Scrapy引擎與下載器之間的請(qǐng)求及響應(yīng)。

爬蟲(chóng)中間件(Spider Middlewares)

介于Scrapy引擎和爬蟲(chóng)之間的框架，主要工作是處理蜘蛛的響應(yīng)輸入和請(qǐng)求輸出。

調(diào)度中間件(Scheduler Middewares)

介于Scrapy引擎和調(diào)度之間的中間件，從Scrapy引擎發(fā)送到調(diào)度的請(qǐng)求和響應(yīng)。

。。。

程序運(yùn)行部分結(jié)果圖：

以上是全部代碼，只是善于分享，不足之處請(qǐng)包涵！爬蟲(chóng)基本的原理就是，獲取源碼，進(jìn)而獲取網(wǎng)頁(yè)內(nèi)容。一般來(lái)說(shuō)，只要你給一個(gè)入口，通過(guò)分析，可以找到無(wú)限個(gè)其他相關(guān)的你需要的資源，進(jìn)而進(jìn)行爬取。

更多精彩歡迎關(guān)注：

精品課程 http://xue.ujiuye.com/list/

優(yōu)學(xué)網(wǎng)http://xue.ujiuye.com