Python網(wǎng)絡爬蟲技術手冊：基礎·實戰(zhàn)·強化

第1篇　基礎篇
第1章 爬蟲基礎
1.1 什么是網(wǎng)絡爬蟲 2
1.2 網(wǎng)絡爬蟲的分類 3
1.3 網(wǎng)絡爬蟲的原理 3
1.4 HTTP基本原理 3
1.4.1 什么是URL 3
1.4.2 HTTP協(xié)議 4
1.4.3 HTTP與Web服務器 4
1.4.4 瀏覽器中的請求和響應 5
1.5 網(wǎng)頁的基本結構 6
1.5.1 了解HTML 6
1.5.2 了解CSS 6
1.5.3 了解JavaScript 8

第2章 搭建網(wǎng)絡爬蟲開發(fā)環(huán)境
2.1 Anaconda的安裝 10
2.2 下載與安裝PyCharm 13
2.3 配置PyCharm 16
2.4 測試PyCharm 18

第3章 網(wǎng)絡請求urllib模塊
3.1 了解urllib 20
3.2 發(fā)送網(wǎng)絡請求 20
3.2.1 發(fā)送GET請求 21
實例3.1 演示常用的方法與屬性 21
3.2.2 發(fā)送POST請求 22
實例3.2 發(fā)送POST請求 22
3.2.3 請求超時 22
實例3.3 處理網(wǎng)絡超時 23
3.2.4 設置請求頭 23
實例3.4 設置請求頭 24
3.2.5 獲取與設置Cookie 25
實例3.5 模擬登錄 25
實例3.6 獲取Cookie 27
實例3.7 保存Cookie文件 27
實例3.8 獲取登錄后頁面中的信息 28
3.2.6 代理IP的設置 29
實例3.9 設置代理IP 29
3.3 處理請求異常 29
實例3.10 處理URLError異常 29
實例3.11 使用HTTPError類捕獲異常 30
實例3.12 雙重異常的捕獲 31
3.4 解析URL 31
3.4.1 URL的拆分（urlparse、urlsplit） 31
實例3.13 使用urlparse()方法拆分URL 32
實例3.14 使用urlsplit()方法拆分URL 32
3.4.2 URL的組合（urlunparse、urlunsplit） 33
實例3.15 使用urlunparse()方法組合URL 33
實例3.16 使用urlunsplit()方法組合URL 34
3.4.3 URL的連接（urljoin） 34
實例3.17 使用urljoin()方法連接URL 34
3.4.4 URL的編碼與解碼（urlencode、quote、unquote） 35
實例3.18 使用urlencode()方法編碼請求參數(shù) 35
實例3.19 使用quote()方法編碼字符串參數(shù) 35
實例3.20 使用unquote()方法解碼請求參數(shù) 36
3.4.5 URL的參數(shù)轉換 36
實例3.21 使用parse_qs()方法將參數(shù)轉換為字典類型 36
實例3.22 使用parse_qsl()方法將參數(shù)轉換為元組所組成的列表 36
3.5 綜合案例——爬取“百度熱搜” 37
3.5.1 分析數(shù)據(jù) 37
3.5.2 實現(xiàn)網(wǎng)絡爬蟲 37
3.6 實戰(zhàn)練習 39

第4章 網(wǎng)絡請求urllib3模塊
4.1 了解urllib3 40
4.2 發(fā)送網(wǎng)絡請求 41
4.2.1 發(fā)送GET請求 41
實例4.1 發(fā)送GET請求 41
實例4.2 發(fā)送多個請求 41
4.2.2 發(fā)送POST請求 42
實例4.3 發(fā)送POST請求 42
4.2.3 重試請求 43
實例4.4 重試請求 43
4.2.4 獲得響應內容 43
實例4.5 獲取響應頭信息 43
實例4.6 處理服務器返回的JSON信息 44
實例4.7 處理服務器返回二進制數(shù)據(jù) 44
4.2.5 設置請求頭 45
實例4.8 設置請求頭 45
4.2.6 設置超時 46
實例4.9 設置超時 46
4.2.7 設置代理IP 47
實例4.10 設置代理IP 47
4.3 上傳文件 47
實例4.11 上傳文本文件 47
實例4.12 上傳圖片文件 48
4.4 綜合案例——爬取必應壁紙 48
4.4.1 分析數(shù)據(jù) 48
4.4.2 實現(xiàn)網(wǎng)絡爬蟲 49
4.5 實戰(zhàn)練習 51

第5章 網(wǎng)絡請求requests模塊
5.1 基本請求方式 52
5.1.1 發(fā)送GET請求 53
實例5.1 發(fā)送GET請求不帶參數(shù) 53
5.1.2 設置編碼 53
實例5.2 獲取網(wǎng)頁源碼 53
5.1.3 二進制數(shù)據(jù)的爬取 54
實例5.3 下載百度logo圖片 54
5.1.4 發(fā)送GET（帶參數(shù)）請求 54
5.1.5 發(fā)送POST請求 55
實例5.4 發(fā)送POST請求 55
5.2 高級請求方式 56
5.2.1 設置請求頭 56
實例5.5 設置請求頭 56
5.2.2 Cookie的驗證 57
實例5.6 模擬豆瓣登錄 57
5.2.3 會話請求 58
實例5.7 會話請求 58
5.2.4 驗證請求 58
實例5.8 驗證請求 59
5.2.5 網(wǎng)絡超時與異常 59
實例5.9 網(wǎng)絡超時與異常 59
實例5.10 判斷網(wǎng)絡異常 60
5.2.6 文件上傳 60
實例5.11 上傳圖片文件 60
5.2.7 代理的應用 61
實例5.12 使用代理IP發(fā)送請求 61
5.3 綜合案例——爬取糗事百科（視頻） 62
5.3.1 分析數(shù)據(jù) 62
5.3.2 實現(xiàn)爬蟲 63
5.4 實戰(zhàn)練習 64

第6章 requests模塊的兩大擴展
6.1 安裝requests-cache模塊 65
6.2 爬蟲緩存的應用 66
6.3 多功能requests-html模塊 68
6.3.1 發(fā)送網(wǎng)絡請求 68
6.3.2 提取數(shù)據(jù) 70
實例6.1 爬取即時新聞 70
6.3.3 獲取動態(tài)渲染的數(shù)據(jù) 73
實例6.2 獲取動態(tài)渲染的數(shù)據(jù) 73
6.4 綜合案例——爬取百度天氣 75
6.4.1 分析數(shù)據(jù) 75
6.4.2 實現(xiàn)爬蟲 76
6.5 實戰(zhàn)練習 77

第7章 正則表達式解析
7.1 通過search()匹配字符串 78
7.1.1 匹配指定開頭的字符串 79
實例7.1 搜索第一個以“mr_”開頭的字符串 79
7.1.2 可選匹配字符串中的內容 79
實例7.2 可選匹配字符串中的內容 79
7.1.3 使用“\\b”匹配字符串的邊界 80
實例7.3 使用“\\b”匹配字符串的邊界 80
7.2 通過findall()匹配字符串 80
7.2.1 匹配所有以指定字符開頭的字符串 81
實例7.4 匹配所有以“mr_”開頭的字符串 81
7.2.2 貪婪匹配法 81
實例7.5 使用“.*”實現(xiàn)貪婪匹配字符串 81
7.2.3 非貪婪匹配法 82
實例7.6 使用“.*？”實現(xiàn)非貪婪匹配字符串 82
7.3 處理字符串 83
7.3.1 使用sub()方法替換字符串 83
實例7.7 使用sub()方法替換字符串 83
7.3.2 使用split()方法分割字符串 84
實例7.8 使用split()方法分割字符串 84
7.4 綜合案例——爬取QQ音樂熱歌榜 85
7.4.1 分析數(shù)據(jù) 85
7.4.2 實現(xiàn)爬蟲 85
7.5 實戰(zhàn)練習 86

第8章 lxml解析模塊
8.1 了解XPath 87
8.2 XPath的基本操作 88
8.2.1 HTML的解析 88
實例8.1 解析本地的HTML文件 88
實例8.2 解析字符串類型的HTML代碼 88
實例8.3 解析服務器返回的HTML代碼 89
8.2.2 獲取所有標簽 90
實例8.4 獲取HTML代碼的所有標簽 90
8.2.3 獲取子標簽 91
實例8.5 獲取一個標簽中的子標簽 91
實例8.6 獲取子孫標簽 92
8.2.4 獲取父標簽 92
實例8.7 獲取一個標簽的父標簽 92
8.2.5 獲取文本 93
實例8.8 獲取HTML代碼中的文本 93
8.2.6 屬性匹配 94
實例8.9 使用“[@...]”實現(xiàn)標簽屬性的匹配 94
實例8.10 屬性多值匹配 94
實例8.11 一個標簽中多個屬性的匹配 95
8.2.7 獲取屬性值 96
實例8.12 獲取屬性所對應的值 96
實例8.13 使用索引按序獲取屬性對應的值 97
8.2.8 使用標簽軸獲取標簽內容 98
實例8.14 使用標簽軸的方式獲取標簽內容 98
8.3 綜合案例——爬取豆瓣新書速遞 99
8.3.1 分析數(shù)據(jù) 99
8.3.2 實現(xiàn)爬蟲 99
8.4 實戰(zhàn)練習 100

第9章 BeautifulSoup解析模塊
9.1 BeautifulSoup的基礎應用 101
9.1.1 安裝BeautifulSoup 101
9.1.2 解析器的區(qū)別 102
9.1.3 解析HTML 103
實例9.1 解析HTML代碼 103
9.2 獲取標簽內容 103
9.2.1 獲取標簽對應的代碼 104
實例9.2 獲取標簽對應的代碼 104
9.2.2 獲取標簽屬性 105
實例9.3 獲取標簽屬性 105
9.2.3 獲取標簽內的文本 106
9.2.4 嵌套獲取標簽內容 106
實例9.4 嵌套獲取標簽內容 106
9.2.5 關聯(lián)獲取 107
實例9.5 獲取子標簽 107
實例9.6 獲取子孫標簽 108
實例9.7 獲取父標簽 109
實例9.8 獲取兄弟標簽 109
9.3 利用方法獲取內容 111
9.3.1 find_all()方法 111
實例9.9 find_all(name)通過標簽名稱獲取內容 111
實例9.10 find_all(attrs)通過指定屬性獲取內容 112
實例9.11 find_all(text)獲取標簽中的文本 112
9.3.2 find()方法 113
實例9.12 獲取第一個匹配的標簽內容 113
9.3.3 其他方法 114
9.4 CSS選擇器 114
實例9.13 使用CSS選擇器獲取標簽內容 115
9.5 綜合案例——爬取百度貼吧（熱議榜） 116
9.5.1 分析數(shù)據(jù) 116
9.5.2 實現(xiàn)爬蟲 116
9.6 實戰(zhàn)練習 117