Python网络数据采集 pdf epub mobi txt 电子书 下载 2025

简体网页||繁体网页

☆☆☆☆☆

[美] 米切尔（Ryan Mitchell） 著，陶俊杰，陈小莉 译

出版社： 人民邮电出版社

ISBN：9787115416292

版次：1

商品编码：11896401

包装：平装

丛书名： 图灵程序设计丛书

开本：16开

出版时间：2016-03-01

用纸：胶版纸

页数：200

正文语种：中文

产品特色

编辑推荐

　　网络上的数据量越来越大，单靠浏览网页获取信息越来越困难，如何有效地提取并利用信息已成为一个巨大的挑战。本书采用简洁强大的Python语言，全面介绍网络数据采集技术，教你从不同形式的网络资源中自由地获取数据。你将学会如何使用Python脚本和网络API一次性采集并处理成千上万个网页上的数据。
　　本书适合熟悉Python的程序员、安全专业人士、网络管理员阅读。书中不仅介绍了网络数据采集的基本原理，还深入探讨了更高级的主题，比如分析原始数据、用网络爬虫测试网站等。此外，书中还提供了详细的代码示例，以帮助你更好地理解书中的内容。
　　通过阅读本书，你将能够：
　　解析复杂的HTML页面　　遍历多个网页和网站　　了解API的基本概念和工作原理　　学习存储数据的方法　　下载、读取并抽取网络文档中的数据　　使用工具和方法清洗格式异常的数据　　读取并处理自然语言　　越过表单和登录窗口采集数据　　学习采集JavaScript的方法　　学习图像处理和文字识别方法

内容简介

　　本书采用简洁强大的Python语言，介绍了网络数据采集，并为采集新式网络中的各种数据类型提供了全面的指导。第1部分重点介绍网络数据采集的基本原理：如何用Python从网络服务器请求信息，如何对服务器的响应进行基本处理，以及如何以自动化手段与网站进行交互。第二部分介绍如何用网络爬虫测试网站，自动化处理，以及如何通过更多的方式接入网络。

作者简介

　　Ryan Mitchell，数据科学家、软件工程师，目前在波士顿LinkeDrive公司负责开发公司的API和数据分析工具。此前，曾在Abine公司构建网络爬虫和网络机器人。她经常做网络数据采集项目的咨询工作，主要面向金融和零售业。另著有Instant Web Scraping with Java。

目录

译者序 ix
前言 xi
第一部分　创建爬虫
第1章　初见网络爬虫 2
1．1　网络连接 2
1．2　BeautifulSoup简介 4
1．2．1　安装BeautifulSoup 5
1．2．2　运行BeautifulSoup 7
1．2．3　可靠的网络连接 8
第2章　复杂HTML解析 11
2．1　不是一直都要用锤子 11
2．2　再端一碗BeautifulSoup 12
2．2．1　BeautifulSoup的find()和findAll() 13
2．2．2　其他BeautifulSoup对象 15
2．2．3　导航树 16
2．3　正则表达式 19
2．4　正则表达式和BeautifulSoup 23
2．5　获取属性 24
2．6　Lambda表达式 24
2．7　超越BeautifulSoup 25
第3 章　开始采集 26
3．1　遍历单个域名 26
3．2　采集整个网站 30
3．3　通过互联网采集 34
3．4　用Scrapy 采集 38
第4 章　使用API 42
4．1　API 概述 43
4．2　API 通用规则 43
4．2．1　方法 44
4．2．2　验证 44
4．3　服务器响应 45
4．4　Echo Nest 46
4．5　Twitter API 48
4．5．1　开始 48
4．5．2　几个示例 50
4．6　Google API 52
4．6．1　开始 52
4．6．2　几个示例 53
4．7　解析JSON 数据 55
4．8　回到主题 56
4．9　再说一点API 60
第5 章　存储数据 61
5．1　媒体文件 61
5．2　把数据存储到CSV 64
5．3　MySQL 65
5．3．1　安装MySQL 66
5．3．2　基本命令 68
5．3．3　与Python 整合 71
5．3．4　数据库技术与最佳实践 74
5．3．5　MySQL 里的“六度空间游戏” 75
5．4　Email 77
第6 章　读取文档 80
6．1　文档编码 80
6．2　纯文本 81
6．3　CSV 85
6．4　PDF 87
6．5　微软Word 和．docx 88
第二部分　高级数据采集
第7 章　数据清洗 94
7．1　编写代码清洗数据 94
7．2　数据存储后再清洗 98
第8 章　自然语言处理 103
8．1　概括数据 104
8．2　马尔可夫模型 106
8．3　自然语言工具包 112
8．3．1　安装与设置 112
8．3．2　用NLTK 做统计分析 113
8．3．3　用NLTK 做词性分析 115
8．4　其他资源 119
第9 章　穿越网页表单与登录窗口进行采集 120
9．1　Python Requests 库 120
9．2　提交一个基本表单 121
9．3　单选按钮、复选框和其他输入 123
9．4　提交文件和图像 124
9．5　处理登录和cookie 125
9．6　其他表单问题 127
第10 章　采集JavaScript 128
10．1　JavaScript 简介 128
10．2　Ajax 和动态HTML 131
10．3　处理重定向 137
第11 章　图像识别与文字处理 139
11．1　OCR 库概述 140
11．1．1　Pillow 140
11．1．2　Tesseract 140
11．1．3　NumPy 141
11．2　处理格式规范的文字 142
11．3　读取验证码与训练Tesseract 146
11．4　获取验证码提交答案 151
第12 章　避开采集陷阱 154
12．1　道德规范 154
12．2　让网络机器人看起来像人类用户 155
12．2．1　修改请求头 155
12．2．2　处理cookie 157
12．2．3　时间就是一切 159
12．3　常见表单安全措施 159
12．3．1　隐含输入字段值 159
12．3．2　避免蜜罐 160
12．4　问题检查表 162
第13 章　用爬虫测试网站 164
13．1　测试简介 164
13．2　Python 单元测试 165
13．3　Selenium 单元测试 168
13．4　Python 单元测试与Selenium 单元测试的选择 172
第14 章　远程采集 174
14．1　为什么要用远程服务器 174
14．1．1　避免IP 地址被封杀 174
14．1．2　移植性与扩展性 175
14．2　Tor 代理服务器 176
14．3　远程主机 177
14．3．1　从网站主机运行 178
14．3．2　从云主机运行 178
14．4　其他资源 179
14．5　勇往直前 180
附录A　Python 简介 181
附录B　互联网简介 184
附录C　网络数据采集的法律与道德约束 188
作者简介 200
封面介绍 200

前言/序言

评分☆☆☆☆☆

好好学习，天天向上，我是好学生，我是好学霸，天天多练习，用时更熟练，不要怕读了书没有用场，只有不断强大，自己才能到更大的平台来展现自己的才华，才能出人头地！加油相信自己，一定要刻苦的学习，提升自己的能力

评分☆☆☆☆☆

这本新版的《Python核心编程（第3版）》,是适合进阶用的,至少要熟悉基础的for和while语句,if语句和列表字典什么的！不过挺贵的,七十多块！还有就是只有很少的答案,是不是有课后习题的IT类的书都这样啊！有些东西也没有深入,比如爬虫,总之就是教你一些基本的东西,其他还得你自己去网上进一步深入！还在学习中,还请各位大神多多指教！

评分☆☆☆☆☆

收到宝贝,不由得精神为之一振,自觉七经八脉为之一畅,我在商城打滚这么多年，所谓阅人无数，收到宝贝我只想说，京东，你实在是太好了。 你的高尚情操太让人感动了。 本人对卖家之仰慕如滔滔江水连绵不绝,海枯石烂,天崩地裂,永不变心。 收到货后，我的心情竟是久久不能平静。自古英雄出少年,卖家年纪轻轻,就有经天纬地之才,定国安邦之智,而今,天佑我大中华,沧海桑田5000年,神州平地一声雷,飞沙走石,大雾迷天,朦胧中,只见顶天立地一金甲天神立于天地间，花见花开，人见人爱,这人英雄手持双斧,二目如电,一斧下去,混沌初开,二斧下去,女娲造人,三斧下去,小生倾倒。得此大英雄,实乃国之幸也,民之福，人之初也,怎不叫人喜极而泣 .......看着宝贝，我竟产生出一种无以名之的悲痛感——啊，这么好的宝贝，如果将来我再也买不到了，那我该怎么办？直到我毫不犹豫地把这个宝贝收藏了，我内心的那种激动才逐渐平静下来。 可是我立刻想到，这么好的宝贝，倘若别人看不到，那么不是浪费易迅的心血吗？经过痛苦的思想斗争，我终于下定决心，牺牲小我，奉献大我。我要以此好评奉献给世人赏阅，我要给好评、给好评……评到所有人都看到为止

评分☆☆☆☆☆

很喜欢在东东上网购 真的不错的 比其他网店实在 服务好 好喜欢 还会介绍朋友来 非常感谢京东商城给予的优质的服务，从仓储管理、物流配送等各方面都是做的非常好的。送货及时，配送员也非常的热情，有时候不方便收件的时候，也安排时间另行配送。同时京东商城在售后管理上也非常好的，以解客户忧患，排除万难。给予我们非常好的购物体验。 Thank you very much for the excellent service provided by Jingdong mall, and it is very good to do in warehouse management, logistics, distribution and so on. Delivery in a timely manner, distribution staff is also very enthusiastic, and sometimes inconvenient to receive the time, but also arranged for time to be delivered. At the same time in the mall management Jingdong customer service is also very good, to solve customer suffering, overcome all difficulties. Give us a very good shopping experience.

评分☆☆☆☆☆

很好的书，内容很详细，爱不释手

评分☆☆☆☆☆

缺点：

评分☆☆☆☆☆

这本书，怎么说呢，英文版没有看过，但是就我看的中文版来说……质量不是太高，大家可以慎重考虑一下。入门感觉还可以，但是从排版到翻译，简直是错漏百出。引用的代码有很多错误，要不就是输出不对，要不就是下面的讲解不符。翻译的话质量不是太好(抱歉不是针对译者)，有很多地方能够感觉到没有摆脱英语的语序和语言习惯，与汉语习惯不符，读起来很是拗口，不知所云。不知道编辑在干什么，在异步社区提交勘误之后，关于翻译语法语序的内容被拒绝了，但还是有那么些勘误通过了。这三天总共看了106页，总共提交了19个勘误(有两个问题被拒绝之后重复提交然后通过的，包括翻译的问题，不过翻译的问题提了两个没通过就没再提交过相关了)。说实话平均不到十页一个错，看起来真心累。一开始还有点兴奋看一本书送一本书，但是现在感觉如果异步都是这个水平的书，送我我都不想要……附录B部分我是真心没看懂在表达什么……

评分☆☆☆☆☆

Thank you very much for the excellent service

评分☆☆☆☆☆

非常感谢京东商城给予的优质的服务，从仓储管理、物流配送等各方面都是做的非常好的。送货及时，配送员也非常的热情，有时候不方便收件的时候，也安排时间另行配送。同时京东商城在售后管理上也非常好的，以解客户忧患，排除万难。给予我们非常好的购物体验。