路飞学城-学习文档

第1章 Python基础 Day1 基本语法
- 1.1 编程语言介绍与分类
- 1.2 Python介绍、发展趋势
- 1.3 Python环境安装
- 1.4 开发你的第一个Python程序
- 1.5 选择最好用的PyCharm IDE
- 1.6 变量
- 1.7 注释
- 1.8 基本数据类型
- 1.9 读取用户指令
- 1.10 格式化打印
- 1.11 运算符
- 1.12 流程控制之if...else
- 1.13 流程控制之while循环
- 1.14 本章练习题&作业
第2章 Python基础 Day2 数据类型和文件操作
- 2.1 上章补充-变量的创建过程
- 2.2 上章补充-身份运算和None
- 2.3 细讲数据类型-列表
- 2.4 细讲数据类型-元组
- 2.5 细讲数据类型-字符串
- 2.6 细讲数据类型-字典
- 2.7 细讲数据类型-集合
- 2.8 秒懂二进制
- 2.9 字符编码之文字是如何显示的
- 2.10 秒懂十六进制
- 2.11 hash是个什么东西
- 2.12 用Python操作文件
- 2.13 本章练习题&作业
第3章 Python 基础 Day3 函数编程
- 3.1 上章补充-Bytes类型
- 3.2 上章补充-字符编码的转换
- 3.3 上章补充-深浅copy
- 3.4 函数来了
- 3.5 函数返回值与作用域
- 3.6 嵌套&匿名&高阶函数
- 3.7 函数的递归
- 3.8 内置函数
- 3.9 名称空间
- 3.10 闭包是个什么东西？
- 3.11 函数进阶-装饰器
- 3.12 列表生成式
- 3.13 生成器
- 3.14 迭代器
- 3.15 练习题&作业
第4章 Python基础 Day4 常用模块
- 4.1 模块介绍与导入
- 4.2 第3方开源模块的安装使用
- 4.3 系统调用os模块
- 4.4 系统调用sys模块
- 4.5 time & datetime模块
- 4.6 random随机模块
- 4.7 序列化pickle&json模块
- 4.8 hashlib 加密
- 4.9 文件copy模块shutil
- 4.10 正则表达式re模块
- 4.11 软件开发目录设计规范
- 4.12 包&跨模块代码调用
- 4.13 练习题&作业
第5章 Python核心编程 Day5 面向对象编程
- 5.1 面向对象来了
- 5.2 面向对象语法
- 5.3 对象间的交互、组合
- 5.4 三大特性之-继承
- 5.5 三大特性之-封装
- 5.6 三大特性之-多态
- 5.7 作业&练习题
第6章 Python核心编程 Day6 面向对象编程进阶
- 6.1 类方法、静态方法
- 6.2 属性方法property
- 6.3 神奇的反射
- 6.4 类的双下线方法
- 6.5 用type动态创建一个类
- 6.6 isinstance\issubclass
- 6.7 异常处理
- 6.8 作业&练习题
第7章核心编程 Day7 Socket网络编程
- 7.1 C/S架构介绍
- 7.2 TCP/IP 各层详解
- 7.3 Socket介绍
- 7.4 Socket代码实例
- 7.5 粘包现象与解决方案
- 7.6 通过socket发送文件
- 7.7 本章总结
第8章核心编程 Day8 并发编程
- 8.1 操作系统介绍
- 8.2 并发编程多进程之进程理论
- 8.3 并发编程多进程之开启进程的两种方式
- 8.4 并发编程多进程之join方法
- 8.5 并发编程多进程之守护进程
- 8.6 并发编程多进程之互斥锁
- 8.7 并发编程多进程之队列
- 8.8 并发编程多进程之生产者消费者模型
- 8.9 并发编程多线程之线程理论
- 8.10 并发编程多线程之开启线程的两种方式
- 8.11 并发编程多线程之多线程与多进程的区别
- 8.12 并发编程多线程之Thread对象的其他属性或方法
- 8.13 并发编程多线程之守护线程
- 8.14 并发编程多线程之GIL全局解释器锁
- 8.15 并发编程多线程之死锁现象与递归锁
- 8.16 并发编程多线程之信号量,Event,定时器
- 8.17 并发编程多线程之线程queue
- 8.18 并发编程多线程之进程池与线程池
- 8.19 并发编程之协程-协程介绍
- 8.20 并发编程之协程-greenlet模块
- 8.21 并发编程之协程-gevent模块
- 8.22 并发编程IO模型-IO模型介绍
- 8.23 并发编程IO模型-阻塞IO
- 8.24 并发编程IO模型-非阻塞IO
- 8.25 并发编程IO模型-多路复用IO
- 8.26 并发编程IO模型-异步IO
- 8.27 并发编程IO模型-IO模型比较分析
- 8.28 并发编程IO模型-selectors模块
- 8.29 本章小结
第9章 Mysql数据库开发
- 9.1 初识数据库-数据库管理软件的由来
- 9.2 初识数据库-数据库概述
- 9.3 初识数据库-mysql安装与基本管理
- 9.4 初识数据库-初识sql语句
- 9.5 库操作-库的增删改查
- 9.6 表操作-存储引擎介绍
- 9.7 表操作-表的增删改查
- 9.8 表操作-数据类型
- 9.9 表操作-数值类型
- 9.10 表操作-日期类型
- 9.11 表操作-字符串类型
- 9.12 表操作-枚举类型与集合类型
- 9.13 表操作-完整性约束
第7章爬虫开发-requests模块学习
- 7.1 requests模块初始
- 7.2 requests案例实战
第21章爬虫开发-爬虫基础简介
- 21.1 爬虫初识&价值探讨
- 21.2 爬虫合法性探究
- 21.3 爬虫初识深入
- 21.4 http&https协议
第9章爬虫开发-数据解析
- 9.1 数据解析概述
- 9.2 数据解析---正则表达式
- 9.3 数据解析---bs4解析
- 9.4 数据解析---xpath解析
第10章爬虫开发-验证码识别
- 10.1 验证码识别
- 10.2 验证码实战
第11章 requests模块高级操作
- 11.1 模拟登陆
- 11.2 requests模块的cookie处理
- 11.3 requests模块的代理IP操作
第13章高性能异步爬虫
- 13.1 高性能异步爬虫---线程and线程池
- 13.2 高性能异步爬虫---异步协程
- 13.3 高性能异步爬虫---多任务异步协程
- 13.4 高性能异步爬虫---aiohttp
第25章 scrapy框架使用
- 25.1 scrapy简介
- 25.2 scrapy的数据持久化存储
- 25.3 scrapy基于Spider类的全站数据爬取
- 25.4 请求传参
- 25.5 scrapy图片数据爬取
- 25.6 scrapy中间件
- 25.7 scrapy中selenium的应用
第12章动态渲染页面爬取
- 12.1 图片懒加载
- 12.2 selenium模块基本使用
- 12.3 基于selenium的爬虫案例
- 12.4 Pyppeteer模块使用

http&https协议阅读量: 2945

<h2><strong>what is http协议</strong></h2>

<ul>
	<li><strong>官方概念：</strong>HTTP协议是Hyper Text Transfer Protocol（超文本传输协议）的缩写,是用于从万维网（WWW:World Wide Web ）服务器传输超文本到本地浏览器的传送协议。（虽然童鞋们将这条概念都看烂了，但是也没办法，毕竟这就是HTTP的权威官方的概念解释，要想彻底理解，请客观目移下侧......）</li>
	<li>白话概念：HTTP协议就是服务器（Server）和客户端（Client）之间进行数据交互（相互传输数据）的一种形式。我们可以将Server和Client进行拟人化，那么该协议就是Server和Client这两兄弟间指定的一种交互沟通方式。大家都看过智取威虎山中杨子荣和土匪们之间说的黑话吧：
	<pre>
<code>          - 土匪：蘑菇，你哪路？什么价？（什么人？到哪里去？）
　　　　　　- 杨子荣：哈！想啥来啥，想吃奶来了妈妈，想娘家的人，孩子他舅舅来了。（找同行）
　　　　　　- 杨子荣：拜见三爷！
　　　　　　- 土匪：天王盖地虎！（你好大的胆！敢来气你的祖宗？）
　　　　　　- 杨子荣：宝塔镇河妖！（要是那样，叫我从山上摔死，掉河里淹死。）
　　　　　　- 土匪：野鸡闷头钻，哪能上天王山！（你不是正牌的。）
　　　　　　- 杨子荣：地上有的是米，喂呀，有根底！（老子是正牌的，老牌的。）
　　　　　　- 土匪：拜见过阿妈啦？（你从小拜谁为师？）
　　　　　　- 杨子荣：他房上没瓦，非否非，否非否！（不到正堂不能说。）
　　　　　　- 土匪：嘛哈嘛哈？（以前独干吗？）
　　　　　　- 杨子荣：正晌午说话，谁还没有家？（许大马棒山上。）
　　　　　　- 土匪：好叭哒！（内行，是把老手）
　　　　　　- 杨子荣：天下大耷拉！（不吹牛，闯过大队头。）
　　　　　　- 座山雕：脸红什么？
　　　　　　- 杨子荣：精神焕发！
　　　　　　- 座山雕：怎么又黄了？
　　　　　　- 杨子荣：防冷，涂的蜡！
　　　　　　- 座山雕：晒哒晒哒。（谁指点你来的？）
　　　　　　- 杨子荣：一座玲珑塔，面向青寨背靠沙！（是个道人。）</code></pre>

<p><em><em><em>是不是看到这里，有得童鞋终于知道了传说中的‘天王盖地虎’是真正含义了吧。此黑话其实就是杨子荣和土匪之间进行交互沟通的方式（协议）。</em></em></em></p>
	</li>
</ul>

<h2><strong>HTTP工作原理 </strong></h2>

<p>HTTP协议工作于客户端-服务端架构为上。浏览器作为HTTP客户端通过URL向HTTP服务端即WEB服务器发送所有请求。Web服务器根据接收到的请求后，向客户端发送响应信息。</p>

<h2><strong>常见的请求头信息</strong></h2>

<pre>
<code class="language-python">             accept:浏览器通过这个头告诉服务器，它所支持的数据类型
　　　　　　　　Accept-Charset: 浏览器通过这个头告诉服务器，它支持哪种字符集
　　　　　　　　Accept-Encoding：浏览器通过这个头告诉服务器，支持的压缩格式
　　　　　　　　Accept-Language：浏览器通过这个头告诉服务器，它的语言环境
　　　　　　　　Host：浏览器通过这个头告诉服务器，想访问哪台主机
　　　　　　　　If-Modified-Since: 浏览器通过这个头告诉服务器，缓存数据的时间
　　　　　　　　Referer：浏览器通过这个头告诉服务器，客户机是哪个页面来的 防盗链
　　　　　　　　Connection：浏览器通过这个头告诉服务器，请求完后是断开链接还是何持链接
　　　　　　　　X-Requested-With: XMLHttpRequest 代表通过ajax方式进行访问
　　　　　　　　User-Agent：请求载体的身份标识</code></pre>

<h2><strong>常见的响应头信息</strong></h2>

<pre>
<code>                    Location: 服务器通过这个头，来告诉浏览器跳到哪里
　　　　　　　　　　　　Server：服务器通过这个头，告诉浏览器服务器的型号
　　　　　　　　　　　　Content-Encoding：服务器通过这个头，告诉浏览器，数据的压缩格式
　　　　　　　　　　　　Content-Length: 服务器通过这个头，告诉浏览器回送数据的长度
　　　　　　　　　　　　Content-Language: 服务器通过这个头，告诉浏览器语言环境
　　　　　　　　　　　　Content-Type：服务器通过这个头，告诉浏览器回送数据的类型
　　　　　　　　　　　　Refresh：服务器通过这个头，告诉浏览器定时刷新
　　　　　　　　　　　　Content-Disposition: 服务器通过这个头，告诉浏览器以下载方式打数据
　　　　　　　　　　　　Transfer-Encoding：服务器通过这个头，告诉浏览器数据是以分块方式回送的
　　　　　　　　　　　　Expires: -1 控制浏览器不要缓存
　　　　　　　　　　　　Cache-Control: no-cache 
　　　　　　　　　　　　Pragma: no-cache</code></pre>

<h2><strong>https协议</strong></h2>

<p>HTTPS (Secure Hypertext Transfer Protocol)安全超文本传输协议，HTTPS是在HTTP上建立SSL加密层，并对传输数据进行加密，是HTTP协议的安全版。</p>

<h2><strong>https加密算法</strong></h2>

<ul>
	<li><strong>对称秘钥加密：</strong>客户端向服务器发送一条信息，首先客户端会采用已知的算法对信息进行加密，比如MD5或者Base64加密，接收端对加密的信息进行解密的时候需要用到密钥，中间会传递密钥，（加密和解密的密钥是同一个），密钥在传输中间是被加密的。这种方式看起来安全，但是仍有潜在的危险，一旦被窃听，或者信息被挟持，就有可能破解密钥，而破解其中的信息。因此“共享密钥加密”这种方式存在安全隐患。<img alt="" src="/media/images/2019/04/10/snip20190410_5.png" /></li>
	<li><strong>非对称秘钥加密：</strong>“非对称加密”使用的时候有两把锁，一把叫做“私有密钥”，一把是“公开密钥”，使用非对象加密的加密方式的时候，服务器首先告诉客户端按照自己给定的公开密钥进行加密处理，客户端按照公开密钥加密以后，服务器接受到信息再通过自己的私有密钥进行解密，这样做的好处就是解密的钥匙根本就不会进行传输，因此也就避免了被挟持的风险。就算公开密钥被窃听者拿到了，它也很难进行解密，因为解密过程是对离散对数求值，这可不是轻而易举就能做到的事。以下是非对称加密的原理图：<img alt="" height="268" src="/media/images/2019/04/10/snip20190410_6.png" width="612" />
	<ul>
		<li>但是非对称秘钥加密技术也存在如下缺点：
		<ul>
			<li>第一个是：如何保证接收端向发送端发出公开秘钥的时候，发送端确保收到的是预先要发送的，而不会被挟持。只要是发送密钥，就有可能有被挟持的风险。</li>
			<li>第二个是：非对称加密的方式效率比较低，它处理起来更为复杂，通信过程中使用就有一定的效率问题而影响通信速度</li>
		</ul>
		</li>
	</ul>
	</li>
	<li><strong>证书秘钥加密：</strong>在上面我们讲了非对称加密的缺点，其中第一个就是公钥很可能存在被挟持的情况，无法保证客户端收到的公开密钥就是服务器发行的公开密钥。此时就引出了公开密钥证书机制。数字证书认证机构是客户端与服务器都可信赖的第三方机构。证书的具体传播过程如下：
	<ul>
		<li>服务器的开发者携带公开密钥，向数字证书认证机构提出公开密钥的申请，数字证书认证机构在认清申请者的身份，审核通过以后，会对开发者申请的公开密钥做数字签名，然后分配这个已签名的公开密钥，并将密钥放在证书里面，绑定在一起</li>
		<li>服务器将这份数字证书发送给客户端，因为客户端也认可证书机构，客户端可以通过数字证书中的数字签名来验证公钥的真伪，来确保服务器传过来的公开密钥是真实的。一般情况下，证书的数字签名是很难被伪造的，这取决于认证机构的公信力。一旦确认信息无误之后，客户端就会通过公钥对报文进行加密发送，服务器接收到以后用自己的私钥进行解密。</li>
	</ul>
	</li>
</ul>

爬虫初识深入