路飞学城-学习文档

第1章 Python基础 Day1 基本语法
- 1.1 编程语言介绍与分类
- 1.2 Python介绍、发展趋势
- 1.3 Python环境安装
- 1.4 开发你的第一个Python程序
- 1.5 选择最好用的PyCharm IDE
- 1.6 变量
- 1.7 注释
- 1.8 基本数据类型
- 1.9 读取用户指令
- 1.10 格式化打印
- 1.11 运算符
- 1.12 流程控制之if...else
- 1.13 流程控制之while循环
- 1.14 本章练习题&作业
第2章 Python基础 Day2 数据类型和文件操作
- 2.1 上章补充-变量的创建过程
- 2.2 上章补充-身份运算和None
- 2.3 细讲数据类型-列表
- 2.4 细讲数据类型-元组
- 2.5 细讲数据类型-字符串
- 2.6 细讲数据类型-字典
- 2.7 细讲数据类型-集合
- 2.8 秒懂二进制
- 2.9 字符编码之文字是如何显示的
- 2.10 秒懂十六进制
- 2.11 hash是个什么东西
- 2.12 用Python操作文件
- 2.13 本章练习题&作业
第3章 Python 基础 Day3 函数编程
- 3.1 上章补充-Bytes类型
- 3.2 上章补充-字符编码的转换
- 3.3 上章补充-深浅copy
- 3.4 函数来了
- 3.5 函数返回值与作用域
- 3.6 嵌套&匿名&高阶函数
- 3.7 函数的递归
- 3.8 内置函数
- 3.9 名称空间
- 3.10 闭包是个什么东西？
- 3.11 函数进阶-装饰器
- 3.12 列表生成式
- 3.13 生成器
- 3.14 迭代器
- 3.15 练习题&作业
第4章 Python基础 Day4 常用模块
- 4.1 模块介绍与导入
- 4.2 第3方开源模块的安装使用
- 4.3 系统调用os模块
- 4.4 系统调用sys模块
- 4.5 time & datetime模块
- 4.6 random随机模块
- 4.7 序列化pickle&json模块
- 4.8 hashlib 加密
- 4.9 文件copy模块shutil
- 4.10 正则表达式re模块
- 4.11 软件开发目录设计规范
- 4.12 包&跨模块代码调用
- 4.13 练习题&作业
第5章 Python核心编程 Day5 面向对象编程
- 5.1 面向对象来了
- 5.2 面向对象语法
- 5.3 对象间的交互、组合
- 5.4 三大特性之-继承
- 5.5 三大特性之-封装
- 5.6 三大特性之-多态
- 5.7 作业&练习题
第6章 Python核心编程 Day6 面向对象编程进阶
- 6.1 类方法、静态方法
- 6.2 属性方法property
- 6.3 神奇的反射
- 6.4 类的双下线方法
- 6.5 用type动态创建一个类
- 6.6 isinstance\issubclass
- 6.7 异常处理
- 6.8 作业&练习题
第7章核心编程 Day7 Socket网络编程
- 7.1 C/S架构介绍
- 7.2 TCP/IP 各层详解
- 7.3 Socket介绍
- 7.4 Socket代码实例
- 7.5 粘包现象与解决方案
- 7.6 通过socket发送文件
- 7.7 本章总结
第8章核心编程 Day8 并发编程
- 8.1 操作系统介绍
- 8.2 并发编程多进程之进程理论
- 8.3 并发编程多进程之开启进程的两种方式
- 8.4 并发编程多进程之join方法
- 8.5 并发编程多进程之守护进程
- 8.6 并发编程多进程之互斥锁
- 8.7 并发编程多进程之队列
- 8.8 并发编程多进程之生产者消费者模型
- 8.9 并发编程多线程之线程理论
- 8.10 并发编程多线程之开启线程的两种方式
- 8.11 并发编程多线程之多线程与多进程的区别
- 8.12 并发编程多线程之Thread对象的其他属性或方法
- 8.13 并发编程多线程之守护线程
- 8.14 并发编程多线程之GIL全局解释器锁
- 8.15 并发编程多线程之死锁现象与递归锁
- 8.16 并发编程多线程之信号量,Event,定时器
- 8.17 并发编程多线程之线程queue
- 8.18 并发编程多线程之进程池与线程池
- 8.19 并发编程之协程-协程介绍
- 8.20 并发编程之协程-greenlet模块
- 8.21 并发编程之协程-gevent模块
- 8.22 并发编程IO模型-IO模型介绍
- 8.23 并发编程IO模型-阻塞IO
- 8.24 并发编程IO模型-非阻塞IO
- 8.25 并发编程IO模型-多路复用IO
- 8.26 并发编程IO模型-异步IO
- 8.27 并发编程IO模型-IO模型比较分析
- 8.28 并发编程IO模型-selectors模块
- 8.29 本章小结
第9章 Mysql数据库开发
- 9.1 初识数据库-数据库管理软件的由来
- 9.2 初识数据库-数据库概述
- 9.3 初识数据库-mysql安装与基本管理
- 9.4 初识数据库-初识sql语句
- 9.5 库操作-库的增删改查
- 9.6 表操作-存储引擎介绍
- 9.7 表操作-表的增删改查
- 9.8 表操作-数据类型
- 9.9 表操作-数值类型
- 9.10 表操作-日期类型
- 9.11 表操作-字符串类型
- 9.12 表操作-枚举类型与集合类型
- 9.13 表操作-完整性约束
第7章爬虫开发-requests模块学习
- 7.1 requests模块初始
- 7.2 requests案例实战
第21章爬虫开发-爬虫基础简介
- 21.1 爬虫初识&价值探讨
- 21.2 爬虫合法性探究
- 21.3 爬虫初识深入
- 21.4 http&https协议
第9章爬虫开发-数据解析
- 9.1 数据解析概述
- 9.2 数据解析---正则表达式
- 9.3 数据解析---bs4解析
- 9.4 数据解析---xpath解析
第10章爬虫开发-验证码识别
- 10.1 验证码识别
- 10.2 验证码实战
第11章 requests模块高级操作
- 11.1 模拟登陆
- 11.2 requests模块的cookie处理
- 11.3 requests模块的代理IP操作
第13章高性能异步爬虫
- 13.1 高性能异步爬虫---线程and线程池
- 13.2 高性能异步爬虫---异步协程
- 13.3 高性能异步爬虫---多任务异步协程
- 13.4 高性能异步爬虫---aiohttp
第25章 scrapy框架使用
- 25.1 scrapy简介
- 25.2 scrapy的数据持久化存储
- 25.3 scrapy基于Spider类的全站数据爬取
- 25.4 请求传参
- 25.5 scrapy图片数据爬取
- 25.6 scrapy中间件
- 25.7 scrapy中selenium的应用
第12章动态渲染页面爬取
- 12.1 图片懒加载
- 12.2 selenium模块基本使用
- 12.3 基于selenium的爬虫案例
- 12.4 Pyppeteer模块使用

验证码实战阅读量: 1713

<h2>需求：识别下面网站登录页面的验证码</h2>

url：<a href="https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx">https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx</a>

实现思路：

<ul>
	<li>对当前页url发起请求，爬取携带验证码图片的当前页面源码数据</li>
	<li>对页面源码进行数据解析，解析出验证码图片的url</li>
	<li>对验证码图片数据进行请求，且将验证码图片持久化存储到本地</li>
	<li>调用云打码平台的示例代码对保存本地的验证码图片进行识别处理</li>
</ul>

<pre>
- YunCode.py</pre>

<pre>
<code class="language-python">import http.client, mimetypes, urllib, json, time, requests
class YDMHttp:
 apiurl = 'http://api.yundama.com/api.php'
 username = ''
 password = ''
 appid = ''
 appkey = ''

def __init__(self, username, password, appid, appkey):
        self.username = username
        self.password = password
        self.appid = str(appid)
        self.appkey = appkey

def request(self, fields, files=[]):
        response = self.post_url(self.apiurl, fields, files)
        response = json.loads(response)
        return response

def balance(self):
 data = {'method': 'balance', 'username': self.username, 'password': self.password, 'appid': self.appid,
 'appkey': self.appkey}
 response = self.request(data)
 if (response):
 if (response['ret'] and response['ret'] < 0):
 return response['ret']
 else:
 return response['balance']
 else:
 return -9001

def login(self):
 data = {'method': 'login', 'username': self.username, 'password': self.password, 'appid': self.appid,
 'appkey': self.appkey}
 response = self.request(data)
 if (response):
 if (response['ret'] and response['ret'] < 0):
 return response['ret']
 else:
 return response['uid']
 else:
 return -9001

def upload(self, filename, codetype, timeout):
 data = {'method': 'upload', 'username': self.username, 'password': self.password, 'appid': self.appid,
 'appkey': self.appkey, 'codetype': str(codetype), 'timeout': str(timeout)}
 file = {'file': filename}
 response = self.request(data, file)
 if (response):
 if (response['ret'] and response['ret'] < 0):
 return response['ret']
 else:
 return response['cid']
 else:
 return -9001

def result(self, cid):
        data = {'method': 'result', 'username': self.username, 'password': self.password, 'appid': self.appid,
                'appkey': self.appkey, 'cid': str(cid)}
        response = self.request(data)
        return response and response['text'] or ''

def decode(self, filename, codetype, timeout):
        cid = self.upload(filename, codetype, timeout)
        if (cid > 0):
            for i in range(0, timeout):
                result = self.result(cid)
                if (result != ''):
                    return cid, result
                else:
                    time.sleep(1)
            return -3003, ''
        else:
            return cid, ''

def report(self, cid):
        data = {'method': 'report', 'username': self.username, 'password': self.password, 'appid': self.appid,
                'appkey': self.appkey, 'cid': str(cid), 'flag': '0'}
        response = self.request(data)
        if (response):
            return response['ret']
        else:
            return -9001

def post_url(self, url, fields, files=[]):
 for key in files:
 files[key] = open(files[key], 'rb');
 res = requests.post(url, files=files, data=fields)
 return res.text</code></pre>

- Demo.py

<pre>
<code class="language-python">import requests
from lxml import etree
from YunCode import YDMHttp
headers = {
 'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/72.0.3626.121 Safari/537.36'

}
url = 'https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx'
page_text = requests.get(url=url,headers=headers).text

#解析验证码图片地址
tree = etree.HTML(page_text)
code_img_src = 'https://so.gushiwen.org'+tree.xpath('//*[@id="imgCode"]/@src')[0]
#请求验证码图片，且保存至本地
img_data = requests.get(url=code_img_src,headers=headers).content
with open('./code.jpg','wb') as fp:
    fp.write(img_data)

#调用云打码示例代码识别验证码
# 普通用户的用户名
username    = 'xxx'

# 普通用户的密码
password    = 'xxx'

# 软件ＩＤ，开发者分成必要参数。登录开发者后台【我的软件】获得！
appid       = 6003

# 软件密钥，开发者分成必要参数。登录开发者后台【我的软件】获得！
appkey      = '1f4b564483ae5c907a1d34f8e2f2776c'

# 图片文件
filename    = 'code.jpg'

# 验证码类型，# 例：1004表示4位字母数字，不同类型收费不同。请准确填写，否则影响识别率。在此查询所有类型 http://www.yundama.com/price.html
codetype    = 1004

# 超时时间，秒
timeout     = 60

# 检查
if (username == 'username'):
    print('请设置好相关参数再测试')
else:
    # 初始化
    yundama = YDMHttp(username, password, appid, appkey)

# 登陆云打码
    uid = yundama.login();
    print('uid: %s' % uid)

# 查询余额
    balance = yundama.balance();
    print('balance: %s' % balance)

# 开始识别，图片路径，验证码类型ID，超时时间（秒），识别结果
 cid, result = yundama.decode(filename, codetype, timeout);
 print('cid: %s, result: %s' % (cid, result))</code></pre>

- 执行结果：

<pre>
<code>/usr/local/bin/python3.6 /Users/bobo/Desktop/小猿圈爬虫课程/第四章：验证码/验证码案例.py
uid: 66752
balance: 1035
cid: 1861549839, result: hkyp

Process finished with exit code 0</code></pre>

- 验证码图片：

验证码识别