前言
2021.07.29第四章似乎不是很多,后面几章好像也不多。
第四章
验证码识别
验证码和爬虫之间的关系
- 反爬机制:验证码。识别验证码图片中的数据,用于模拟登陆操作。
- 识别验证码的操作:
- 人工肉眼识别。(不推荐)
- 第三方自动识别。(推荐)
- 云打码(http://www.yundama.com/demo.html 支持的类型最全)
(教程里显示要花钱,一次识别花几分钱,咱学的时候url已经失效了)
(现在我找到的可以使用的是超级鹰)
- 云打码(http://www.yundama.com/demo.html 支持的类型最全)
- 云打码的使用流程:(看着玩就行了,个人认为选学内容,因为网站已经进不去了,但是可以做个参考,大体的操作流程都差不多)
- 1.注册:普通和开发者用户(两个都要注册)
- 2.登录:
- 普通用户的登录:查询该用户是否还有剩余的题分
- 开发者用户登录:
- 创建一个软件:
- 下载示例代码:
备注:如果使用超级鹰的话暂时不用充钱,先关注公众号然后再绑定微信就能获得1000题分,标准的4位英文数字验证码识别成功只花费10题分,1000题分用来练练手已经足够了。
实战:识别古诗文网登录页面中的验证码。
- 使用打码平台识别验证码的编码流程:
- 将验证码图片进行本地下载
- 调用平台提供的示例代码进行图片数据识别
练习代码如下:
import requests
from lxml import html
etree = html.etree
from hashlib import md5
class Chaojiying_Client(object):
def __init__(self, username, password, soft_id):
self.username = username
password = password.encode('utf8')
self.password = md5(password).hexdigest()
self.soft_id = soft_id
self.base_params = {
'user': self.username,
'pass2': self.password,
'softid': self.soft_id,
}
self.headers = {
'Connection': 'Keep-Alive',
'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)',
}
def PostPic(self, im, codetype):
"""
im: 图片字节
codetype: 题目类型 参考 http://www.chaojiying.com/price.html
"""
params = {
'codetype': codetype,
}
params.update(self.base_params)
files = {'userfile': ('ccc.jpg', im)}
r = requests.post('http://upload.chaojiying.net/Upload/Processing.php', data=params, files=files, headers=self.headers)
return r.json()
def ReportError(self, im_id):
"""
im_id:报错题目的图片ID
"""
params = {
'id': im_id,
}
params.update(self.base_params)
r = requests.post('http://upload.chaojiying.net/Upload/ReportError.php', data=params, headers=self.headers)
return r.json()
if __name__ == '__main__':
# 将验证码图片下载到本地
url = 'https://so.gushiwen.cn/user/login.aspx?from=http://so.gushiwen.cn/user/collect.aspx'
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/83.0.4103.97 Safari/537.36'
}
page_text = requests.get(url=url, headers=headers).text
# 解析验证码图片img中src属性值
tree = etree.HTML(page_text)
code_img_src = 'https://so.gushiwen.cn' + tree.xpath('//*[@id="imgCode"]/@src')[0]
img_data = requests.get(url=code_img_src, headers=headers).content
# 将验证码图片保存到本地
with open('./code.jpg', 'wb') as fp:
fp.write(img_data)
# 调用打码平台的示例程序进行验证码图片数据识别
chaojiying = Chaojiying_Client('你的账号qwq', '你的密码(不给你咱的)', '96001')
# 用户中心>>软件ID 生成一个替换 96001
im = open('code.jpg', 'rb').read()
# 本地图片文件路径 来替换 a.jpg 有时WIN系统须要//
print(chaojiying.PostPic(im, 1902))
# 1902 验证码类型 官方网站>>价格体系 3.4+版 print 后要加()