python爬虫模拟登录古诗文网站

爬取目标网站https://so.gushiwen.cn/user/login.aspx?from=http://so.gushiwen.cn/user/collect.aspx?type=s

工具：超级鹰

思路：

1.验证码的识别，获取验证码图片的数字
2.对post请求进行发送（处理请求参数）
3.对响应数据进行持久化存储

超级鹰的基本使用

在网站中注册登陆后，点击用户中心选择立即充值，简单测试玩一玩的话，充值个一块两块就足够了

然后来到开发文档，选择python

 

 点击此处下载实例代码

 下载解压之后只需要将这个文件复制到你的项目中

然后可以在项目中查看一下chaojiying.py的代码很简单的，懂得怎么使用

#!/usr/bin/env python
# coding:utf-8

import requests
from hashlib import md5

class Chaojiying_Client(object):

    def __init__(self, username, password, soft_id):
        self.username = username
        password =  password.encode('utf8')
        self.password = md5(password).hexdigest()
        self.soft_id = soft_id
        self.base_params = {
            'user': self.username,
            'pass2': self.password,
            'softid': self.soft_id,
        }
        self.headers = {
            'Connection': 'Keep-Alive',
            'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)',
        }

    def PostPic(self, im, codetype):
        """
        im: 图片字节
        codetype: 题目类型 参考 http://www.chaojiying.com/price.html
        """
        params = {
            'codetype': codetype,
        }
        params.update(self.base_params)
        files = {'userfile': ('ccc.jpg', im)}
        r = requests.post('http://upload.chaojiying.net/Upload/Processing.php', data=params, files=files, headers=self.headers)
        return r.json()

    def ReportError(self, im_id):
        """
        im_id:报错题目的图片ID
        """
        params = {
            'id': im_id,
        }
        params.update(self.base_params)
        r = requests.post('http://upload.chaojiying.net/Upload/ReportError.php', data=params, headers=self.headers)
        return r.json()


if __name__ == '__main__':
	chaojiying = Chaojiying_Client('18103769469', 'hk19990223', '9198941')	#用户中心>>软件ID 生成一个替换 96001
	im = open('phone_number.jpg', 'rb').read()													#本地图片文件路径 来替换 a.jpg 有时WIN系统须要//
	print(chaojiying.PostPic(im, 1902))												#1902 验证码类型  官方网站>>价格体系 3.4+版 print 后要加()

 我是把代码封装到自己的项目当中的，注释写的很清楚，可以看一看具体的思路

# -*- codeing = utf-8 -*-
# @Time : 2021/7/21 8:42
# @Author : ArthurHuang
# @File : 1.模拟登录古诗文网.py
# @Software : PyCharm

#编码流程
#1.验证码的识别，获取验证码图片的数字
#2.对post请求进行发送（处理请求参数）
#3.对响应数据进行持久化存储
import requests

from lxml import html
etree = html.etree #新版本etree现在需要这样导入

from hashlib import md5

#1.对验证码图片进行捕获和识别
# 获取网站中的验证码图片
def getimg():
    url = 'https://so.gushiwen.cn/user/login.aspx?from=http://so.gushiwen.cn/user/collect.aspx'
    # UA伪装：将对应的User-Agent封装到一个字典中
    headers = {
        "User-Agent": "Mozilla / 5.0(Windows NT 10.0;Win64;x64) AppleWebKit / 537.36(KHTML, like Gecko) Chrome / 91.0.4472.77 Safari / 537.36"
    }
    page_text = requests.get(url=url,headers=headers).text
    # 实例化etree对象
    tree = etree.HTML(page_text)
    #解析验证码图片img中的src属性值
    code_img_src = 'https://so.gushiwen.cn'+tree.xpath('//*[@id="imgCode"]/@src')[0]
    img_data = requests.get(url=code_img_src,headers=headers).content  #将验证码存储到本地
    with open('./code.jpg','wb')as fp:
        fp.write(img_data)



#调用超级鹰解析验证图片中的验证码，这里面就是chaojiying.py里面的代码

class Chaojiying_Client(object):

    def __init__(self, username, password, soft_id):
        self.username = username
        password =  password.encode('utf8')
        self.password = md5(password).hexdigest()
        self.soft_id = soft_id
        self.base_params = {
            'user': self.username,
            'pass2': self.password,
            'softid': self.soft_id,
        }
        self.headers = {
            'Connection': 'Keep-Alive',
            'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)',
        }

    def PostPic(self, im, codetype):
        """
        im: 图片字节
        codetype: 题目类型 参考 http://www.chaojiying.com/price.html
        """
        params = {
            'codetype': codetype,
        }
        params.update(self.base_params)
        files = {'userfile': ('ccc.jpg', im)}
        r = requests.post('http://upload.chaojiying.net/Upload/Processing.php', data=params, files=files, headers=self.headers)
        return r.json()

    def ReportError(self, im_id):
        """
        im_id:报错题目的图片ID
        """
        params = {
            'id': im_id,
        }
        params.update(self.base_params)
        r = requests.post('http://upload.chaojiying.net/Upload/ReportError.php', data=params, headers=self.headers)
        return r.json()


#post请求  模拟登陆
def login():
    #登录界面的url
    login_url="https://so.gushiwen.cn/user/login.aspx?from=http%3a%2f%2fso.gushiwen.cn%2fuser%2fcollect.aspx"
    # UA伪装：将对应的User-Agent封装到一个字典中
    headers = {
        "User-Agent": "Mozilla / 5.0(Windows NT 10.0;Win64;x64) AppleWebKit / 537.36(KHTML, like Gecko) Chrome / 91.0.4472.77 Safari / 537.36"
    }
    #data为输入账户密码及验证码后点击登录的时候携带的数据，在游览器中查看
    data = {
    '__VIEWSTATE': '16wqy7i / 7NWdgU / kn0tN4HCfXBD0arO3xGRSqfDJ2ykg5E0GO66UZuv2KFK5TL7RaU5Z0Ojv22eoJLv3tb7T7kY / e8vYyywxX6Hr / Cb0Rl6K8jmNL + Mt0XhLafM =__VIEWSTATEGENERATOR: C93BE1AE',
    'from': 'http: // so.gushiwen.cn / user / collect.aspx',
    'email': '123456789',
    'pwd': '123456789',
    'code': chaojiying_img_data, #这里的验证码是超级鹰动态解析的
    'denglu': '登录'
    }
    response = requests.post(url=login_url,headers=headers,data=data)
    print(response.status_code)  #状态码如果返回为200 则说明请求成功



if __name__ == "__main__":
    getimg()
    chaojiying = Chaojiying_Client('你自己的账户', '密码', '软件id')  # 用户中心>>软件ID 
    im = open('code.jpg', 'rb').read()  # 本地图片文件路径 来替换 有时WIN系统须要//
    #print(chaojiying.PostPic(im, 1902))   #1902是验证码类型 在超级鹰官网里面查看自己所要识别验证码对应的类型 这里返回的是一个字典
    #{'err_no': 0, 'err_str': 'OK', 'pic_id': '1148596006713815895', 'pic_str': 'vdm7', 'md5': '5896d3c02b9548692be301551b9bbd50'}
    #我们只需要得到验证码'pic_str': 'vdm7'
    chaojiying_img_data=(chaojiying.PostPic(im, 1902)['pic_str'])
    print('解析到的验证码为：'+chaojiying_img_data)
    login()

最后输出状态码为200 咋说明请求成功，若不是，仔细检查一下