Spider__1__get/post

httpbin.org 

整体思路：

实现：

爬取网页的时候默认的使用get方法，得到一个网页的源码，post方法获取一些network里面的东西。

418 错误：我是一个茶壶，在进行爬取的时候被网页端发现了 ，需要进行模拟 手动点击浏览器访问

即 headers 模拟 浏览器访问时候的一些信息

 

1.get方法 简单模拟 手动点击 浏览器

# -*- codeing = utf-8 -*-
# @Time : 12/02/2020 05:31 PM
# @Author : Gyp
# @File : test2

import urllib.request
import urllib.parse

url = "http://www.douban.com"

headers = {
    # 模拟浏览器访问
    "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36"
}

# 实例化一个类 将用到的条件进行封装
req = urllib.request.Request(url=url , headers=headers )

response = urllib.request.urlopen(req)

print(response.read().decode("utf-8") )

2.post方法 简单模拟 手动点击 浏览器

import urllib.request
import urllib.parse

url = "http://httpbin.org/post"

headers = {
    # 用户代理   访问的 系统 浏览器类型
    "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/86.0.4240.198 Safari/537.36"
}
# 模拟 form 表单里面的内容
data = bytes(urllib.parse.urlencode({'name':'eric'}),encoding="utf-8")

req = urllib.request.Request(url=url,data=data,headers=headers,method="POST")

response = urllib.request.urlopen(req)

print(response.read().decode("utf-8") )