Python采集网站数据内容, 并把详情信息保存PDF

本次内容:

Python采集网站数据内容, 并把详情信息保存PDF

本次使用开发环境:

模块使用:

需安装模块

  • requests 数据请求模块
    安装方法:pip install requests
  • parsel 数据解析模块 pip install parsel
  • pdfkit PDF模块 pip install pdfkit

内置模块(不许安装)

  • re 正则表达式 内置模块
  • json 字符串转Json数据 内置模块
  • csv 保存csv模块 内置模块
  • time 时间模块 内置模块

如何安装模块

  1. win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
  2. 在pycharm中点击Terminal(终端) 输入安装命令

本节课的案例思路(爬虫最基本思路流程):

一. 数据来源分析

  1. 确定我们想要数据内容是什么? 音乐
  2. 通过开发者工具进行抓包分析, 分析数据来源 >>> 音乐播放地址是从哪里的

二. 代码实现步骤 爬虫四部曲: 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据

  1. 发送请求, 对于什么url发送什么请求, 携带headers伪装
    网址
    发送请求get请求
  2. 获取数据, 获取服务器返回响应数据
  3. 解析数据, 提取我们想要数据内容 职位相关信息数据
  4. 保存数据, 保存文本/数据库/表格… csv表格数据
  5. 多页数据采集

代码展示

相对应的安装包/安装教程/激活码/使用教程/学习资料/工具插件 可以点击免费领取

首先导入模块

import requests
import parsel  # 数据解析模块 pip install parsel
import pdfkit  # pip install pdfkit
# 导入正则表达式模块
import re  # 内置模块
# 导入json
import json  # 内置模块
# 导入格式化输出模块
import pprint  # 内置模块
# 导入csv模块
import csv  # 内置模块
# 导入时间模块
import time

1. 发送请求

def get_job_content(title, html_url):
    # url = '详情页网址自己复制一下哦~'  # 招聘详情页
    html_str = """
    <!doctype html>
    <html lang="en">
    <head>
        <meta charset="UTF-8">
        <title>Document</title>
    </head>
    <body>
    {article}
    </body>
    </html>
    """
    headers = {
   
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers, proxies=<
  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 4
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值