Python采集网站数据内容, 并把详情信息保存PDF

最新推荐文章于 2024-06-13 01:21:52 发布

魔王不会哭

最新推荐文章于 2024-06-13 01:21:52 发布

阅读量828

点赞数 1

分类专栏：爬虫 python 文章标签： python pycharm 数据分析编程语言爬虫

本文链接：https://blog.csdn.net/python56123/article/details/123296331

版权

本次内容:

Python采集网站数据内容, 并把详情信息保存PDF

本次使用开发环境:

Python 3.8
Pycharm 2021.2专业版
保存PDF 需要 wkhtmltopdf 安装包
以上环境都可以点击领取

模块使用:

需安装模块

requests 数据请求模块
安装方法：pip install requests
parsel 数据解析模块 pip install parsel
pdfkit PDF模块 pip install pdfkit

内置模块（不许安装）

re 正则表达式内置模块
json 字符串转Json数据内置模块
csv 保存csv模块内置模块
time 时间模块内置模块

如何安装模块

win + R 输入 cmd 点击确定, 输入安装命令 pip install 模块名 (pip install requests) 回车
在pycharm中点击Terminal(终端) 输入安装命令

本节课的案例思路(爬虫最基本思路流程):

一. 数据来源分析

确定我们想要数据内容是什么? 音乐
通过开发者工具进行抓包分析, 分析数据来源 >>> 音乐播放地址是从哪里的

二. 代码实现步骤爬虫四部曲: 发送请求 >>> 获取数据 >>> 解析数据 >>> 保存数据

发送请求, 对于什么url发送什么请求, 携带headers伪装
网址
发送请求get请求
获取数据, 获取服务器返回响应数据
解析数据, 提取我们想要数据内容职位相关信息数据
保存数据, 保存文本/数据库/表格… csv表格数据
多页数据采集

代码展示

相对应的安装包/安装教程/激活码/使用教程/学习资料/工具插件可以点击免费领取

首先导入模块

import requests
import parsel  # 数据解析模块 pip install parsel
import pdfkit  # pip install pdfkit
# 导入正则表达式模块
import re  # 内置模块
# 导入json
import json  # 内置模块
# 导入格式化输出模块
import pprint  # 内置模块
# 导入csv模块
import csv  # 内置模块
# 导入时间模块
import time

1. 发送请求

def get_job_content(title, html_url):
    # url = '详情页网址自己复制一下哦~'  # 招聘详情页
    html_str = """
    <!doctype html>
    <html lang="en">
    <head>
        <meta charset="UTF-8">
        <title>Document</title>
    </head>
    <body>
    {article}
    </body>
    </html>
    """
    headers = {
   
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36',
    }
    response = requests.get(url=html_url, headers=headers, proxies=<

最低0.47元/天解锁文章

魔王不会哭

关注

1
点赞
踩
4

收藏

觉得还不错? 一键收藏
4
评论
Python采集网站数据内容, 并把详情信息保存PDF

本次内容:Python采集网站数据内容, 并把详情信息保存PDF本次使用开发环境:Python 3.8Pycharm 2021.2专业版保存PDF 需要 wkhtmltopdf 安装包以上环境都可以点击领取模块使用:需安装模块requests 数据请求模块安装方法：pip install requestsparsel 数据解析模块 pip install parselpdfkit PDF模块 pip install pdfkit内置模块（不许安装）re 正则表达式内
复制链接

扫一扫