python获取csdn文章内容

此博客介绍了一个使用Python和PySide2的工具,可以爬取CSDN文章并将其内容转换为Markdown格式,方便阅读和整理。通过输入文章链接,它能提取标题、正文,并去除无关字符,生成包含#标题和详细内容的.md文件。
摘要由CSDN通过智能技术生成

爬取页面内容,并生成Markdown格式的内容。

安装库

  • pip3 install tomd
  • pip3 install requests
  • pip3 install pyinstaller

打包生成exe单文件

  • pyinstaller -F -w csdn.py

代码

from PySide2.QtWidgets import QApplication,QMainWindow,QPushButton,QPlainTextEdit,QMessageBox
import re
import parsel
import tomd
import requests
class CSDN():
    def __init__(self):
        self.windows = QMainWindow()
        self.windows.resize(450, 300)
        self.windows.setWindowTitle("获取csdn文章工具")
        self.setup_ui()
        self.set_connect()
    def set_connect(self):
        #设置建立联系
        self.button.clicked.connect(self.spider_csdn)
    def setup_ui(self):
        #设置ui界面的建立
        self.button = QPushButton(self.windows)
        self.button.resize(100, 100)
        self.button.move(150, 150)
        self.button.setText("获取文章")
        self.text = QPlainTextEdit(self.windows)
        self.text.setPlaceholderText("请输入需要获取文章的链接")
        self.text.resize(450, 100)
    def spider_csdn(self):
        # 目标文章的链接
        title_url=self.text.toPlainText()
        MessageBox = QMessageBox(self.windows)
        if not title_url:
            MessageBox.critical(self.windows, "错误", "请输入网址")
            return
        head={"User-Agent":"Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36 Edg/84.0.522.52"
        }
        html=requests.get(url=title_url,headers=head).text
        page=parsel.Selector(html)
        #创建解释器
        title=page.css(".title-article::text").get()
        res = re.compile("[^\u4e00-\u9fa5^a-z^A-Z^0-9]")
        restr = ''
        res.sub(restr, title)
        content=page.css("article").get()
        content=re.sub("<a.*?a>","",content)
        content = re.sub("<br>", "", content)
        content=content.replace("&lt;","<")
        content=content.replace("&gt;",">")
        texts=tomd.Tomd(content).markdown
        #转换为markdown 文件
        with open(title+".md",mode="w",encoding="utf-8") as f:
            f.write("#"+title)
            f.write(texts)
            MessageBox.information(self.windows,"正确","获取文章完成")
if __name__ == '__main__':
    app = QApplication()
    csdn=CSDN()
    csdn.windows.show()
    app.exec_()

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值