数据持久化:存入csv文件

import requests
from bs4 import BeautifulSoup
import csv

csv_list_name = ['新闻类型', '新闻标题', '新闻链接', '新闻时间']
csv_file = open(r'.\中国新闻网.csv', 'w', encoding='utf-8', newline='')
csv.writer(csv_file).writerow(csv_list_name)

for page in range(1, 11): # 翻页操作
    URL = f'https://www.chinanews.com.cn/scroll-news/news{page}.html'
    Headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/126.0.0.0 Safari/537.36 Edg/126.0.0.0'}
    response = requests.get(url=URL, headers=Headers)
    if response.status_code != 200:
        print(f"访问失败,错误码为{response.status_code}")
    else:
        response.encoding = 'utf-8'

    soup = BeautifulSoup(response.text, 'html.parser') # 解析文本
    li_list = soup.select('html > body > div.w1280.mt20 > div.content-left > div.content_list ul > li')
    for i in li_list:

        # 新闻类型
        if i.select_one('li > div > a') != None:
            NewsStyle = i.select_one('li > div > a').text
        # 新闻标题
            NewsTitle = i.select_one('li > div:nth-of-type(2) > a').text
        # 新闻链接
            NewsLJ = 'https://www.chinanews.com.cn/' + i.select_one('li > div:nth-of-type(2) > a').attrs['href']
        # 新闻时间
            NewsTime = i.select_one('li > div.dd_time').text
            print(f"类型:{NewsStyle}, 标题:{NewsTitle}, 链接:{NewsLJ}, 时间:{NewsTime}")
            csv_list_data = [NewsStyle, NewsTitle, NewsLJ, NewsTime]
            csv.writer(csv_file).writerow(csv_list_data)

csv_file.close()
print("存入完成")

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值