python爬虫——爬取网页的中文

# 爬取网页的中文内容
from urllib import request
from bs4 import BeautifulSoup
import pandas as pds
import xlrd
import docx

#读取excel
def excel(fname):
          data=pds.read_excel(fname)
          return data

def word(school ,content):
    #创建内存中的word文档对象
    file=docx.Document()
    #写入若干段落
    file.add_paragraph(content)
    #保存
    file.save("E:/大四上/毕业论文/招生简章/"+school+"招生简章.docx")
    



if __name__ == '__main__':

    data=excel("C:/Users/Administrator/Desktop/招生简章.xlsx")  #读初始数据
    nrow=data.shape[0]   #获取数据的行数

    for i in range(0,nrow):
        school = data.values[i][0]
        url =data.values[i][1]
        print("正在爬第"+str(i)+"个招生简章")

        head = {}
        # 使用代理
        head['User-Agent'] = 'Mozilla/5.0 (Linux; Android 4.1.1; Nexus 7 Build/JRO03D) AppleWebKit/535.19 (KHTML, like Gecko) Chrome/18.0.1025.166  Safari/535.19'
        req = request.Request(url, headers = head)
        response = request.urlopen(req)
        html = response.read()

        
        # 创建request对象
        soup = BeautifulSoup(html, 'lxml')
        # 找出div中的内容
        soup_text = soup.find(attrs={'class':'content'})
        # 输出其中的文本
        content = soup_text.text
        
        word(school ,content)#写入word文档

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 3
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值