Python练习 requests+BeautifulSoup抓取ZD页面

import requests
from bs4 import BeautifulSoup
#保存url列表为文件with open('a.txt', 'w') as f:
def url_list():
   for page in range(1,6):
      urls = 'http://www.zdfans.com/zd423/page/'+str(page)
      res = requests.get(urls)
      content = res.text
      soup = BeautifulSoup(content,"lxml")
      list1=soup.find('ul',attrs={'class':'excerpt'})
      for a_li in list1.find_all('li'):
         a_href = a_li.find_all('a')
         url = a_href[1]['href']
         print(url)
         content = contentparse(url)
   return content


# 解析文章页面  获取 content、time、title
def contentparse(url):
        res = requests.get(url)
        content = res.text
        soup = BeautifulSoup(content, 'lxml')
        title = soup.find('h1', attrs={'class': 'meta-tit'}).find('a').getText()
        time = soup.find('p', attrs={'class': 'meta-info'}).contents[0][1:11]
        context = soup.find('div',attrs={'class':'entry'}).getText()
        print(title)
        print(time)
        print(context)
        return content




        return content




if __name__ == '__main__':
    url_list()











  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值