用requests库和BeautifulSoup4库爬取新闻列表

1.用requests库和BeautifulSoup4库，爬取校园新闻列表的时间、标题、链接、来源。

import requests
from bs4 import BeautifulSoup
url1='http://news.gzcc.cn/html/xiaoyuanxinwen/'
res=requests.get(url1)
res.encoding='utf-8'
soup=BeautifulSoup(res.text,'html.parser')
##print(res.text)
print("##########################################################################\n##########################################################################")
for news in soup.select('li'):
    if len((news.select('.news-list-title')))>0:
        time=news.select('.news-list-info')[0].span.text#时间
        title=news.select('.news-list-title')[0].contents[0]#标题
        url=news.select('a')[0]['href']#链接
        source=news.select('.news-list-info')[0].select('span')[1].text
        print( "时间:",time,"\t标题:",title,"\t链接:",url,"来源:",source)

结果：

2.选一个自己感兴趣的主题，做类似的操作，为“爬取网络数据并进行文本分析”做准备。

 

转载于:https://www.cnblogs.com/huanglinxin/p/7602773.html