python3 爬取网页表格例子

我是初学者,希望对跟我一样的 “小白”有帮助

#网址如下:http://www.maigoo.com/news/463071.html

from bs4 import BeautifulSoup  

import requests  
import csv  
import bs4  
  
  
#检查url地址  
def check_link(url):  
    try:  
          
        r = requests.get(url)  
        r.raise_for_status()  
        r.encoding = r.apparent_encoding  
        return r.text  
    except:  
        print('无法链接服务器!!!')  
  
  
#爬取资源  
def get_contents(ulist,rurl):  
    soup = BeautifulSoup(rurl,'lxml')  
    trs = soup.find_all('tr')  
    for tr in trs:  
        ui = []  
        for td in tr:  
            ui.append(td.string)  
        ulist.append(ui) 


      
#保存资源  
def save_contents(urlist):
    try:  
        with open("数据.csv",'w') as f:  
            writer = csv.writer(f)  
            writer.writerow(['2016年中国企业500强排行榜'])  
            for i in range(len(urlist)):  
                writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]]) 
    except:
        pass 
 
def main():  
    urli = []  
    url = "http://www.maigoo.com/news/463071.html"  
    rs = check_link(url)  
    get_contents(urli,rs)  
    save_contents(urli)  
  

main()  


结果如下:

2016年中国企业500强排行榜
 名次 , 企业名称 , 营业收入(万元) 
 1 , 国家电网公司 , 207134945 
 2 , 中国石油天然气集团公司 , 188073616 
 3 , 中国石油化工集团公司 , 184

  • 4
    点赞
  • 40
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值