储存数据,带参数爬虫,json

储存数据,带参数爬虫,json

之前上课时写的一些练习代码,上传一下

爬电影到excel文件

import requests, bs4 ,openpyxl

# 创建工作簿
wb=openpyxl.Workbook()  
# 获取工作簿的活动表
sheet=wb.active 
# 工作表重命名
sheet.title='movie_comments' 

sheet['A1'] ='序号'     # 加表头,给A1单元格赋值
sheet['B1'] ='电影名'   # 加表头,给B1单元格赋值
sheet['C1'] ='评分'   # 加表头,给C1单元格赋值
sheet['D1'] ='评语'   # 加表头,给D1单元格赋值
sheet['E1'] ='播放链接'   # 加表头,给E1单元格赋值

#反爬虫请求头
headers={'user-agent':'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_13_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/71.0.3578.98 Safari/537.36'}
for x in range(10):
    url = 'https://movie.douban.com/top250?start=' + str(x*25) + '&filter='
    res = requests.get(url, headers=headers)
    bs = bs4.BeautifulSoup(res.text, 'html.parser')
    bs = bs.find('ol', class_="grid_view")
    for titles in bs.find_all('li'):
        num = titles.find('em',class_="").text
        title = titles.find('span', class_="title").text
        comment = titles.find('span',class_="rating_num").text
        url_movie = titles.find('a')['href']

        if titles.find('span',class_="inq") != None:
            tes = titles.find('span',class_="inq").text
            print(num + '.' + title + '——' + comment + '\n' + '推荐语:' + tes +'\n' + url_movie)
        else:
            tes='无评语'
            print(num + '.' + title + '——' + comment + '\n' +'\n' + url_movie)
        sheet.append([num,title,comment,tes,url_movie])  

# 最后保存并命名这个Excel文件        
wb.save('movie.xlsx')
  • List item

带参数爬虫

import requests,openpyxl
# 创建工作簿
wb=openpyxl.Workbook()  
# 获取工作簿的活动表
sheet=wb.active 
# 工作表重命名
sheet.title='lyrics' 

sheet['A1'] ='歌曲名'     # 加表头,给A1单元格赋值
sheet['B1'] ='所属专辑'   # 加表头,给B1单元格赋值
sheet['C1'] ='播放时长'   # 加表头,给C1单元格赋值
sheet['D1'] ='播放链接'   # 加表头,给D1单元格赋值

url = 'https://c.y.qq.com/soso/fcgi-bin/client_search_cp'
for x in range(5):
    params = {
        'ct': '24',
        'qqmusic_ver': '1298',
        'new_json': '1',
        'remoteplace': 'txt.yqq.song',
        'searchid': '64405487069162918',
        't': '0',
        'aggr': '1',
        'cr': '1',
        'catZhida': '1',
        'lossless': '0',
        'flag_qc': '0',
        'p': str(x + 1),
        'n': '20',
        'w': '五月天',
        'g_tk': '5381',
        'loginUin': '0',
        'hostUin': '0',
        'format': 'json',
        'inCharset': 'utf8',
        'outCharset': 'utf-8',
        'notice': '0',
        'platform': 'yqq.json',
        'needNewCode': '0'
    }

    res_music = requests.get(url, params=params)
    json_music = res_music.json()
    list_music = json_music['data']['song']['list']
    for music in list_music:
        # 以name为键,查找歌曲名,把歌曲名赋值给name
        name = music['name']
        # 查找专辑名,把专辑名赋给album
        album = music['album']['name']
        # 查找播放时长,把时长赋值给time
        time = music['interval']
        # 查找播放链接,把链接赋值给link
        link = 'https://y.qq.com/n/yqq/song/' + str(music['mid']) + '.html\n\n'
        # 把name、album、time和link写成列表,用append函数多行写入Excel
        sheet.append([name,album,time,link])  
        print('歌曲名:' + name + '\n' + '所属专辑:' + album +'\n' + '播放时长:' + str(time) + '\n' + '播放链接:'+ link)
        
# 最后保存并命名这个Excel文件        
wb.save('Mayday.xlsx')
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值