Python爬取姜子牙网上影评,实现词云图

前言

本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。

PS:如有需要Python学习资料的小伙伴可以加点击下方链接自行获取

python免费学习资料以及群交流解答点击即可加入

相关环境配置

  • python 3.6
  • pycharm
  • requests
  • parsel
  • wordcloud
  • jieba

相关模块pip安装即可
在这里插入图片描述
国庆假期原本小编也是去看了这部电影的,看完之后总体而言还是比较失望的,动画效果是真的好,但是剧情太拉垮了~
网上很多影评好评都是给的动画特效,差评都是给的剧情方面~

言归正传~咱们今天爬取一下豆瓣影评,看看各大网友都是什么样的看法吧

目标网页

在这里插入图片描述
豆瓣网是静态网页,网站上面的数据都是有再网页源代码有的,请求网页,返回response数据,然后解析数据,保存数据就OK了,一气呵成,对于静态网页就不过多的说明了,还是比较简单的~

影评爬虫代码

import requests
import parsel
import time
for page in range(0, 3000, 20):
    time.sleep(1)
    url = 'https://movie.douban.com/subject/25907124/reviews'

    headers = {
      'Accept': 'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.9',
      'Host': 'movie.douban.com',
      'Referer': 'https: // movie.douban.com / subject / 26754233 / reviews?start = 140',
      'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36',
    }

    response = requests.get(url=url, headers=headers)
    selector = parsel.Selector(response.text)
    data = selector.css('#content  .article .review-list .short-content::text').getall()
    for i in data:
        a = i.strip().replace('\n', '').replace(')', '').replace('(', '')
        with open('姜子牙影评' + '.txt', mode='a', encoding='utf-8') as f:
            f.write(a)
            f.write('\n')
            print(a)

在这里插入图片描述

词云代码

import jieba
import wordcloud
import imageio
# 导入imageio库中的imread函数,并用这个函数读取本地图片,作为词云形状图片
py = imageio.imread(r"D:\python\demo\姜子牙豆瓣影评\四不象.png")
# 读取文件内容
f = open(r'D:\python\demo\姜子牙豆瓣影评\姜子牙影评.txt', encoding='utf-8')
txt = f.read()
# print(txt)
# jiabe 分词 分割词汇
txt_list = jieba.lcut(txt)
string = ' '.join(txt_list)
# 词云图设置
wc = wordcloud.WordCloud(
        width=1000,         # 图片的宽
        height=700,         # 图片的高
        background_color='white',   # 图片背景颜色
        font_path='msyh.ttc',    # 词云字体
        mask=py,     # 所使用的词云图片
        scale=15,
        stopwords={' ', '没有', '真的', '还是', '就是', '如果', '不是', '什么', '一个', '这部', '但是', '觉得', '有点', '虽然', '我们'},
        # contour_width=5,
        # contour_color='red'  # 轮廓颜色
)
# 给词云输入文字
wc.generate(string)
# 词云图保存图片地址
wc.to_file(r'D:\python\demo\姜子牙豆瓣影评\out.png')

在这里插入图片描述
在这里插入图片描述

  • 3
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
以下是Python豆瓣电影的步骤: 1.导入需要的库和模块 ```python import requests from bs4 import BeautifulSoup import jieba from wordcloud import WordCloud, ImageColorGenerator import matplotlib.pyplot as plt from PIL import Image import numpy as np ``` 2.获网页源代码并解析 ```python url = 'https://movie.douban.com/subject/26363254/comments?status=P' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') ``` 3.获评论内容并进行分 ```python comments = soup.find_all('span', class_='short') comment_text = '' for comment in comments: comment_text += comment.text words = jieba.cut(comment_text) ``` 4.统计频并生成 ```python word_counts = {} for word in words: if len(word) == 1: continue else: word_counts[word] = word_counts.get(word, 0) + 1 wordcloud = WordCloud(font_path='msyh.ttc', background_color='white', max_words=200, max_font_size=100, width=800, height=600) wordcloud.generate_from_frequencies(word_counts) plt.imshow(wordcloud, interpolation='bilinear') plt.axis('off') plt.show() ``` 5.生成带有片的 ```python mask = np.array(Image.open('movie.png')) image_colors = ImageColorGenerator(mask) wordcloud = WordCloud(font_path='msyh.ttc', background_color='white', max_words=200, max_font_size=100, width=800, height=600, mask=mask) wordcloud.generate_from_frequencies(word_counts) plt.imshow(wordcloud.recolor(color_func=image_colors), interpolation='bilinear') plt.axis('off') plt.show() ```
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值