一, 提出问题
本案例来源于kaggle上的TMDB 5000 Movie Dataset数据集,为了探讨电影数据可视化,为电影的制作提供数据支持,主要研究以下几个问题:
-
-
电影类型如何随着时间的推移发生变化的?
-
电影类型与利润的关系?
-
Universal和Paramount两家影视公司的对比情况如何?
-
改编电影和原创电影的对比情况如何?
-
电影时长与电影票房及评分的关系?
-
分析电影关键字
-
二, 熟悉数据
数据来源说明:
https://www.kaggle.com/tmdb/tmdb-movie-metadata
1. 数据导入
#数据处理
import json
import pandas as pd
import numpy as np
from pandas import Series,DataFrame
from datetime import datetime
#不显示警告
import warnings
warnings.filterwarnings('ignore')
#数据可视化
import matplotlib.pyplot as plt
from wordcloud import WordCloud,STOPWORDS,ImageColorGenerator
from scipy.misc import imread
get_ipython().run_line_magic('matplotlib', 'inline')
# In[43]:
#导入电影数据
movies_file = r'E:\Data analysis\kaggle\tmdb_5000_movies.csv '
credits_file = r'E:\Data analysis\kaggle\tmdb_5000_credits.csv '
credits = pd.read_csv(credits_file)
movies = pd.read_csv(movies_file)
2. 查看数据
credits.head()
# movie_id : 电影id
# title : 标题
# cast: 演员类表
# crew : 全体人员
![](https://i-blog.csdnimg.cn/blog_migrate/4a5069a74e75eadca4e6c10decd34016.png)
# id : 标识
# imdb id: IMDB标识, 互联网电影资料库(Internet Movie Database,简称IMDb)是一个关于电影演员、电影、电视节目、电视明星和电影制作的在线数据库。
# popularity: 在movies DAtabase 上的相对页面查看次数
# budget : 预算(美元)
# genres :风格
# homepage : 电影首页url
# keywords: 与电影相关的关键词
# original_language : 原始语言
# original_title : 原始标题
# overview : 剧情摘要
# production_companies : 制作公司列表
# production_countries :制作国家
# release_date :首次上映时间
# revenue : 收入$
# runtime : 时长
# spoken_languages : 语言
# status : 状态
# tagline : 电影标语
# title : 标题名字
# vote_average : 平均评分
# vate_count : 评分次数
3. 清洗数据
合并两个表, 选取需要的字段
#合并两个数据表
fulldf = pd.concat([credits,movies],axis=1)
#查看合并结果
fulldf.info()
# In[47]:
#选取子集
moviesdf=fulldf[['original_title','crew','release_date','genres','keywords','production_companies',
'production_countries','revenue','budget','runtime','vote_average']]
moviesdf.info()
选取我们需要的数据, 先算利润, 增加字段profit
#选取我们需要的数据
#先求出每部电影的利润
# 并增加字段 profit
moviesdf["profit"] = moviesdf['revenue']- moviesdf['budget']
moviesdf.head(2)
4. 缺失值处理
#缺失值处理
# release_date缺失一个数据
# runtime 缺失两个
# 我们可以到网上查询来补充
#找出缺失的
release_date_null = moviesdf["release_date"].isnull()
moviesdf.loc[release_date_null,:]
# 填充指定日期,从网上查到这部电影上映日期为2014年6月1日
moviesdf['release_date'] = movies['release_date'].fillna('2014-06-01')
# 修改日期格式
moviesdf['release_date'] = pd.to_datetime(moviesdf['release_date'],format='%Y-%m-%d')
moviesdf.info()
#同理查找出缺失的runtime 并填充
runtime_null = moviesdf["runtime"].isnull()
moviesdf.loc[runtime_null,:]
# 电影《Chiamatemi Francesco - Il Papa della gente》的时长为98分钟;
# 电影《To Be Frank, Sinatra at 100》的时长为81分钟
values1 = {'runtime':98.0}
values2 = {'runtime':81.0}
moviesdf.fillna(value=values1,limit=1,inplace=True)
moviesdf.fillna(value=values2,limit=1,inplace=True)
# moviesdf.info()
moviesdf.loc[runtime_null,:]
5. 数据格式装换 json-->object
#数据格式装换
# json.loads():将字符串编码为一个python对象
# genres列格式化,建立包含所有genre类型的列表
#先将list编码成json(不需要) , 然后再解码成Python对象
# moviesdf['genres'] = moviesdf['genres'].apply(json.dumps)
moviesdf['genres'] = moviesdf['genres'].apply(json.loads)
# 根据json数据格式自定义函数解码json数据
def decode(column):
z = []
for i in column:
z.append(i['name'])
return ' '.join(z)
moviesdf['genres'] = moviesdf['genres'].apply(decode)
moviesdf.head(2)
6. 提取电影类型, 建立类型列表, 提取电影时间year
# 建立genres列表,提取电影的类型
genres_list = set()
# set()不可改变,不重复集合
# str() 函数将对象转化为适于人阅读的形式
# union() 方法返回两个集合的并集,即包含了所有集合的元素,重复的元素只会出现一次。
for i in moviesdf['genres'].str.split(' '):
genres_list = set().union(i,genres_list)
genres_list = list(genres_list)
genres_list
genres_list.remove('')
print(genres_list)
# release_date 处理
# 保留日期中的年份
# pandas.series.dt.year #the year of datetime
moviesdf['release_date'] = pd.to_datetime(moviesdf['release_date']).dt.year
columns = {'release_date':'year'}
moviesdf.rename(columns=columns,inplace=True) #将该列改成year
moviesdf['year'].apply(int).head() #转换为int
三, 数据可视化
问题:
电影类型随时间变化怎么样的?
电影类型与利润的关系?
Universal和Paramount两家影视公司的对比情况如何?
改编电影和原创电影的对比情况如何?
电影时长与电影票房及评分的关系?
分析电影关键字
1. 建立数据框, 类型和year
# 从类型列表中 遍历
# pandas时,str.contains()进行一次模糊匹配多个值
for genre in genres_list:
moviesdf[genre] = moviesdf['genres'].str.contains(genre).apply(lambda x:1 if x else 0)
# In[58]:
moviesdf[genre].tail()
genre_year = moviesdf.loc[:,genres_list]
genre_year.tail(2)
# 把年份作为索引标签 genre_year.index = moviesdf['year'] # 将数据集按年份分组并求和,得出每个年份,各电影类型的电影总数 genresdf = genre_year.groupby('year').sum() # 查看数据集,tail默认查看后5行的数据 genresdf.tail()
# 汇总电影类型的数量 # axis=0 列求和 genresdfSum = genresdf.sum(axis=0).sort_values(ascending=False) genresdfSum
#数据可视化 #绘制柱状图 # 设置画板大小 plt.figure(figsize=(12,8)) #创建画纸 plt.subplot(111) #绘图 genresdfSum.sort_values().plot(kind='barh',label='genres') plt.title("电影类型数量排名统计图") plt.xlabel('movies number') plt.ylabel("movies type") plt.show()
#计算百分比 genres_pie = genresdfSum / genresdfSum.sum() # 设置other类,当电影类型所占比例小于%1时,全部归到other类中 others = 0.01 genres_pie_otr = genres_pie[genres_pie >= others] genres_pie_otr['Other'] = genres_pie[genres_pie < others].sum() # 所占比例小于或等于%2时,对应的饼状图往外长高一截 explode = (genres_pie_otr <= 0.02) / 10 + 0.04 # 设置饼状图的参数 genres_pie_otr.plot(kind='pie',label='',startangle=50,shadow=False,figsize=(10,10),autopct='%1.1f%%',explode=explode) plt.title('各种电影类型所占的比例pie')
# 电影类型随时间变化的趋势分析 #绘图 plt.figure(figsize=(12,8)) plt.plot(genresdf,label=genresdf.columns) #横轴绘制, 格式 plt.xticks(range(1910,2020,5)) #图例 plt.legend(genresdf) #标签标题 plt.title('电影类型随时间的变化趋势',fontsize=15) plt.xlabel('year',fontsize=15) plt.ylabel('movies number',fontsize=15) #设置格子 plt.grid(True) plt.show()
# 电影类型与利润的关系? #先求出各个电影的类型的平均利润 # 把电影类型作为索引 mean_genre_profit = pd.DataFrame(index=genres_list) mean_genre_profit.head(2) # 求出各种电影类型的平均值 # mean() 求均值 #groupby 依据某个columns对整个DataFrame对象分组 # 这里 依据某个columns(genre)对另一个columns(profit)数据分组 # 然后取出需要的列 profit newarray = [] for genre in genres_list: newarray.append(moviesdf.groupby(genre,as_index=True)['profit'].mean()) # a=moviesdf.groupby(genre,as_index=True)['profit'] # newarray #查看一下 # type(a) newarray2 = [] for i in range(len(genres_list)): newarray2.append(newarray[i][1]) mean_genre_profit['mean_profit'] = newarray2 mean_genre_profit.head() # 绘制电影类型与平均利润关系图 plt.figure(figsize=(12,8)) mean_genre_profit.sort_values(by='mean_profit').plot(kind='barh') plt.xlabel("avg_profit") plt.ylabel("movies_type") plt.title("type & avg_profit")
# Universal Pictures(环球影业)和Paramount Pictures(派拉蒙影业)是美国两家电影巨头公司。 # Universal Pictures和Paramount Pictures两家影视公司发行电影的对比情况如何?从数量 # 先解析 production_companies 格式化 moviesdf['production_companies'] = moviesdf["production_companies"].apply(json.loads) #调用刚才自定义函数, 解析 moviesdf['production_companies'] = moviesdf["production_companies"].apply(decode) moviesdf.head(2) #查询两家公司数据列中是否含有并标记, 发行一部记1 moviesdf['Universal Pictures'] = moviesdf["production_companies"].str.contains('Universal Pictures').apply(lambda x:1 if x else 0) moviesdf['Paramount Pictures'] = moviesdf["production_companies"].str.contains('Paramount Pictures').apply(lambda x:1 if x else 0) moviesdf.head(1) #统计两家公司数据 a=moviesdf["Paramount Pictures"].sum() b=moviesdf["Universal Pictures"].sum() # 转化为一维数组 dict_companies = {"Universal Pictures": b,'Paramount Pictures':a} companies_number = pd.Series(dict_companies) companies_number
# 可视化 饼图 比较两家公司发行的电影占比 companies_number.plot(kind='pie',label='',autopct='%11.1f%%')
# 分析Universal Pictures和Paramount Pictures两家影视公司电影发行数量的走势, 从时间上看公司发行电影数量 # 将date 作为行索引, 公司作为列索引, 记发行数量 company=moviesdf[['Universal Pictures','Paramount Pictures']] company.index=moviesdf['year'] companydf=company.groupby('year').sum() companydf.tail() plt.figure(figsize=(14,8)) plt.plot(companydf,label = companydf.columns)
# 改编电影和原创电影的对比情况如何? # keywords列数据格式化 moviesdf['keywords'] = moviesdf['keywords'].apply(json.loads) # 调用自定义函数decode处理keywords列数据 moviesdf['keywords'] = moviesdf['keywords'].apply(decode) moviesdf['keywords'].tail() # 提取关键字 # 是否基于小说 a = 'based on novel' moviesdf['if_original'] = moviesdf['keywords'].str.contains(a).apply(lambda x: 'no original' if x else 'original') moviesdf['if_original'].value_counts() original_profit = moviesdf[['if_original','budget','revenue','profit']] original_profit = original_profit.groupby(by='if_original').mean() original_profit # 数据可视化 plt.figure(figsize=(12,8)) original_profit.plot(kind='bar') plt.title('改编电影与原创电影在预算、收入和利润的比较') plt.xlabel('original or no original') plt.ylabel('$')
# 问题五:电影时长与电影票房及评分的关系 # 电影时长与电影票房的关系 # 绘制散点图 moviesdf.plot(kind='scatter', x='runtime', y='revenue', figsize=(8, 6)) plt.title('电影时长与电影票房的关系',fontsize=15) plt.xlabel('minute',fontsize=15) plt.ylabel('$',fontsize=15) plt.grid(True)
# 电影时长与评分的关系 moviesdf.plot(kind='scatter', x='runtime', y='vote_average', figsize=(8, 6)) plt.title('电影时长与电影平均评分的关系',fontsize=15) plt.xlabel('minute',fontsize=15) plt.ylabel('avg_score',fontsize=15) plt.grid(True) plt.show()
# 问题六:分析电影关键字 # 利用电影关键字制作词云图 # 建立keywords_list列表 keywords_list = [] for i in moviesdf['keywords']: keywords_list.append(i) keywords_list = list(keywords_list) # 把字符串列表连接成一个长字符串 lis = ''.join(keywords_list) # 使用空格替换中间多余的字符串'\'s' lis.replace('\'s','')
#制作图云
# 生成词云
wc = WordCloud( background_color="black", # 背景颜色
max_words=2000, # 词云显示的最大词数
max_font_size=100, # 字体最大值
random_state=12, # 设置一个随机种子,用于随机着色
)
# 根据字符串生成词云
wc.generate(lis)
plt.figure(figsize=(16, 8))
# 以下代码显示图片
plt.imshow(wc)
plt.axis("off")
plt.show()
四, 总结
-
从上面的结果可以看出,在所有的电影类型中,Drama(戏剧)类型电影最多,占所有电影类型的18.9%,其次为Comedy(喜剧),占所有电影类型的14.2%。
-
在所有电影类型中,电影数量排名前5的电影类型分别为:Drama(戏剧)、Comedy(喜剧)、Thriller(惊悚)、Action(动作)、Romance(冒险)。
- 随着时间的推移,所有电影类型都呈现出增长趋势,尤其是1992年以后各个类型的电影均增长迅速,其中Drama(戏剧)和Comedy(喜剧)增长最快,目前仍是最热门的电影类型。
- 拍摄Animation、Adventure、Fantasy这三类电影盈利最好,而拍摄Foreign、TV、Movie这三类电影会存在亏本的风险。
- 随着时间的推移,Universal Pictures和Paramount Pictures公司的电影发行量呈现出增长趋势,尤其是在1995年后增长迅速,其中Universal Pictures公司比Paramount Pictures公司发行的电影数量更多。
- 改编电影的预算略高于原创电影,但改编电影的票房收入和利润远远高于原创电影, 这可能是改编电影拥有一定的影迷基础。
- 电影要想获得较高的票房及良好的口碑,电影的时长应保持在90~150分钟内。
- 通过对电影关键字的分析,电影中经常被提及的词语是女性(woman)、独立(independent),其次是谋杀(murder)、爱情(love)、警察(police)、暴力(violence),可见观众对女性和独立方面题材的电影最感兴趣,其次是是犯罪类和爱情类电影。