文章目录
1 简介
Hi,大家好,今天向大家介绍一个大数据项目
大数据分析:基于时间序列的股票预测于分析
2 时间序列的由来
提到时间序列分析技术,就不得不说到其中的AR/MA/ARMA/ARIMA分析模型。这四种分析方法的共同特点都是跳出变动成分的分析角度,从时间序列本身出发,力求得出前期数据与后期数据的量化关系,从而建立前期数据为自变量,后期数据为因变量的模型,达到预测的目的。来个通俗的比喻,大前天的你、前天的你、昨天的你造就了今天的你。
2.1 四种模型的名称:
- AR模型:自回归模型(Auto Regressive model);
- MA模型:移动平均模型(Moving Average model);
- ARMA:自回归移动平均模型(Auto Regressive and Moving Average model);
- ARIMA模型:差分自回归移动平均模型。
- AR模型:
如果某个时间序列的任意数值可以表示成下面的回归方程,那么该时间序列服从p阶的自回归过程,可以表示为AR§:
AR模型利用前期数值与后期数值的相关关系(自相关),建立包含前期数值和后期数值的回归方程,达到预测的目的,因此成为自回归过程。这里需要解释白噪声,白噪声可以理解成时间序列数值的随机波动,这些随机波动的总和会等于0,例如,某饼干自动化生产线,要求每包饼干为500克,但是生产出来的饼干产品由于随机因素的影响,不可能精确的等于500克,而是会在500克上下波动,这些波动的总和将会等于互相抵消等于0。
3 数据预览
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline
#准备两个数组
list1 = [6,4,8]
list2 = [8,6,10]
#分别将list1,list2转为Series数组
list1_series = pd.Series(list1)
print(list1_series)
list2_series = pd.Series(list2)
print(list2_series)
#将两个Series转为DataFrame,对应列名分别为A和B
frame = { 'Col A': list1_series, 'Col B': list2_series }
result = pd.DataFrame(frame)
result.plot()
plt.show()
4 理论公式
4.1 协方差
首先看下协方差的公式:
4.2 相关系数
计算出Cov后,就可以计算相关系数了,值在-1到1之间,越接近1,说明正相关性越大;越接近-1,则负相关性越大,0为无相关性
公式如下:
4.3 scikit-learn计算相关性
#各特征间关系的矩阵图
sns.pairplot(iris, hue='species', size=3, aspect=1)
Andrews Curves 是一种通过将每个观察映射到函数来可视化多维数据的方法。
使用 Andrews Curves 将每个多变量观测值转换为曲线并表示傅立叶级数的系数,这对于检测时间序列数据中的异常值很有用。
plt.subplots(figsize = (10,8))
pd.plotting.andrews_curves(iris, 'species', colormap='cool')
这里以经典的鸢尾花数据集为例
setosa、versicolor、virginica代表了三个品种的鸢尾花。可以看出各个特征间有交集,也有一定的分别规律。
#最后,通过热图找出数据集中不同特征之间的相关性,高正值或负值表明特征具有高度相关性:
fig=plt.gcf()
fig.set_size_inches(10,6)
fig=sns.heatmap(iris.corr(), annot=True, cmap='GnBu', linewidths=1, linecolor='k', \
square=True, mask=False, vmin=-1, vmax=1, \
cbar_kws={"orientation": "vertical"}, cbar=True)
5 金融数据的时序分析
主要介绍:时间序列变化情况计算、时间序列重采样以及窗口函数
5.1 数据概况
import pandas as pd
tm = pd.read_csv('/home/kesci/input/gupiao_us9955/Close.csv')
tm.head()
数据中各个指标含义:
- AAPL.O | Apple Stock
- MSFT.O | Microsoft Stock
- INTC.O | Intel Stock
- AMZN.O | Amazon Stock
- GS.N | Goldman Sachs Stock
- SPY | SPDR S&P 500 ETF Trust
- .SPX | S&P 500 Index
- .VIX | VIX Volatility Index
- EUR= | EUR/USD Exchange Rate
- XAU= | Gold Price
- GDX | VanEck Vectors Gold Miners ETF
- GLD | SPDR Gold Trust
8年期间价格(或指标)走势一览图
5.2 序列变化情况计算
- 计算每一天各项指标的差异值(后一天减去前一天结果)
- 计算pct_change:增长率也就是 (后一个值-前一个值)/前一个值)
- 计算平均计算pct_change指标
- 绘图观察哪个指标平均增长率最高
- 计算连续时间的增长率(其中需要计算今天价格和昨天价格的差异)
计算每一天各项指标的差异值(后一天减去前一天结果)
计算pct_change:增长率也就是 (后一个值-前一个值)/前一个值)
计算平均计算pct_change指标
绘图观察哪个指标平均增长率最高
除了波动率指数(.VIX指标)增长率最高外,就是亚马逊的股价了!贝佐斯简直就是宇宙最强光头强
计算连续时间的增长率(其中需要计算今天价格和昨天价格的差异)
#第二天数据
tm.shift(1).head()
#计算增长率
rets = np.log(tm/tm.shift(1))
print(rets.tail().round(3))
#cumsum的小栗子:
print('小栗子的结果:',np.cumsum([1,2,3,4]))
#增长率做cumsum需要对log进行还原,用e^x
rets.cumsum().apply(np.exp).plot(figsize=(10,6))
以上是在连续时间内的增长率,也就是说,2010年的1块钱,到2018年已经变为10多块了(以亚马逊为例)