机器学习入门：隐马尔科夫模型-8

机器学习入门：隐马尔科夫模型

1、实验描述

• 本实验先简单介绍隐马尔科夫模型，然后提供一份股票交易的数据，通过建立隐马尔科夫模型对股票数据进行分析，并将最终结果用图的方式展示出来。

• 实验时长：45分钟

• 主要步骤：

  • 读取数据文件

  • 数据预处理

  • 模型创建

  • 模型的预测

  • 模型评估

  • 绘制相关的指标

2、实验环境

• 虚拟机数量：1
• 系统版本：CentOS 7.5
• scikit-learn版本： 0.19.2
• numpy版本：1.15.1
• matplotlib版本：2.2.3
• python版本：3.5
• IPython版本：6.5.0
• hmmlearn版本：0.2.0

3、相关技能

• Python编程

• Scikit-learn编程

• Matplotlib编程

• Numpy编程

• 隐马尔科夫模型

4、相关知识点

• 隐马尔科夫模型
• 模型建立
• 模型预测
• 模型评估
• 状态序列
• 观测序列

5、实现效果

• 使用隐马尔科夫模型对股票维度分析结果如下图所示：
  

图 1

6、实验步骤

6.1隐马尔科夫模型：HMM（Hidden Markov Model）是关于时序的概率模型，描述由一个隐藏的马尔科夫链生成不可观测的状态随机序列，再由各个状态生成观测随机序列的过程。隐马尔科夫模型随机生成的状态随机序列，称为状态序列；每个状态生成一个观测，由此产生的观测随机序列，称为观测序列。序列的每个位置可以看做是一个时刻。

6.1.1隐马尔科夫模型三个基本问题：

6.1.1.1概率计算问题： 给定模型和观测序列 ，计算模型λ下观测序列O出现的概率P(O| λ)

6.1.1.2学习问题： 已知观测序列，估计模型的参数，使得在该模型下观测序列P(O| λ)最大

6.1.1.3预测问题：解码问题：已知模型和观测序列，求给定观测序列条件概率P(I|O,λ)最大的状态序列I

6.2.进入Anaconda创建的虚拟环境“ML” ，并准备相应的数据文件。

6.2.1.从zkpk的公共目录下拷贝实验所需的数据文件到zkpk的家目录下

[zkpk@master ~]$ cd
[zkpk@master ~]$ cp /home/zkpk/experiment/SH600000.txt /home/zkpk

6.2.1.1数据集SH600000.txt介绍：

6.2.1.2数据共1511行7列，每一行为一个股票交易相关的指标

6.2.1.3每列分别代表：日期、开盘、最高价、最低价、收盘、成交量、成交额

图 2

6.2.2在zkpk的家目录下执行如下命令

[zkpk@master ~]$ cd
[zkpk@master ~]$ source activate ML
(ML) [zkpk@ master ML]$ 

6.2.3此时已经进入虚拟环境。键入如下命令，进入ipython交互是编程环境

(ML) [zkpk@ master ML]$ ipython
Python 3.5.4 |Anaconda, Inc.| (default, Nov  3 2017, 20:01:27)
Type 'copyright', 'credits' or 'license' for more information
IPython 6.2.1 -- An enhanced Interactive Python. Type '?' for help.
In [1]:

6.3在Ipython交互式编程环境中开始进行实验

6.3.1导入实验所需的包

In [1]: import numpy as np
   ...: from hmmlearn import hmm
   ...: import matplotlib.pyplot as plt
   ...: import matplotlib as mpl
   ...: from sklearn.metrics.pairwise import pairwise_distances_argmin
   ...: import warnings

6.3.2读取数据文件

6.3.2.1使用“\t”分割符切词， 跳过前两行，抽取指定的列

In [2]: x = np.loadtxt('SH600000.txt', delimiter='\t', skiprows=2, usecols=(4, 5, 6, 2, 3))	# 列(4, 5, 6, 2, 3)分别对应数据集中的收盘价、成交量、成交额、最高、最低的数据

6.3.3数据预处理

6.3.3.1读取对应的字段

In [6]: close_price = x[:, 0]    #收盘价
   ...: volumn = x[:, 1]          #交易量
   ...: amount = x[:, 2]          #交易额

6.3.3.2计算振幅：每天的最高价与最低价的差

In [7]: amplitude_price = x[:, 3] - x[:, 4] # 振幅：每天的最高价与最低价的差
In [8]: diff_price = np.diff(close_price) # 涨跌值：收盘后价格做一个一阶差分；即今日收盘价减去昨日收盘价

6.3.3.3所有元素跳过第一个元素

In [10]:volumn = volumn[1:]              # 成交量
    ...: amount = amount[1:]                 # 成交额
    ...: amplitude_price = amplitude_price[1:]   # 每日振幅

6.3.3.4将多个特征叠加起来，形成样本。

In[11]: sample = np.column_stack((diff_price, volumn, amount, amplitude_price)) # 观测值;column_stack利用1-D数组组成的序列，生成一个2-D数组，其中每个1-D数组依次作为结果2维数组中的列

6.3.4建立模型：训练数据只有观测序列，则HMM的学习需要使用EM算法，是非监督学习

In [12]: n = 5 #给定五个类别(状态)
    ...: model = hmm.GaussianHMM(n_components=n, covariance_type='full') # 建立模型
#指定每个类别的系数：方差各不相同。

6.3.5利用样本进行模型训练

In [13]:model.fit(sample) # 训练模型

图 3

6.3.6模型预测：

6.3.6.1输出每个类别的相应概率值

6.3.6.2设置浮点输出，以及每个维度的输出个数

In [15]: y = model.predict_proba(sample) # 输出类别的概率值
    ...: np.set_printoptions(suppress=True, edgeitems=100)
    ...: print('proba:\n', y)

图 4

6.3.7绘制跌涨值，交易量，所有组分，组分概率的图示

In [16]: t=np.arange(len(diff_price))#跌涨值的length作为时间维度的长度
    ...: plt.figure(figsize=(10,6.7), facecolor='w')  #设置图示中画布的整体大小及背影色
    ...: plt.subplot(421)	# 子图的布局，4行两列
    ...: plt.plot(t, diff_price, 'r-')
    ...: plt.grid(True)
    ...: plt.title('amplitude_price')     #每日振幅
    ...: plt.subplot(422)
    ...: plt.plot(t, volumn, 'g-')          # 交易量
    ...: plt.grid(True)
    ...: plt.title('volumn')
    ...: clrs = plt.cm.terrain(np.linspace(0, 0.8, n))	# linspace方法在指定范围内返回均匀间隔的数字；
    ...: plt.subplot(423)
    ...: for i, clr in enumerate(clrs):
    ...:     plt.plot(t, y[:, i], '-', lw=0.3, color=clr, alpha=0.7)
    ...: plt.title('All components')          # 所有组分
    ...: plt.grid(True)
    ...: for i, clr in enumerate(clrs):
    ...:     axes = plt.subplot(4,2,i+4)
    ...:     plt.plot(t, y[:,i], '-', color=clr)
    ...:     print('Component probability ', y[:,i])  #组分概率
    ...:     plt.grid(True)
    ...:     plt.title("Compoent %d" %(i+1))
In [18]: plt.suptitle('SH600000 stock GaussianHMM Demarcation Hidden Variable')
In [20]: plt.tight_layout()
In [21]: plt.subplots_adjust(top=0.8)
In [22]: plt.show()

图 5

图 6

7、参考答案

• 代码清单Hmm_test.py

图 7

8、总结

本次实验使用隐马尔科夫模型，对股票数据进行分析，大体流程是数据预处理、建模、训练模型、预测及最终结果可视化。涉及的理论及编码知识量较大，需要大家多多理解相关的理论知识，在此基础上进行相应的编程实现。在编程的过程中，要学会查阅文档的方式解决疑问，如类、方法如何使用、作用是什么、某参数的意思是什么等等问题。