python数据与挖掘实战学习:实战篇 第八章中医证型关联规则挖掘笔记

第八章 中医证型关联规则挖掘

8.1 背景与挖掘目标

中医药治疗恶性肿瘤,从整体出发,调整机体气血、阴阳、脏腑功能的平衡,根据不同的临床证候进行辩证论治。确定“先证而治”的方向:即后续证候尚未出现之前,需要截断恶化病情的哪些后续证候。发现中医症状间的关联关系和诸多症状间的规律性,并且依据规则分析病因、预测病情发展以及为未来临床诊治提供有效借鉴。
挖掘目标:
1)借助三阴乳腺癌患者的病理信息,挖掘患者的症状与中医证型之间的关联关系。
2)对截断治疗提供依据,挖掘潜性证素。

8.2 分析方法与过程

由于患者在围手术期、围化疗期、围放疗期和内分泌治疗期等各个病程阶段,基本都会出现特定的临床症状,因此运用中医截断疗法进行治疗。截断扭转的主要观点是强调早期治疗,力图快速控制病情,截断病情邪变深入,扭转阻止疾病恶化。
由于临床病理信息大部分记录在纸张,本章采用问卷调查方式收集数据;运用数据挖掘技术对收集的数据进行数据探索与预处理,形成建模数据;采用关联规则算法,挖掘各中医证素与乳腺癌TNM分期之间的关系,其中乳腺癌TNM分期是乳腺癌分期基本原则,I期较轻,IV期较严重。探索不同分期阶段的三阴乳腺癌患者的中医证素分布规律,以及采用截断病变发展、先期干预的治疗思路,指导三阴乳腺癌的中医临床治疗。
挖掘步骤:
1)以问卷调查的方式对数据进行收集,并将问卷信息整理成原始数据。
2)对原始数据集进行数据预处理,包括数据清洗、属性规约、数据变换。
3)利用步骤2)形成的建模数据,采用关联规则算法,调整模型输入参数,获取各中医证素与乳腺癌TNM分期之间的关系。
4)结合实际业务,对模型结果进行分析,且将模型结果应用到实际业务中,最后输出关联规则结果。

8.2.1 数据获取

采用调查问卷形式的数据获取具体过程如下:
1)拟定调查问卷表并形成原始指标表
2)定义纳入标准与排除标准
3)将收集回来的问卷表整理成原始数据

8.2.2 数据预处理

1.数据清洗
在收回的问卷中剔除无效的问卷,将有效问卷整理成原始数据。
2.属性规约
本案例收集到的数据有73个属性,将其中的冗余属性与挖掘任务不相关属性剔除。选取六种证型得分、TNM分期的属性值构成数据集。
3.数据变换
首先通过属性构造,获得证型系数,然后通过聚类算法对数据进行离散化处理,形成建模数据。
(1)属性构造
为了更好反应出中医证素分布的特征,采用证型系数代替具体单证型的证素得分,证型系数=该证型得分/该证型总分。
属性构造后的数据集

(2)数据离散化
由于Apriori关联规则算法无法处理连续性数值变量,对数据进行离散化。本案例采用聚类算法对各个证型系数进行离散化处理,将每个属性聚成四类。


import pandas as pd
from sklearn.cluster import KMeans

datafile = './demo/data/data.xls'  # 待聚类的数据文件
processedfile = './demo/tmp/data_processed.xlsx'  # 处理后的文件
typelabel = {'肝气郁结证型系数':'A', '热毒蕴结证型系数':'B', '冲任失调证型系数':'C', '气血两虚证型系数':'D', '脾胃虚弱证型系数':'E',
             '肝肾阴虚证型系数':'F'}
k = 4  # 需要的聚类类别数

# 读取数据并且进行聚类
data = pd.read_excel(datafile)
keys = list(typelabel.keys())
result = pd.DataFrame()

if __name__ == '__main__':  # 判断是否主窗口运行
    '''
    当.py文件被直接运行时,if __name__ == '__main__'之下的代码块将被运行;
    当.py文件以模块形式被导入时,if __name__ == '__main__'之下的代码块不被运行。
    '''
    for i in range(len(keys)): # 调用k-means算法,进行聚类离散化
        print('正在进行 "%s" 的聚类...' % keys[i])
        kmodel = KMeans(n_clusters=k)
        kmodel.fit(data[[keys[i]]].values)  # 训练模型

        r1 = pd.DataFrame(kmodel.cluster_centers_, columns=[typelabel[keys[i]]])  # 聚类中心
        r2 = pd.Series(kmodel.labels_).value_counts()  # 分类统计
        r2 = pd.DataFrame(r2, columns=[typelabel[keys[i]]+'n'])  # 转为DataFrame,记录各个类别的数目
        r = pd.concat([r1, r2], axis=1).sort_values(by= typelabel[keys[i]])  # 匹配聚类中心和类别数目,并按值排序
        r.index = [1, 2, 3, 4]

        r[typelabel[keys[i]]] = r[typelabel[keys[i]]].rolling(2).mean()  # rolling().mean()用来计算相邻2列的均值,以此作为边界点
        r[typelabel[keys[i]]][1] = 0.0  # 将原来的聚类中心改为边界点
        result = result.append(r.T)

    result = result.sort_index()  # 以index排序,即以ABCDEF排序
    result.to_excel(processedfile)

数据离散化结果
原始数据预处理后


import pandas as pd

data = pd.read_excel('./demo/data/data.xls')
print(data)
for i in range(len(data)):
    if data['肝气郁结证型系数'][i] <= 0.179:
        data['肝气郁结证型系数'][i] = 'A1'
    elif data['肝气郁结证型系数'][i] <= 0.258:
        data['肝气郁结证型系数'][i] = 'A2'
    elif data['肝气郁结证型系数'][i] <= 0.35:
        data['肝气郁结证型系数'][i] = 'A3'
    else:
        data['肝气郁结证型系数'][i] = 'A4'

    if data['热毒蕴结证型系数'][i] <= 0.15:
        data['热毒蕴结证型系数'][i] = 'B1'
    elif data['热毒蕴结证型系数'][i] <= 0.296:
        data['热毒蕴结证型系数'][i] = 'B2'
    elif data['热毒蕴结证型系数'][i] <= 0.485:
        data['热毒蕴结证型系数'][i] = 'B3'
    else:
        data['热毒蕴结证型系数'][i] = 'B4'

    if data['冲任失调证型系数'][i] <= 0.201:
        data['冲任失调证型系数'][i] = 'C1'
    elif data['冲任失调证型系数'][i] <= 0.288:
        data['冲任失调证型系数'][i] = 'C2'
    elif data['冲任失调证型系数'][i] <= 0.415:
        data['冲任失调证型系数'][i] = 'C3'
    else:
        data['冲任失调证型系数'][i] = 'C4'

    if data['气血两虚证型系数'][i] <= 0.172:
        data['气血两虚证型系数'][i] = 'D1'
    elif data['气血两虚证型系数'][i] <= 0.251:
        data['气血两虚证型系数'][i] = 'D2'
    elif data['气血两虚证型系数'][i] <= 0.357:
        data['气血两虚证型系数'][i] = 'D3'
    else:
        data['气血两虚证型系数'][i] = 'D4'

    if data['脾胃虚弱证型系数'][i] <= 0.154:
        data['脾胃虚弱证型系数'][i] = 'E1'
    elif data['脾胃虚弱证型系数'][i] <= 0.256:
        data['脾胃虚弱证型系数'][i] = 'E2'
    elif data['脾胃虚弱证型系数'][i] <= 0.375:
        data['脾胃虚弱证型系数'][i] = 'E3'
    else:
        data['脾胃虚弱证型系数'][i] = 'E4'

    if data['肝肾阴虚证型系数'][i] <= 0.178:
        data['肝肾阴虚证型系数'][i] = 'F1'
    elif data['肝肾阴虚证型系数'][i] <= 0.261:
        data['肝肾阴虚证型系数'][i] = 'F2'
    elif data['肝肾阴虚证型系数'][i] <= 0.353:
        data['肝肾阴虚证型系数'][i] = 'F3'
    else:
        data['肝肾阴虚证型系数'][i] = 'F4'

print(data)
data.to_excel('./demo/tmp/data_model.xlsx',index=False)

这里不知道掩码方式怎么处理数据。。就用的最笨的if条件语句

数据处理

8.2.3 模型构建

关联规则算法主要用于寻找数据集中项之间的关联关系,其揭示了数据项之间的未知关系,基于样本的统计规律,进行关联规则挖掘。当置信度达到某一阈值时,就可以认为规则成立。
1.中医证型关联规则模型
模型实现步骤:首先设置建模参数最小支持度、最小置信度,输入建模样本数据。然后采用Apriori关联规则算法对建模的样本数据进行分析,以模型参数设置的最小支持度、最小置信度以及分析目标作为条件,如果所有的规则都不满足条件,则需要重新调整模型参数,否则输出关联规则结果。
对于如何设置最小支持度和最小置信度,大部分都是根据业务经验设置初始值,然后经过多次调整,获取与业务相符的关联规则结果。本案例选取模型的输入参数为:最小支持度6%、最小置信度75%。

import pandas as pd
from apriori import *  # 导入自行编写的高效的Apriori函数
import time  # 导入时间库用来计算用时

inputfile = './demo/data/apriori.txt'  # 输入事务集文件
data = pd.read_csv(inputfile, header=None, dtype=object)

start = time.perf_counter()  # 计时开始(新版本不支持clock,用time.perf_counter()替换)
print('\n转换原始数据至0-1矩阵')
ct = lambda x : pd.Series(1, index=x[pd.notnull(x)])  # 转换0-1矩阵的过渡函数,即将标签数据转换为1
b = map(ct, data.values)  # 用map方式执行
data = pd.DataFrame(b).fillna(0)  # 实现矩阵转换,除了1外,其余为空,空值用0填充
end = time.perf_counter()  # 计时结束
print('\n转换完毕,用时:%0.2f秒' % (end-start))
del b  # 删除中间变量b,节省内存

support = 0.06  # 最小支持度
confidence = 0.75  # 最小置信度
ms = '---'  # 连接符,默认'--',用来区分不同元素,如A--B,需要保证原始表格不含有该字符

start = time.perf_counter()  # 计时开始
print('\n开始搜索关联规则')
find_rule(data, support, confidence, ms)
end = time.perf_counter()  # 计时结束
print('\n转换完毕,用时:%0.2f秒' % (end-start))

关联结果

2.模型分析
对于关联的结果,我们只关注以H为规则结果的规则。每个关联规则都可以表示成 X ⇒ Y X \Rightarrow Y XY,其中X表示各个证型系数范围标识组合而成的规则,Y表示TNM分期为H4期。A3表示肝气郁结证型系数处于(0.258,0.35]范围内的数值,B2表示热毒蕴结证型系数处于(0.15,0.296]范围内的数值,C3表示冲任失调证型系数处于(0.288,0.415]范围内的数值,F4表示肝肾阴虚证型系数处于(0.353,0.607]范围内的数值。
中医证型关联规则模型结果
由此分析得到以下结论。
1) A 3 、 F 4 ⇒ H 4 A3、F4 \Rightarrow H4 A3F4H4 支持度最大,达到7.85%,置信度最大,达到87.96%,说明肝气郁结证型系数处于(0.258,0.35]范围,肝肾阴虚证型系数处于(0.353,0.607]范围内,TNM分期诊断为H4的可能性为87.96%,而这种情况发生的可能性为7.85%。
2) C 3 、 F 4 ⇒ H 4 C3、F4 \Rightarrow H4 C3F4H4 支持度达到7.53%,置信度达到87.5%,说明冲任失调证型系数处于(0.288,0.415]范围,肝肾阴虚证型系数处于(0.353,0.607]范围内,TNM分期诊断为H4的可能性为87.5%,而这种情况发生的可能性为7.53%。
3) B 2 、 F 4 ⇒ H 4 B2、F4 \Rightarrow H4 B2F4H4 支持度达到6.24%,置信度达到79.45%,说明热毒蕴结证型系数处于(0.15,0.296]范围,肝肾阴虚证型系数处于(0.353,0.607]范围内,TNM分期诊断为H4的可能性为79.45%,而这种情况发生的可能性为6.24%。
综上,TNM分期为H4期的三阴乳腺癌患者证型主要为肝肾阴虚证、热毒蕴结证、肝气郁结证和冲任失调,H4期患者肝肾阴虚证和肝气郁结证的临床表现较为突出,其置信度最大达到87.96%、

3.模型应用
模型应用

  • 4
    点赞
  • 71
    收藏
    觉得还不错? 一键收藏
  • 7
    评论
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值