机器学习实战代码第三章3-1注释

最新推荐文章于 2022-03-22 11:51:42 发布

付修磊

最新推荐文章于 2022-03-22 11:51:42 发布

阅读量699

点赞数 2

分类专栏：代码注释

本文链接：https://blog.csdn.net/qq_38669138/article/details/79153477

版权

代码注释专栏收录该内容

13 篇文章 2 订阅

订阅专栏

# -*- coding: cp936 -*-
from math import log


def createDataSet():
         dataSet=[[1,1,'yes'],
                  [1,1,'yes'],
                  [1,0,'no'],
                  [0,1,'no'],
                  [0,1,'no']]
         labels=['no surfacing','flippers']
         return dataSet,labels


def calShannonEnt(dataset):
         numEntries=len(dataset)#计算数据集中实例的总数
         labelCounts={}
         for featVec in dataSet:
                  currentLabel=featVec[-1]
                  #统计当前类别出现的次数，利用到字典的自动添加功能
                  if currentLabel not in labelCounts.keys():
                           labelCounts[currentLabel]=0
                  labelCounts[currentLabel]+=1
                  #能否替换为下面的这一行代码？yes,u can
                  #labelCounts[currentLabel]=labelCounts.get(currentLabel,0)+1
                  print labelCounts


         shannonEnt=0.0
         for key in labelCounts:
                  prob=float(labelCounts[key])/numEntries
                  shannonEnt-=prob*log(prob,2)

labelCounts是这样子的：

>>> import trees
>>> dataSet,labels=createDataSet

>>> calShannonEnt(dataSet)
{'yes': 1}
{'yes': 2}
{'yes': 2, 'no': 1}
{'yes': 2, 'no': 2}
{'yes': 2, 'no': 3}#labelCounts
0.9709505944546686#香农熵

机器学习实战代码 第三章3-1注释

机器学习实战代码第三章3-1注释