关键字全网搜索最新排名
【机器学习算法】:排名第一
【机器学习】:排名第二
【Python】:排名第三
【算法】:排名第四
PCA前言
众所周知,PCA 的主要目的是降维,同时也可以起到分类的作用。当数据维度很大的时候,如果相信大部分变量之间存在线性关系,那么我们就希望降低维数,用较少的变量来抓住大部分的信息。(一般来讲做PCA 之前要做normalization 使得变量中心为0,而且方差为1.)比较广泛应用于图像识别,文档处理,推荐系统等。
PCA应用举例
推荐系统
如果一个旅游网站里面有10000000 个注册用户,以及100 个注册酒店. 网站有用户通过本网站点击酒店页面的记录信息.A = [Aij ]10000000100,Aij 表示第i 个用户点击j 酒店的次数.
问题:
如何评价酒店之间的相似度?
给定一个酒店,请找出与它最相似的其他几个酒店?
如果要给酒店分类,有什么办法?
生成100000x100的用户-酒店行为数据
import pandas as pdimport numpy as np
#prepare data set, suppose there are 5 types of hotelsgeneratorNum=5hotelNum=100customerNum=100000generators = np.random.randint(5, size=(customerNum, generatorNum))hotelComp=np.random.random(size=(generatorNum, hotelNum)) - 0.5hotelRating = pd.DataFrame(generators.dot(hotelComp),index=['c%.6d'%i for i in range(100000)] ,columns = ['hotel_%.3d'%j for j in range(100)]).astype(int)def normalize(s): if s.std()>1e-6: return (s-s.mean())*s.std()**(-1) else: return (s-s.mean())
hotelRating数据如下所示。
hotelRating_norm = hotelRating.apply(normalize)hotelRating_norm_corr = hotelRating_norm.cov()hotelRating_norm_corr如下所示。
u,s,v = np.linalg.svd(hotelRating_norm_corr)
In [9]:
import matplotlib.pyplot as pltplt.plot(s,'o')plt.title("singular value spectrum")plt.show()
In [10]:
u_short = u[:,:5]v_short = v[:5,:]s_short = s[:5]hotelRating_norm_corr_rebuild = pd.DataFrame(u_short.dot(np.diag(s_short).dot(v_short)) ,index=hotelRating_norm_corr.index ,columns=hotelRating_norm_corr.keys())
In [11]:
#get the top componentstop_components = hotelRating_norm.dot(u_short).dot(np.diag(np.power(s_short,-0.5)))
In [12]:
#classfication of each hotelhotel_ind = 30rating = hotelRating_norm.loc[:,'hotel_%.3d'%hotel_ind]print "classification of the %dth hotel"%hotel_indtop_components.T.dot(rating)/customerNum
classification of the 30th hotel
0 0.1361381 0.1795862 -0.0713473 -0.3844754 0.647324
投稿、商业合作
请发邮件到:357062955@qq.com
今年 7 月 7 日至 9 日的深圳,将迎来国内人工智能与机器人领域最重量级的行业盛会——CCF-GAIR 2017。这届由 CCF 主办与香港中文大学(深圳)举办的千人盛会将邀请全球范围内最优秀的学术专家、最顶尖的企业领袖,以及最炙手可热的明星创业团队与风险投资人莅临现场,为在场的观众们带来一场持续三天的饕餮盛宴。
【机器学习算法与Python学习】联合雷锋网,CCF-GAIR 2017 正在火热预售限量 200 张的六折门票,抢购这批门票的参会者可以享受与全价票同等的福利;此外还有 50 个 VIP 席位虚位以待,除了普通参会门票所享受的权益外,还为 VIP 嘉宾提供了贵宾区座位、VIP 午餐、「最佳 AI 雇主」及「新智造创新榜单」的两场晚宴入场券。可点击「阅读原文」了解更多信息。