aihali的专栏

原创 逻辑斯蒂判别式（Logistic discrimination）

原创 麦肯锡评12大颠覆性技术

麦肯锡发布了一项报告，里面研究了技术对未来经济影响程度。研究的对象是一些正在取得飞速发展、具有宽泛影响，且对经济影响显著的技术。相反，那些过于遥远的，仅能影响 1、2 个行业的，以及 2025年之前不大可能实用化的技术（如混合动力），或者是虽然即将成熟但不够大众化的技术（如私人太空飞行）等则不在考虑范围内。 　　以下就是麦肯锡列举的颠覆性技术及其潜在的经济影响程度（含消费者盈余在内，即消费

原创 对话机器学习大神Yoshua Bengio（上）

Yoshua Bengio教授（个人主页）是机器学习大神之一，尤其是在深度学习这个领域。他连同Geoff Hinton老先生以及 Yann LeCun（燕乐存）教授，缔造了2006年开始的深度学习复兴。他的研究工作主要聚焦在高级机器学习方面，致力于用其解决人工智能问题。他是仅存的几个仍然全身心投入在学术界的深度学习教授之一，好多其他教授早已投身于工业界，加入了谷歌或Facebook公司。

原创 谷歌科学家、Hinton亲传弟子Ilya Sutskever的深度学习综述及实际建议

注：本文是Ilya Sutskever受邀给Yisong Yue博客写的文章。原文在Yisong Yue博客上：http://yyue.blogspot.com/2015/01/a-brief-overview-of-deep-learning.html 由于blogspot被墙，为方便读者，特转来墙内。A Brief Overview of Deep Learning

转载 几种监督式学习算法的比较

摘要：Kevin Markham为General Assembly讲授数据科学课程，在SlideRule指导学生学习数据科学，还是约翰·霍普金斯大学数据科学Coursera专项课程的社区教学助理，日前他撰文谈及了几种监督式学习算法的比较，值得一看。【编者按】本文的作者是计算机工程师Kevin Markham；热衷烹饪，痴迷戏剧，偶尔参加铁人三项运动；为 General Assembly

转载 微软亚洲研究院4人团队完成视觉识别里程碑式突破

一直以来，计算科学家一直在为建立世界上最精确的计算机视觉系统孜孜不倦地努力着，但取得进展的过程却一直如马拉松竞赛般漫长而艰辛。近期，微软亚洲研究院实现的突破让他们成为了这场竞赛的最新领跑者。该团队所开发的基于深度卷积神经网络（CNN）的计算机视觉系统，在ImageNet1000挑战中首次超越了人类进行对象识别分类的能力。该研究团队是微软亚洲研究院视觉计算组，他们开发了一个计算机视觉系统，该

原创 Useful Blog

数据库与数据仓库http://rdc.taobao.com/blog/dw/http://rdc.taobao.com/blog/dba/支付宝冯大辉  http://www.dbanotes.nethttp://blue-prince.spaces.live.com/http://WWW.ALIDBA.NET/陈吉平http://www.orawh

转载 机器学习期刊会议

机器学习的最新研究成果会发表在不同领域的会议和期刊上。机器学习专门的期刊有Machine Learning（机器学习）和Journal of Machine Learning Research（机器学习研究）。以神经网络为主的期刊有Neural Computation（神经计算）、Neural Networks（神经网络）以及IEEE Transactions on Neural Networks

转载 机器学习的11个开源项目

机器学习是目前数据分析领域的一个热点内容，在平时的学习和生活中经常会用到各种各样的机器学习算法。实际上，基于Python、Java等的很多机器学习算法基本都被前人实现过很多次了。这些算法在网上可以找到很多，然而往往存在很多“脏”或者“乱”的开源代码。在这样的背景下， InfoWorld近日公布了机器学习领域11个最受欢迎的开源项目，这11个开源项目大多与垃圾邮件过滤、人脸识别、推荐引擎相关

转载 图论是理解大数据的关键吗？

作者：Cashcow星期三, 五月 28, 2014动态, 大数据暂无评论现在大数据成为一个热门话题， 然而无论是网页， 产品信息， 车辆的功能， 文本， 病例还是气象等数据， 对数据的理解的第一步就是要理解数据之间的关联。利用图论， 我们将能够进一步提高我们对数据的理解能力，同时构建和分析图论模型将使得我们能够自动获取答案。本文我们将以搜索引擎为例介绍图论

转载 机器学习常见算法分类汇总

机器学习无疑是当前数据分析领域的一个热点内容。很多人在平时的工作中都或多或少会用到机器学习的算法。这里IT经理网为您总结一下常见的机器学习算法，以供您在工作和学习中参考。机器学习的算法很多。很多时候困惑人们都是，很多算法是一类算法，而有些算法又是从其他算法中延伸出来的。这里，我们从两个方面来给大家介绍，第一个方面是学习的方式，第二个方面是算法的类似性。学习方式根据数据类型的

原创 矩阵知识点-求导

这几天由于用到矩阵求导相关的知识，但是自己没有学过矩阵论(研究生选课的时候，导师没有让选)，于是百度了下，觉得完整的相关资料不多，还好发现了下面的这篇博客，给我了很大的帮助！ 仔细分析了下博客中的内容，其实矩阵求导也是挺好理解的(估计是我有较好的MATLAB使用基础吧)，下面看帖吧，哈哈！！ 矩阵求导 属于 矩阵计算，应该查找 Matrix Calculus 的文献

原创 How to Learn a Machine Learning Algorithm by Jason Brownlee on January 11, 2014 in Uncategorized

The question of how to learn a machine learning algorithm has come up a few times on the email list. In this post I’ll share with you the strategy I have been using for years to learn and build up a

转载 成为数据科学家并不难

几个菜鸟程序员在Coursera上免费注册学习了几天“机器学习”课程后，赢下了Kaggle预测模型建模大赛。企业界在IT业制造的大数据人才恐慌（麦肯锡是始作俑者）中纷纷提高了对大数据和高级分析人才的期待和要求，数据科学家也一夜之间成为最性感的职业，其光环直追体育明星。数据科学家被描绘成神一般的人物，他们通晓数学、计算、社会学、物理学等各学科知识，同时又洞察世事，深谙企业运作之道，存世数量堪

原创 泛化能力

转载 广义拉格朗日函数的理解

为了求如下约束最优问题：引入广义拉格朗日函数：先需要证明：网上有的博文对（4）式的证明不容易看懂，我证明如下：首先将  记作函数。1）如果，由于可以取任意大，因此这时函数不可能取得最小值。因此函数只有在时才可能取得最小值。2）如果， =，因此（4）式两边等价。

转载 详解协方差与协方差矩阵

协方差的定义 对于一般的分布，直接代入E(X)之类的就可以计算出来了，但真给你一个具体数值的分布，要计算协方差矩阵，根据这个公式来计算，还真不容易反应过来。网上值得参考的资料也不多，这里用一个例子说明协方差矩阵是怎么计算出来的吧。记住，X、Y是一个列向量，它表示了每种情况下每个样本可能出现的数。比如给定则X表示x轴可能出现的数，Y表示y轴可能出现的。注意这里是关键，给定了4

转载 将Matlab中的矩阵写入txt文件的方法

文件操作是一种重要的输入输出方式，即从数据文件读取数据或将结果写入数据文件。MATLAB提供了一系列低层输入输出函数，专门用于文件操作。1、文件的打开与关闭1）打开文件在读写文件之前，必须先用fopen函数打开或创建文件，并指定对该文件进行的操作方式。fopen函数的调用格式为：fid=fopen（文件名，‘打开方式’）说明：其中fid用于存储文件句柄值，如果返回的句柄值大于0

转载 KL Divergence（KL散度）

原创 Matlab中画二维散点图

1、要点plot函数：1.1 plot(X,Y) plots vector Y versus vector X. If X or Y is a matrix, then the vector is plotted versus the rows or columns of the matrix,whichever line up.  If X is a scalar and Y is

原创 Hadoop相关资料-from 董飞

PaperStarfish: A Self-tuning System for Big Data AnalyticsMapReduce OnlineHive --- Stanford UniversityLecturecloudera lecturesResearch ProjectStarfish --- Duke UniversityHadoop Onl

原创 众包完成的 Nature 大作：世界上作者最多的文章

今天在又看到了好久之前看过的一篇文章，现在细细体会有点群体智慧的味道，故与大家分享。给你讲述一个有57000位作者的Nature大作的故事。「如果无数多的猴子在无数多的打字机上随机地乱敲，并持续无限久的时间，那么在某个时候，必然有只猴子会打出莎士比亚的全部著作。」20 世纪初，法国数学家 Emile Borel 为了更好地阐述「无穷」的概

原创 机器学习处理图片数据并识别图片情感

罗切斯特大学的研究者，通过训练使计算机能够消化图片数据，并识别图片背后隐藏的情感。他们认为这是图片分类问题。通过抓取海量数据，让计算机根据算法定义图片可能表达的情绪标签，之后依靠人类群体智慧帮助计算机识别其中最好的标签，最终，计算机逐步学习如果定义照片的情绪。Log on to Twitter, Facebook or other social media and you will f

原创 蚂蚁的群体智慧

蚂蚁的群体智慧彼得•米勒我曾以为蚂蚁做什么事都心中有数。那些列队爬过我厨房台面的小家伙们看上去是那么信心十足，于是我猜想它们早就订好了计划，知道要去哪儿，要做什么。不然的话，蚂蚁又怎能做出组织行军路线、建造复杂蚁穴、发动大规模突袭等奇妙的行为呢?结果我错了。蚂蚁毕竟不是聪明的小工程师、建筑师或武士——至少单个蚂蚁不是。当需要决定下一步怎么做时，大多数蚂蚁都毫无头绪。