机器学习(Machine Learning)与深度学习(Deep Learning)资料 之 相关论文和会议报告

以下内容摘选自：https://github.com/ty4z2008/Qix/blob/master/dl2.md

                          https://github.com/ty4z2008/Qix/blob/master/dl.md

·        《ICLR 2014论文集》

介绍:对深度学习和representationlearning最新进展有兴趣的同学可以了解一下

·        My deep learning reading list

介绍:主要是顺着Bengio的PAMIreview的文章找出来的。包括几本综述文章，将近100篇论文，各位山头们的Presentation。全部都可以在google上找到。

·        《2014年国际机器学习大会ICML2014 论文》

介绍：2014年国际机器学习大会（ICML）已经于6月21-26日在国家会议中心隆重举办。本次大会由微软亚洲研究院和清华大学联手主办，是这个有着30多年历史并享誉世界的机器学习领域的盛会首次来到中国，已成功吸引海内外1200多位学者的报名参与。干货很多，值得深入学习下

·        《Machine Learningfor Industry: A Case Study》

介绍：这篇文章主要是以Learningto Rank为例说明企业界机器学习的具体应用，RankNet对NDCG之类不敏感，加入NDCG因素后变成了LambdaRank，同样的思想从神经网络改为应用到Boosted Tree模型就成就了LambdaMART。Chirs Burges，微软的机器学习大神，Yahoo 2010 Learning to RankChallenge第一名得主，排序模型方面有RankNet，LambdaRank，LambdaMART，尤其以LambdaMART最为突出，代表论文为：
From RankNet to LambdaRank toLambdaMART: An Overview
此外，Burges还有很多有名的代表作，比如：A Tutorial on Support Vector Machinesfor Pattern Recognition

Some Notes on Applied Mathematics forMachine Learning

·        《机器学习经典论文/survey合集》

介绍：看题目你已经知道了是什么内容,没错。里面有很多经典的机器学习论文值得仔细与反复的阅读。

·        《Best Papers vs. Top Cited Papers in Computer Science》

介绍：从1996年开始在计算机科学的论文中被引用次数最多的论文

·        《EMNLP上两篇关于股票趋势的应用论文》

介绍：EMNLP上两篇关于stock trend 用到了deep model组织特征； Exploiting Social Relations and Sentiment for Stock Prediction用到了stock network。

·        《经典论文Leo Breiman：Statistical Modeling: The Two Cultures 》

介绍：Francis Bach合作的有关稀疏建模的新综述(书)：Sparse Modelingfor Image and Vision Processing，内容涉及Sparsity,Dictionary Learning, PCA, Matrix Factorization等理论，以及在图像和视觉上的应用，而且第一部分关于Why does the l1-norm induce sparsity的解释也很不错。

·        《Reproducible Research in Computational Science》

介绍：这个里面有很多关于机器学习、信号处理、计算机视觉、深入学习、神经网络等领域的大量源代码（或可执行代码）及相关论文。科研写论文的好资源

·        《Andrej Karpathy的深度强化学习演示》

介绍：Andrej Karpathy的深度强化学习演示，论文在这里

·        《推荐系统经典论文文献及业界应用》

介绍：推荐系统经典论文文献

·        《使用RNN和ParagraphVector做情感分析》

介绍：这是T. Mikolov& Y. Bengio最新论文Ensemble of Generative andDiscriminative Techniques for Sentiment Analysis of Movie Reviews ，使用RNN和PV在情感分析效果不错，［项目代码］(https://github.com/mesnilgr/iclr15)公布在github(目前是空的)。这意味着Paragraph Vector终于揭开面纱了嘛。

·        《GoogLeNet深度学习模型的Caffe复现》

介绍:2014 ImageNet冠军GoogLeNet深度学习模型的Caffe复现模型,GoogleNet论文.

·        《Topic modeling 的经典论文》

介绍: Topic modeling 的经典论文,标注了关键点

·        《Move Evaluation in Go Using Deep Convolutional NeuralNetworks》

介绍: 多伦多大学与Google合作的新论文，深度学习也可以用来下围棋，据说能达到六段水平

·        《DEEPLEARNING.UNIVERSITY – AN ANNOTATED DEEP LEARNING BIBLIOGRAPHY》

介绍:DEEPLEARNING.UNIVERSITY的论文库已经收录了963篇经过分类的深度学习论文了，很多经典论文都已经收录

·        《AMiner - OpenScience Platform》

介绍: AMiner是一个学术搜索引擎，从学术网络中挖掘深度知识、面向科技大数据的挖掘。收集近4000万作者信息、8000万论文信息、1亿多引用关系、链接近8百万知识点；支持专家搜索、机构排名、科研成果评价、会议排名。

·        《Inverting a Steady-State》

介绍:WSDM2015最佳论文把马尔可夫链理论用在了图分析上面，比一般的propagation model更加深刻一些。通过全局的平稳分布去求解每个节点影响系数模型。假设合理（转移受到相邻的影响系数影响）。可以用来反求每个节点的影响系数

·        《Sum-Product Networks(SPN) 》

介绍:华盛顿大学Pedro Domingos团队的DNN，提供论文和实现代码.

·        《Google DeepMind publications》

介绍: DeepMind论文集锦

·        《ACL Anthology》

介绍:对自然语言处理技术或者机器翻译技术感兴趣的亲们，请在提出自己牛逼到无以伦比的idea（自动归纳翻译规律、自动理解语境、自动识别语义等等）之前，请通过谷歌学术简单搜一下，如果谷歌不可用，这个网址有这个领域几大顶会的论文列表,切不可断章取义,胡乱假设.

·        《Twitter SentimentDetection via Ensemble Classification Using Averaged Confidence Scores》

介绍:论文+代码:基于集成方法的Twitter情感分类,实现代码.

·        《International JointConference on Artificial Intelligence Accepted paper》

介绍:国际人工智能联合会议录取论文列表,大部分论文可使用Google找到.

·        《Machine LearningRepository @ Wash U》

介绍:华盛顿大学的Machine Learning Paper Repository.

·        《Cat PaperCollection》

介绍:喵星人相关论文集.

·        《苏州大学人类语言技术研究论文主页》

介绍:苏州大学人类语言技术研究相关论文.

·        《Advances in Extreme Learning Machines》

介绍:博士学位论文:ELM研究进展.

·        《Results for Microsoft COCO Image Captioning Challenge》

介绍:Codalab图像标注竞赛排行+各家论文,Reddit上flukeskywalker整理了各家技术相关论文.

·        《Recurrent NeuralNetwork Training with Dark Knowledge Transfer》

介绍:论文:通过潜在知识迁移训练RNN.

·        《NAACL 2015Proceedings on ACL Anthology》

介绍:NAACL 2015 论文papers.

·        《Neural Network & Text Mining》

介绍:关于(Deep) Neural Networks在 NLP 和 Text Mining 方面一些paper的总结

·        《Entanglement-Based Quantum Machine Learning》

介绍:应对大数据时代，量子机器学习的第一个实验 paper 下载

·        《Fast R-CNN》

介绍:This paperproposes Fast R-CNN, a clean and fast framework for object detection.

·        《Object detectionvia a multi-region & semantic segmentation-aware CNN model》

介绍:一篇关于CNN模型对象识别Paper.

·        《100 open source Big Data architecture papers for dataprofessionals》

介绍:读完这100篇论文 就能成大数据高手,国内翻译.

• 《Multimodal Deep Learning》

介绍:来自斯坦福大学的Multimodal Deep Learning papers.

• 《Learning to Hash Paper, Code and Dataset》

介绍:Learningto Hash Paper, Code and Dataset.

• 《Geoff Hinton》

介绍:杰弗里·埃弗里斯特·辛顿FRS是一位英国出生的计算机学家和心理学家，以其在神经网络方面的贡献闻名。辛顿是反向传播算法和对比散度算法的发明人之一，也是深度学习的积极推动者.通过他的主页可以发掘到很多Paper以及优秀学生的paper,此外推荐他的学生Yann Lecun主页

• 《Pedro Domingos》

介绍:PedroDomingos是华盛顿大学的教授,主要研究方向是机器学习与数据挖掘.在2015年的ACMwebinar会议,曾发表了关于盘点机器学习领域的五大流派主题演讲.他的个人主页拥有很多相关研究的paper以及他的教授课程.

• 《Recent Deep Learning papers in NLU and RL》

介绍:近期自然语言理解(NLU)/增强学习(RL)文献选集

• 《Kloud Strife DL papers of the year》

介绍:Kloud Strife总结了2017年阅读的论文，对抗网络学习、SGD（随机梯度下降）、模型设计与生成、强化学习

• 《KDD2015十年最佳论文》

介绍:Mining andSummarizing Customer Reviews ,Mining High-SpeedData Streams,Optimizing SearchEngines using Clickthrough Data.

• 《Training Recurrent Neural Networks》

介绍:博士论文:(Ilya Sutskever)RNN训练.

• 《Tutorial 4: Deep Learning for Speech Generation and Synthesis》

介绍:深度学习在语音合成最新进展有哪些？推荐MSRA的Frank Soong老师关于语音合成的深度学习方法的录像和幻灯片与以及谷歌的LSTM-RNN合成介绍,论文

• 《That’s So Annoying!!!: A Lexical and Frame-Semantic Embedding Based Data Augmentation Approach to Automatic Categorization of Annoying Behaviors using #petpeeve Tweets ∗》

介绍:这篇论文荣获EMNLP2015的最佳数据/资源奖优秀奖,标注的推特数据集

• 《Scheduled Sampling for Sequence Prediction with Recurrent Neural Networks》

介绍:谷歌研究院Samy Bengio等人最近写的RNN的Scheduled Sampling训练方法论文.

• 《2015年中国计算机学会（CCF）优秀博士学位论文》

介绍:2015年度CCF优秀博士学位论文奖论文列表.

• 《Statistical Language Models Based On Neural Networks》

介绍:博士论文:神经网络统计语言模型.

• 《Data Mining And Statistics: What's The Connection?》

介绍:经典论文:数据挖掘与统计学.

• 《Search Engines that Learn from Their Users》

介绍:这是一篇关于搜索引擎的博士论文,对现在普遍使用的搜索引擎google，bing等做了分析.对于做搜索类产品的很有技术参考价值

• 《Towards Bayesian Deep Learning: A Survey》

介绍:贝叶斯定理在深度学习方面的研究论文.

• 《What are some important areas of research in social computing right now?》

介绍:社交计算应用领域概览,里面有些经典论文推荐

• 《Unifying User-based and Item-based Collaborative Filtering Approaches by Similarity Fusion》

介绍:协同过滤经典论文.

• 《Collaborative Filtering Recommender Systems》

介绍:协同过滤在推荐系统应用.

• 《Content-Boosted Collaborative Filtering for Improved Recommendations》

介绍:协同过滤在内容推荐的研究.

• 《Item-based Collaborative Filtering Recommendation Algorithms》

介绍:协同过滤算法.

• 《In-Datacenter Performance Analysis of a Tensor Processing Unit》

介绍:谷歌发论文详解TPU

• 《Deep Learning for Music (DL4M)》

介绍:博士论文：深度神经网络知识表示与推理,附视频

• 《Feature Visualization》

介绍:利用神经网络增加对图像理解，对特征进行可视化。同时推荐《Visualizing andUnderstanding Convolutional Networks》。本文是Matthew D.Zeiler 和Rob Fergus于（纽约大学）13年撰写的论文，主要通过Deconvnet（反卷积）来可视化卷积网络，来理解卷积网络，并调整卷积网络；本文通过Deconvnet技术，可视化Alex-net，并指出了Alex-net的一些不足，最后修改网络结构，使得分类结果提升。中文摘要翻译 @layumi

• 《A Nearly-Linear Time Framework for Graph-Structured Sparsity》

介绍:来自麻省理工的结构化稀疏论文.

• 《Optimal and Adaptive Algorithms for Online Boosting》

介绍:来自雅虎的机器学习小组关于在线Boosting的论文 .

• 《A Fast and Accurate Dependency Parser using Neural Networks》

介绍:来自Stanford，用神经网络实现快速准确的依存关系解析器

• 《TThe Probabilistic Relevance Framework: BM25 and Beyond》

介绍: 信息检索排序模型BM25(Besting Matching)。1）从经典概率模型演变而来 2）捕捉了向量空间模型中三个影响索引项权重的因子：IDF逆文档频率；TF索引项频率；文档长度归一化。3）并且含有集成学习的思想：组合了BM11和BM15两个模型。4）作者是BM25的提出者和Okapi实现者Robertson.

• 《Using Structured Events to Predict Stock Price Movement: An Empirical Investigation》

介绍:用结构化模型来预测实时股票行情.

• 《Structured Learning for Taxonomy Induction with Belief Propagation》

介绍:用大型语料库学习概念的层次关系，如鸟是鹦鹉的上级，鹦鹉是虎皮鹦鹉的上级。创新性在于模型构造，用因子图刻画概念之间依存关系，因引入兄弟关系，图有环，所以用有环扩散（loopy propagation）迭代计算边际概率（marginal probability）.

• 《An Introduction to Random Indexing》

介绍:随机索引RI词空间模型专题.

• 《Maxout Networks》

介绍:Maxout网络剖析

 

 

-------------------------------------------------------------------------------------------------------------------------下面部分是会议或论文集---------------------------------

-------------------------------------------------------------------------------------------

• 《CVPR 2015 paper》

介绍:2015年国际计算机视觉与模式识别会议paper.

• 《NIPS 2015 Deep Learning Symposium Part I》

介绍:NIPS2015会议总结第一部分,第二部分.

• 《ICLR 2015会议的arXiv稿件合集》

介绍:在这里你可以看到最近深度学习有什么新动向。

• 《Spark summit east 2015 agenda》

介绍:2015年 Spark summit会议资料.

• 《Proceedings of The 32nd International Conference on Machine Learning》

介绍:ICML2015论文集,优化4个+稀疏优化1个；强化学习4个，深度学习3个+深度学习计算1个；贝叶斯非参、高斯过程和学习理论3个；还有计算广告和社会选择.ICML2015 Sessions.

• 《ICLR 2015》

介绍:2015年ICLR会议视频与讲义.

• 《ICLR 2016 Accepted Papers》

介绍:深度学习和机器学习重要会议ICLR 2016录取文章

• 《Advances in Neural Information Processing Systems》

介绍:NIPS领域的会议paper集锦

• 《conference-iclr-2016 Papers and Code》

介绍:机器学习会议ICLR 2016 论文的代码集合

• 《Proceedings of the 21st International Conference on Intelligent User Interfaces》

介绍:ACM IUI'16论文集Conference Navigator- Proceedings

• 《Multimedia Laboratory Homepage》

介绍:香港中文大学深度学习研究主页,此外研究小组对2013年deep learning 的最新进展和相关论文做了整理,其中useful links的内容很受益

• 《Proceedings of the Eleventh International Conference on Web and Social Medias》

介绍:2017年ICWSM会议论文合集，业内对它的评价是:"算是最顶级也是最早的有关社会计算的会议"。里面的论文大部分是研究社交网络的，例如twitter，emoji，游戏。对于社交媒体来说内容还是挺前沿的。如果你是做社会计算的还是可以看看。毕竟是行业内数一数二的会议。对了，只要是你知道名字的有名社交媒体都有投稿.[陌陌不算]