【会议笔记】第十四届中文信息学会暑期学校《前沿技术讲习班》笔记一

第十三期 问答与对话——理论与基础

0712 面向自然语言处理的深度学习基础

会议内容：深度学习基础理论与实践
主讲人：邱锡鹏（复旦大学）颜航（复旦大学）
主讲内容：主要介绍深度学习的基础知识以及卷积神经网络、循环神经网络、注意力机制等型，并且介绍了开源工具fastNLP，利用fastNLP来讲述如何实现具体的自然语言模型。

印象较深的内容：

• 多分类问题：处理多分类问题时有三种方法，但前两种“一对其余”“一对一”的方式都有模糊区域（问号部分），而argmax方式可以改进这个问题，并且需要C个判别函数。
  
• 如何处理非线性可分的问题：增加非线性特征，例如x平方，x立方，x开根号等等
• 神经网络天然不是深度学习，但深度学习天然是神经网络
• tensorflow中的计算图示例，tensor的含义：每一个节点的输入都表示一个tensor