神经网络入门

• 机器学习简介
  • 无序数据转化为价值的方法
    • 从数据中抽取规律，并用来预测未来
  • 实现人工智能的方法
  • 应用举例
    • 分类问题
      • 图像识别
      • 垃圾邮件识别
    • 回归问题
      • 股价预测
      • 房价预测
    • 排序问题
      • 点击率预估
      • 推荐
    • 生成问题
      • 图像生成
      • 图像风格转换
      • 图像文字描述生成
  • 应用流程

    

  • 岗位职责
    • 数据处理（采集+去噪）
    • 模型训练（特征+模型）
    • 模型的评估和优化（MSE
    • 模型应用（A/B测试）
• 深度学习简介
  • 实现机器学习算法的技术
    • 优势
      • 在大数据时代
  • 算法集合
    • 卷积神经网络
    • 循环神经网络
      • 不定长数据
    • 自动编码器
    • 稀疏编码
    • 深度学习+强化学习=深度强化学习
  • 进展
    • 图像分类
    • 机器翻译
      • attention
        • 加权
    • 图像生成
      • 漫画上色
      • 生成字体
      • 图像超清化
    • AlphaGo
      • CNN
• 神经网络
  • 神经元
    • 最小结构 - 最小的神经网络

    • 

      • 扩展
        • b 视为特征值 x 的扩展
        • b 表示函数在坐标轴的分类线或坐标面的分类面
      • 三向量变四向量
    • 神经元-激活函数sigmoid-二分类逻辑斯蒂回归模型
      • 输出在0、1之间
      • 概率

        

    • 神经元-多输出
      • w从向量扩展为矩阵
      • 输出w*x则变成向量
    • 多输出神经元-soft Max-多分类逻辑斯蒂回归模型

      

    • 目标函数
      • 衡量对数据的拟合程度
  • 逻辑回归模型
    • 算一种简单的神经网络算法
    • 最赚钱
      • 谷歌、百度广告点击率预估
  • 神经网络训练
    • 调参
      • 使得| 真实值-预测值（激活函数的输出）|=Loss（目标函数的输出） 最小
      • 数据处于动态，最优参数也在变化
      • 不能直接由方程那样解得最优参数
    • 梯度下降算法（下山算法）
      • 找到每一步相对应的最快下山路径
      • 学习率的影响
        • 步长大 很可能直接跨过最小 Loss 的坑，或与最短下山路擦肩
• tensorflow 基础
  • Tensorflow 介绍
    • Google Brain 的第二代机器学习框架
    • 开源社区活跃
    • 可扩展性好
      • 在分布式搭建下支持度高
      • 将 tensorflow 轻松拓展到多台机器上
    • API 健全，对用户友好
      • DOS 越来越完善
  • 计算图模型
    • 命令式编程
      • 自己写求导函数
        • 反向传播的 code
    • 声明式编程

      

      • 多层
      • 层间相似
        • 可以定义通用函数，不用改变求导函数
      • 类似于函数
  • 多层神经网络的 Tensorflow 实战
    • 神经元的 Tensorflow 实现
      • Tensorflow 的环境搭建
    • 神经网络的 Tensorflow 实现
• 神经网络 tensorflow 入门