深度学习(一) 我们一起开始深度学习吧

深度学习(一) 我们一起开始深度学习吧

深度学习(机器学习的一个分支)系列博客是根据李宏毅2020最新的深度学习课程学习整理的笔记。为什么决定整理笔记,开始将学习的内容写下来呢?

  • 当我们开始写作,开始以文字的方式记录自己学习的内容,整理成知识框架,也是开始不断的“刻意练习”, 不断提高写作水平和写作质量的过程,也就会不断提高影响力。

  • 无论我们学了多少知识,有了多少思考,若我们不写,不说,基本等于将知识废除了一半。所以呢? 写,仅仅是为了自己。也是为了知识共享。

参考资料: http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML20.html

img

什么是机器学习?自动寻找函数模型。

深度学习是机器学习的一个子集。因此我们从机器学习的框架开始讨论。

有人说什么是机器学习呢?什么是深度学习呢? 单看名称就很高大上,百度百科搜索结果也是一脸懵。 其实呢, 机器学习就是自动找一个函数模型。

  • 语音识别(Seepch Recognition): 当你微信聊天时,疲倦于打字太过麻烦。 微信提供了这样的功能: 按下说话, 转成文字。 f(语音) = 文字

在这里插入图片描述

  • 图形识别(Image Recognition):

    • 当你走在路边看到一朵美丽的花朵摇曳在微风中很是喜欢, 但苦于不知道这是植物/花名称? 微信小程序植物识别是一款基于人工智能的快速精准识别植物的识花APP。f(植物图片) = “植物”
    • 当你选择邮递快递时需要填写收件人和发件人, 每次都需要手动填写是不是很崩溃, 现在中通、顺丰等快递公司可以通过拍摄图片自动识别发件人名称、地址、联系电话等。f(快递信息图片) = “图片的文字”

在这里插入图片描述

  • 围棋(Playing Go): AlphaGo是第一个击败人类职业围棋选手, 下围棋这种机器学习也是找自动的找函数的模型么? 是的。f(围棋当前棋局) = “Next Move”

在这里插入图片描述

  • 会话系统(Dialogue System)

    • 小度是百度旗下人工智能助手。内置对话式人工智能系统,让用户以自然语言对话的交互方式,实现影音娱乐、信息查询、生活服务、出行路况等800多项功能的操作。f(“你的语音”) = “小度对话系统回应语音”
    • 图灵机器可为产品提供自然语言对话、深度问答等人工智能技术服务, 比如微信+图灵机器人结合制作微信聊天人。 f(你的文字) = “图灵机器人回应你的文字”

在这里插入图片描述

机器学习要找什么样的函数?

根据机器学习要找什么样的函数,我们可以对机器学习进行分类。

回归函数(Regression)

  • 函数的输出是是一个数值(The output of the function is a scalar)

在这里插入图片描述

分类函数(Classification)

  • 函数输出的值是分类:二分类、多分类。(The output of the function is a Binary Classification or Mutli-class Classification )

在这里插入图片描述

生成函数(Generation)

  • 函数输出的值结构复杂: 图片、文字。
    在这里插入图片描述

怎么告诉机器你要找什么样的函数?

如何将你的数据告诉机器? 告诉机器哪些信息? 根据这些可以将机器学习分为下面三种:

  • 有监督学习从有标记的训练数据(有x有y)中推导出预测函数。一句话:给定数据(x),预测标签(y)

    比如: 有监督学习是先读几篇中英文对照的文章,从而学会阅读纯英语文章。

  • 无监督学习从无标记的训练数据(有x无y)中推断结论。一句话:给定数据(x),寻找隐藏的结构

    比如: 无监督学习是直接阅读大量纯英文文章,当数量达到一定程度,虽然不能完全理解文章,但也会发现一些词组的固定搭配,句式等等。

  • 强化学习关注的是软件如何在一个环境中采取行动以便最大化某种累积的回报。一句话:给定数据,学习如何选择一系列行动,以最大化长期收益

在这里插入图片描述

Alpha Go是通过监督学习和增强学习实现的。(Alpha Go is supervised learning + reinforcement learning.)

机器怎样找出你想要的函数?

  • 限制函数寻找范围

    • 线性模型(Linear): Regression、Classification
    • 网络结构(Network Architecture): RNN、CNN
  • 如何寻找函数

    • 自己编写代码实现算法细节
    • 使用机器学习/深度学习框架(PyTorch)

前研研究

可解释的人工智能(Explainable AI)

可解释的人工智能算法(XAI)不仅提供输出,还提供如何得出结论。努力确保人类能够理解这些机器做出的每一个决定背后的推理和逻辑,并利用这些知识来开发更好的机器。eg: 会计领域、审计领域.

在这里插入图片描述

对抗攻击(Adversarial Attack)

深度神经网络一个有趣的软肋:对图像做一个微小的扰动,尽管人类的视觉无法区分,但是深度学习分类器以高置信度做出了一个错误的判断。 对抗攻击的攻击和防御就是在噪音(错误数据、不合法信息、图片添加干扰点等)存在的情况下如何正确的识别/预测。

在这里插入图片描述

网络压缩(Network Compression)

网络压缩就是将10G甚至更大的数据经过一系列处理压缩成10M的过程。减少数据的存储和计算成本在机器学习中至关重要,特别是对于一些实时应用,如在线学习和增量学习。

在这里插入图片描述

异常检测(Anomaly Dtection)

异常检测就是发现与大部分对象不同的对象,其实就是发现离群点。

在这里插入图片描述

迁移学习(Transfer Learning)

迁移学习就是把已经训练好的模型、参数,迁移至另外的一个新模型上使得我们不需要从零开始重新训练一个新model。

在这里插入图片描述

元学习(Meta Learning)

传统的机器算法只是希望机器学习到一个函数[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-YG8ZL2wA-1587557380913)(https://math.jianshu.com/math?formula=f)],通过这个函数[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-frJBO4tW-1587557380915)(https://math.jianshu.com/math?formula=f)],来判断这个图片属于究竟属于哪个类别,一条微博的评论是正面还是负面。而元学习就是让机器学会学习(Learn to learn)。

在这里插入图片描述

终身学习(Life Long Learning)

终身机器学习(LML)是连续不断的学习过程,在这个过程中,学习者已经完成了N个学习任务,T1、T2…TN。当面对(N+1)的任务TN+1和它的数据DN+1时,学习者可以利用其知识库中的先验知识来帮助学习TN+1。

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值