[課程筆記] 機器學習基石 - W3.Type of Learning

已于 2022-09-15 09:37:00 修改
阅读量894 收藏
点赞数
分类专栏： 機器學習基石 文章标签： 机器学习
于 2022-03-25 23:10:54 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JYLin_master/article/details/123728078
版权

目录

Video1: Learning with Different Output Space

二元分类问题

多分类问题

回归问题

Structured Learning

Video2: Learning with Different Data Label

Supervised Learning

Unsupervised Learning

Semi-supervised Learning

Reinforecement Learning

总结

Video3: Larning with Different Protocol

Batch Learing 

Online Learning

Active Learning 

Video4: Learning with Different Input Space

Concrete Feature

Raw Features

Abstract Features

参考

Video1: Learning with Different Output Space

二元分类问题

  • 信用卡发卡问题是二元分类问题
  • 输出 yes/no

多分类问题

  • 输出的值域是多种类别

回归问题

  • 输出是连续的数值

Structured Learning

  • 输入与输出，都是带有结构、模式的数据
  • 以词性标注任务为例: 
    • 输入: 单字序列
    • 输出: 词性序列
    • 底层是复杂的多分类问题
    • 输入与输出都是有多种组合变化的可能

Video2: Learning with Different Data Label

Supervised Learning

  • 知道数据的正确答案
    •  E.g. 硬币多分类 (给定硬币特性数据、类别)

Unsupervised Learning

  • 不知道数据的正确答案
    • E.g. 硬币多分类 (给定硬币特性数据、但没有类别数据)
  • 其他非监督学习的例子:
    • Density estimation: 非监督的回归问题
    • Outpier detection: 非监督的二元分类

Semi-supervised Learning

  • 数据中，部份知道正确答案
  • 因为具标据的数据不容易取得，通常需要大量人力、时间进行标注
  • 半监督学习能够利用少量标注数据与大量的未标注数据，建立模型

Reinforecement Learning

  • 有些情况下，正确的答案并不明确，只能给模型隐性的答案
    • 训练宠物坐下 ... 何谓正确的坐下?
    • 训练打牌 ... 何谓正确的出牌决策?
  • 透过奖励与惩罚来辅助模型学习

总结

Video3: Larning with Different Protocol

Batch Learing 

  • 从一批数据得到模型，没有更新机制

Online Learning

  • 随着新的数据进入，模型能够不断更新

Active Learning 

  • protocol: 可以视为是学习的哲学
    • Batch: 填鸭式教育
    • Online: 被动的持续学习
    • Active: 主动提问
  • 主动学习能让电脑主动提问，提升学习效率，降低所需的标注数据量

Video4: Learning with Different Input Space

Concrete Feature

  • 回顾信用卡发卡问题，其输入是比较具体、并且与输出有相关的特征
  • 这类特征被称为 Concrete Feature
    • 通常是经过处理的
    • 特征本身带有人类对该领域的知识
    • 在ML中是相对容易使用的输入 

Raw Features

  • 在手写文字识别中，有两种特征可以作为输入:
    • Concrete features:  文字的对称性、文字的密度
    • Raw features: 16 x 16 的像素强度
  • Raw features 通常只具备简单的物理意义，因此在 ML 中较难被使用
  • 许多问题中，我们搜集到的数据都是 raw features，像是:
    • 语音识别: 声音讯号
    • 图像识别: 图像讯号
  • 通常会做进一步处理，将 raw features 转换成更有意义的 concrete features
    • 透过人工进一步处理: 特征工程
    • 透过机器进一步处理: 深度学习

Abstract Features

  • 在用户的音乐评分预测问题中，只有抽象数据，这类数据并不具物理意义
  • 在 ML 中，这种特征是最难被使用的
  • 一种做法是，找到用来描述特定用户、音乐的特征，并根据这些特征来预测
  • 这些特征可以透过特征工程、模型自动学习来进一步取得

参考

  1. 機器學習基石上 (Machine Learning Foundations)---Mathematical Foundations | Coursera

傷心太平洋
关注
专栏目录
NTU-Coursera机器学习:Types of Learning
松子茶的专栏
02-06 2540
本节总体思路：按照输出空间类型分Y,数据标记类型分yn,不同目标函数类型分f和不同的输入空间类型分X .其中按照输出空间类型Y，可以分为二元分类，多元分类，回归分析以及结构化学习等，这个好理解，离散的是分类，连续的是回归，到是结构化的学习接触的相对较少，而相对二元分类，当然有多元分类问题。例如，美分硬币共有四种（1、5、10、25美分），输入数据为（尺寸，重量），输出集合{η}={1美分，5美分，10美分，25美分}。这是一个4分类问题。一般的讲，多元分类问题的输出可表示为： {η}={ 1, 2，···，
机器学习笔记 - Java学习框架Deeplearning4j初体验
学以致用 知行合一
03-30 5654
Deeplearning4j 是一套用于在JVM上运行深度学习的工具。它是唯一一个允许您从 java 训练模型，同时通过我们的 cpython 绑定、模型导入支持以及其他运行时（如 tensorflow-java 和 onnxruntime）的互操作的混合执行与 python 生态系统互操作的框架。 用例包括导入和重新训练模型（Pytorch、Tensorflow、Keras）模型以及在 JVM 微服务环境、移动设备、物联网和 Apache Spark 中部署。
Course3 Types of Learning
qq_36143103的博客
10-01 343
一、Learning with Different Output Space Y 1、两元分类 二元分类是机器学习领域非常核心和基本的问题。二元分类有线性模型 也有非线性模型，根据实际问题情况，选择不同的模型。 2、多元分类 将1、5、10、25硬币分类 3、回归 二元分类和多元分类都属于分类问题，它们的输出都是离散值。二对于另外一种情 况，比如训练模型，预测房屋价格、股票收益多少等，这类问题的输出y=R，即范围 在整个实数空间，是连续的。这类问题，我们把它叫做回归（Regressi..
机器学习基石——第三节课（笔记）
qq_26269815的博客
06-28 217
Learning with Different Output Space Y二元分类 1 -1多元分类 输出多余两个回归分析 输出是个实数范围内的值结构学习：结构化学习的输出空间包含了某种结构在里面,它的一些解法通常是从多分类问题延伸而来的,比较复杂。learning with different data label yn监督学习 (核心)非监督学习<=>聚类、密度分析、outl...
林轩田《机器学习基石》（三）——Types of learning
weixin_43463276的博客
07-14 410
本节课将主要介绍一下机器学习有哪些种类，从4个方面进行分类。 按输出空间分类、按标签分类、按问题协议分类、按输入空间分类 注：分群=聚类 一、按输出空间分类 二分类问题 机器要不要发信用卡？即，机器学习如何做“是非题”。 输入：(顾客资料) 输出：(引用卡记录好坏) 资料： 多分类问题 我们要区分不同种类的硬币 输入：(硬币资料) 输出：(硬币种类) 资料： 其他多分类问题：手写数字识别、水果图像分类、垃圾邮件 回归问题 如果我们今天给了病人的状况，那么我们想知道病人多少天.
TensorFlow学习笔记（二十四）自制TFRecord数据集 读取、显示及代码详解
春华秋实
08-18 1万+
在跑通了官网的mnist和cifar10数据之后，笔者尝试着制作自己的数据集，并保存，读入，显示。 TensorFlow可以支持cifar10的数据格式， 也提供了标准的TFRecord 格式，而关于 tensorflow 读取数据， 官网提供了3中方法 1 Feeding： 在tensorflow程序运行的每一步， 用python代码在线提供数据 2 Reader ： 在一个计算图（tf.g
冰河的渗透实战笔记-冰河.pdf
05-18
冰河整理的全网首个开源的以实战案例为背景的渗透实战笔记，全书共442页，共计37万字（不计空格）。整本书的内容涵盖：Kali基础、渗透工具、木马制作、钓鱼链接生成、爆破密码、内存溢出攻击、web渗透、数据提权、...
吴恩达机器学习+deeplearning课程笔记----干货链接分享
热门推荐
luolan9611的博客
07-17 2万+
分享两个GitHub链接，今天看到的，超赞超赞不能更赞了，答应我一定要去看好吗~~~~不论是笔记还是github中分享的其它资源，课程视频链接，PPT下载，作业布置等都超棒。我要把这段安利用红色标出来！！！ （18.7.19 附一个访问coursera网站的方法https://blog.csdn.net/luolan9611/article/details/81096890） 吴恩达老...
台湾大学机器学习基石手写笔记
07-07
大家好，我是Mac Jiang,今天和搭建分享的是台湾大学机器学习基石（Machine Learning Foundations）的个人笔记。个人觉得这门课是一门非常好的机器学习入门课程，值得初学者学习！这份笔记是本人一笔一划手写，扫描后...
李宏毅2020机器学习课程笔记（一）- 分类与回归
⚡
04-25 1万+
包含李宏毅机器学习视频P1-P16的课程梗概
推荐系统（三）：CTR预估数据准备、分析并预处理raw_sample数据集、ad_feature数据集、user_profile数据集
汪雯琦的博客
03-15 2596
文章目录三 CTR预估数据准备3.1 分析并预处理raw_sample数据集3.2 分析并预处理ad_feature数据集3.3 分析并预处理user_profile数据集 三 CTR预估数据准备 3.1 分析并预处理raw_sample数据集 # 从HDFS中加载样本数据信息 df = spark.read.csv("hdfs://localhost:9000/data/raw_sample.c...
翻译：理解特征工程（1）－连续数值数据
星辰大海，脚踏实地
11-23 2240
理解特征工程Part1-连续数值数据，读英文原文，用中文记录一些关键点，让自己理解更深刻。 总述 典型的机器学习pipeline 端到端的机器学习pipeline如下 获取原始数据(raw data)并且在这些数据之上直接构建模型(models)是鲁莽的因为我们不会拿到想要的结果或者表现，并且算法也不足够只能来自动从原始数据中提取有意义的特征(features)。 这里主要关注的是上图中的dat...
林轩田机器学习基石笔记3 - Types of Learning
weixin_43527977的博客
02-18 293
Learn with Different Output Space Y 二元分类(binary classification)，只有两种可能性，一般用y={-1,+1}表示。是否发放信用卡就是典型的二元分类问题。 常见的二元分类问题： 多元分类问题 y={1,2,…,K} 回归问题 输出为y=R或者y=[lower,upper]∈R。(实数) 应用在： 结构化学习 输出空间有某一种特殊的结构在里面。y=structures 应用在： 机器学习按照输出空间划分，包括二元分类、多元分类、回归、结构化学习
模式识别学习笔记-第一章 机器学习的基本问题
KateCateCake的博客
01-16 579
1 机器学习的形式 这两个流程图有一些不同，ML机器学习算法一般用A表示。H是值假设空间、或假设集合，包含各种好的或者坏的假设，A的作用就是从H中挑选出最好的假设作为g，去逼近f。 x是条件、属性，y是结果 注：1.输入包括训练样本集和假设空间H 2. 机器学习模型也不仅仅是算法A，还包括假设空间H。 3. 要求得g来近似于未知函数f。 4. 给出了机器学习的
Google TensorFlow课程 编程笔记（10）———使用神经网络对手写数字进行分类
latioas的博客
08-28 754
  使用神经网络对手写数字进行分类 学习目标： 训练线性模型和神经网络，以对传统 MNIST 数据集中的手写数字进行分类 比较线性分类模型和神经网络分类模型的效果 可视化神经网络隐藏层的权重 我们的目标是将每个输入图片与正确的数字相对应。我们会创建一个包含几个隐藏层的神经网络，并在顶部放置一个归一化指数层，以选出最合适的类别。 第1步：设置：加载必要的库+加载数据+数据预处理 ...
Python开发， 恶意病毒扫描
weixin_34362790的博客
04-17 726
2019独角兽企业重金招聘Python工程师标准>>> ...
spark 特征选择、特征预处理:提取/转换/选择 缺失值 sparkMllib
weixin_33979203的博客
06-06 298
数据预处理与特征工程 缺失值处理 缺失值处理通常有如下的方法： 对于unknown值数量较少的变量，包括job和marital，删除这些变量是缺失值(unknown)的行； 如果预计该变量对于学习模型效果影响不大，可以对unknown值赋众数，这里认为变量都对学习模型有较大影响，不采取此法； 可以使用数据完整的行作为训练集，以此来预测缺失值，变量housing，l...
机器学习系列----岭回归（Ridge Regression）简介及实现
最新发布
DK22151的博客
11-09 992
岭回归（Ridge Regression），也被称为Tikhonov正则化，是一种线性回归的变体。它通过在普通最小二乘法（OLS）回归中加入L2正则化项来解决多重共线性问题，从而提高模型的泛化能力和鲁棒性。岭回归的核心思想是通过惩罚模型的参数，使得它们保持较小的值，从而减少过拟合的风险。岭回归适用于当特征之间高度相关时（即多重共线性问题），普通的线性回归模型可能会变得不稳定，并且模型的系数可能会变得非常大。岭回归通过加上一个正则化项，约束了模型参数的大小，从而使得模型更加稳健。
机器学习—Softmax
yn3535_的博客
11-09 434
它以为y=2，以此类推，如果y=j，那么损失函数loss=-log aj ，aj的负对数是一条曲线，如果aj非常接近1，那么会在曲线的右边，而且损失会很小，但如果aj只有50%的机会，就是就大了一点，aj越小损失越大，因此尽可能使aj大，尽可能接近损失小，注意，在这个损失函数中，每一个训练示例只能接收一个值，所以你最终计算出一个aj的负对数，只对aj的值，在那个特定的训练例子中，y=1的实际值是多少。Softmax回归算法是Logistic回归的推广，它是一种针对多类分类上下文的。
机器学习基石课程笔记与代码解析
资源摘要信息:"台大林轩田-机器学习基石（课程笔记+作业代码）.zip" 机器学习基石课程笔记和作业代码是台大知名教授林轩田提供的教学资料，该课程涵盖了机器学习的基础理论和实践应用。从课程名称即可看出，它旨在...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值