李宏毅LLM——机器学习基础知识

本文介绍了机器学习的基本概念,区分了回归和分类问题,并详细阐述了生成式学习(如ChatGPT)的步骤,包括确定应用需求、设定函数候选集、选择评价标准(如Supervised和Semi-supervisedLearning)、优化算法及超参数调整。
摘要由CSDN通过智能技术生成

机器学习基本概念

机器学习 = 机器自动找出一种函数
根据函数的不同,可以分为回归问题(输出数值)和分类问题(输出类别,选择题)

生成式学习 Structured Learning

生成有结构的物件,如图片、文句

ChatGPT是生成式学习,只不过是将生成式学习拆成多个分类问题来简化
在这里插入图片描述
找出函式的三大步骤
前置作业:决定需要什么样的函数,取决于需要做的应用
在这里插入图片描述

  • 设定范围:决定候选函式的集合:CNN/RNN/Transformer
    在这里插入图片描述

  • 设定标准:定出评价函式好坏的标准,Supervised Learning:资料标注,计算Loss function。Semi-supervised Learning :有正确答案的计算差距,没有答案的计算长得像的样本的差距
    训练:找函式的过程
    测试:Loss低的函式,测试不一定好
    解决:在Loss上做额外考量,如Regularization
    在这里插入图片描述

  • 达成目标:找出最好的函式,代入Loss function中 ,让Loss最小
    需要设定好优化算法中的超参数
    在这里插入图片描述

总结

在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值