UFLDL_Tutorial 笔记（deep learning绝佳的入门资料 ）

最新推荐文章于 2024-06-22 00:51:48 发布
最新推荐文章于 2024-06-22 00:51:48 发布
阅读量1.6w 收藏 39
点赞数 6
分类专栏： 机器学习 文章标签： 机器学习 ufldl
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dinosoft/article/details/50103503
版权
本文是一篇关于UFLDL教程的学习笔记，适合深度学习初学者。作者分享了在使用Octave和Matlab进行实践时遇到的问题及解决技巧，包括Sparse Autoencoder、PCA、Softmax Regression等练习。文章强调动手实践和调试代码的重要性，并指出在资源有限的情况下，选择合适的工具和调整数据集大小对于训练效果的影响。
摘要由CSDN通过智能技术生成

推荐一个deep learning绝佳的入门资料
* UFLDL(Unsupervised Feature Learning and Deep Learning)教程 http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B
故意把链接地址也写出来，方便看到来源，嘿嘿。

资料写得相当赞，还有中文版。看懂里面的idea是很快，exercise要写的话就得把公式细节搞搞清楚了，一定要做一下，加深理解。代码我是不会贴的，记录一些有的没的吧。特别是用octave遇到的坑，用matlab貌似是没有的，(哭

一开始用octave，因为coursera的那个课程就用octave。后来慢慢发现不对劲，UFLDL这个课程用的是matlab，而且要64bit的，不然可能内存不够。哎，发现免费的东西有时候确实不太行。

一些小技巧

  • return 命令中间退出。先调试前几个step的时候有用。
  • pause() 中间停住。任意键继续。不想继续就ctrl+c退出。哎，原来matlab有节的概念，就没这个问题，可以按小节运行。
  • fflush(stdout) 不要缓冲了,赶紧输出迭代进度。
  • close all 弹出好多figure，一个一个点太麻烦了。

Exercise:Sparse Autoencoder

直接跑发现有问题，挺烦的，原本公式就有点乱的，容易写错，还要整一些语言的问题。我的环境是win10 + octave 4.0，调用lbfgsC.c有问题，会出现lbfgsC undefined的问题，只能自己编译一下了。虽然把代码里面的lbfgsC改成lbfgs是能跑，但貌似太慢了。minFunc.m里面可以在fprintf迭代次数Iteration之后加上fflush(stdout);不然输出不及时，等得蛋疼，都不知是挂了还是怎样。

lbfgsC.mex*是供matlab/octave调用的c接口。minFunc的主页。下载下来后改改mexAll.m，然后就可以编译，没啥坑爹的依赖问题。然后把*.mex 文件拷贝到start

最低0.47元/天 解锁文章
Dinosoft
关注
  • 6
    点赞
  • 踩
  • 39
    收藏
    觉得还不错? 一键收藏
  • 8
    评论
专栏目录
deeplearning UFLDL Tutorial
05-02
This tutorial will teach you the main ideas of Unsupervised Feature Learning and Deep Learning. By working through it, you will also get to implement several feature learning/deep learning algorithms, get to see them work for yourself, and learn how to apply/adapt these ideas to new problems. 深度学习资料，翻译版，值得一看
annotated_deep_learning_paper_implementations::brain: 深度学习论文的实现教程，附有并排注释； 包括转换器（原始、xl、开关、反馈、vit）、优化器（adam、radam、adabelief）、gans（dcgan、cyclegan、stylegan2）、强化学习（ppo、dqn）、capsnet、蒸馏等
08-03
将它们呈现为并排格式的笔记。 我们相信这些将帮助您更好地理解这些算法。 我们几乎每周都在积极维护这个 repo 并添加新的实现。 更新。 模块 :sparkles: GLU 变体 kNN-LM：通过记忆进行泛化 反馈变压器 开关...
UFLDL 教程学习笔记（一）神经网络
weixin_30887919的博客
09-03 276
UFLDL（Unsupervised Feature Learning and Deep Learning）Tutorial 是由 Stanford 大学的 Andrew Ng 教授及其团队编写的一套教程，内容深入浅出，有很强的实用性，学习起来，让人有种酣畅淋漓的感觉。邓侃博士于今年 2 月 20 日起，在新浪微博上召集志愿者对该教程进行翻译，并于 4 月 8 日全部完成，非常感谢所有参与...
BP神经网络-入门到理解-长文讲述
最新发布
dbat
06-22 837
目录一、BP神经网络的仿生意义二、BP神经网络的结构三、BP神经网络的前馈与后馈3.1 BP神经网络的前馈3.2 什么是BP神经网络的后馈四、BP神经网络的训练4.1 BP神经网络归一化4.2 梯度下降算法求解BP神经网络五、用matlab工具箱实现BP神经网络5.1 问题阐述5.2 matlab实现BP神经网络代码BP神经网络的设计思路是什么呢？它借鉴于人脑的工作原理 在人的眼睛看到符号“5”的后，大脑将判别出它是5 BP正是要模仿这个行为，把这个行为过程简单拆分为： (1) 眼睛接受了输入
UFLDL Tutorial - Supervised Learning and Optimization
zhiliu的专栏
12-19 713
UFLDL Tutorial 原始代码可以从这里（GitHub repository）一次性下载。需要注意的是有些数据需要自己去下载，比如，在做PCA的练习时，需要下载MNIST数据集，可以到THE MNIST DATABASE下载。 文章目录@[toc]Supervised Learning and Optimization[Linear Regression](http://ufldl.st...
UFLDL Tutorial：
cbd_2012的博客
11-12 424
斯坦福大学，深度学习/机器学习/UFLDL Tutorial：        http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial
UFLDL Tutorial 学习笔记
卖火柴的小男孩
08-03 383
卷积层和池化层 卷积层的实现代码。其中使用的matlab中conv2： matlab中conv2 函数在计算二维卷积应用实例如下： 格式：C=conv2(A,B)         C=conv2(Hcol,Hrow,A)         C=conv2(...,'shape') 说明：对于 C=conv2(A,B) ，conv2 的算矩阵 A 和 B 的卷积，若 [Ma,Na]＝siz
deep-learning-basics:基于深度学习的可复制入门课程
05-24
该存储库包含有关深度学习基础知识的可复制课程。 每个主题都包含在单独的； 每个笔记本均包含有关其... 您可以使用以下命令创建新的： conda create --name deep-learning-basics python=3.8 这将创建一个名为deep-le
pytorch_deep_learning_models:深度学习模型的PyTorch实施
05-10
深度学习模型的PyTorch实施该存储库包含使用PyTorch实现几种深度学习模型的jupyter笔记本。 每个笔记本均包含有关每种型号的详细说明，希望可以简化所有步骤。 笔记本以Python 3.6和最新的PyTorch版本（当前为0.4.0...
斯坦福无监督学习和深度学习教程中文笔记，UFLDL中文笔记
11-16
这份笔记是作者在学习斯坦福大学的Unsupervised Feature Learning and Deep Learning Tutorial时的总结，包含了理论讲解、MATLAB代码示例以及一系列练习题，便于读者深入理解和实践。 在监督学习和优化部分，笔记...
Deep learningUFLDL Tutorial笔记tornadomeet1
08-08
【Deep Learning基础知识】\n\n深度学习是一种人工智能领域的关键技术，主要涉及神经网络的构建和训练。在开始深入学习之前，通常需要对机器学习的基础有良好的理解。Andrew Ng的UFLDL Tutorial是一个很好的起点，它...
ufldl_tutorial：斯坦福无监督特征学习和深度学习教程
02-04
斯坦福大学无监督特征学习和深度学习教程 教程网站： : 稀疏自动编码器 稀疏的自动编码器矢量化实现，对MNIST数据的学习/可视化功能 ：加载MNIST图像 ：加载样本图像以测试稀疏自动编码器 ：用于计算和检查成本和梯度的函数 ：显示可视化功能 ：稀疏的自动编码器成本和梯度函数 ：使用MNIST数据训练稀疏自动编码器并可视化学习的特征 预处理：PCA和美白 实施PCA，PCA增白和ZCA增白 Softmax回归 通过softmax回归（多元逻辑回归）对MNIST数字进行分类 回归成本和梯度函数 ：对MNIST数字进行分类 自学和无监督特征学习 通过自学式学习范例对MNIST数
深度学习（Deep Learning - UFLDL教程中文版）
11-22
UFLDL旧版教程pdf 网址：http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial
UFLDL Tutorial Exercise Answer 练习题答案—softmax篇
07-29
UFLDL Tutorial 深度学习教程的答案，softmax篇，里面有for循环需要优化，请高人指点
UFLDL Tutorial_Sparse Autoencoder
Kylin-Xu的专栏
12-12 2051
Neural Networks Consider a supervised learning problem where we have access to labeled training examples (x(i),y(i)). Neural networks give a way of defining a complex, non-linear form of hypo
Unsupervised Feature Learning and Deep Learning Tutorial - UFLDL Tutorial
既然选择了远方 便只顾风雨兼程 - 永强
11-17 356
Unsupervised Feature Learning and Deep Learning Tutorial - UFLDL Tutorial http://ufldl.stanford.edu/tutorial/ Welcome to the Deep Learning Tutorial! Description: This tutorial will teach you the main ideas of Unsupervised Feature Learning and Deep Learning
UFLDL Tutorial-Softmax Regression
sinat_25882019的博客
03-18 369
新手学习，如果哪里写错了，欢迎指正。 这门课程网站是http://ufldl.stanford.edu/tutorial/ 这一节写了很久，这里其实和逻辑回归很像，但是这里针对的是多个分类结果，例如0-9十个数字。这一节代码比较麻烦，debug了很久，感觉自己写的是一个半循环，半向量计算的代码。在网上看到有很多大神们利用了所给的提示函数，使得代码很简洁。但由于自己matlab使用得不熟，所以
UFLDL Tutorial 笔记
qiusuoxiaozi的博客
04-02 496
关于反向传播误差的推导，可以参考下面这个博客，讲得更清楚。 其实一句话就可以讲清楚：多层复合函数的求导，足矣！ http://blog.sina.com.cn/s/blog_88d97475010164yn.html
abstract_tutorial
01-28
abstract_tutorial是一个关于如何写摘要（abstract）的教程。摘要是学术论文或其他研究性文章的一部分，通常位于文章开头，用来概括文章的主要内容和结论。在abstract_tutorial中，我们将学习如何撰写一个清晰、简洁...
评论 8
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值