深度学习&机器学习
文章平均质量分 60
人工智能、AI
落-雨
无为心 有为法
展开
-
李宏毅2020机器学习01 - Introduction
Introduction什么是机器学习?Learning Map (学习路线图)机器怎么知道你想要什么样的function?根据task去找function (model的选择)Regression (回归)Classification (分类)Generation (GAN)根据scenario(学习情境)去找Supervised Learning (监督学习)Unsupervised Learning (无监督学习)Semi-supervised Learning 半监督学习Reinforcement.原创 2020-08-05 21:49:33 · 299 阅读 · 0 评论 -
李宏毅2020机器学习02 - Regression
这节课主要是通过案例研究来理解Regression 课程回顾案例研究:预测宝可梦进化后的CP值(用于衡量战斗能力)确定学习情境(senario)、任务(task)、模型(model)senariotaskmodel明确具体步骤Step1:选择ModelStep2:Goodness of Function(评估Function的好坏)Step3:Pick the Best Function(Use Gradient Descent)Gradient Descent(梯度下降)其他问题及解决The resul原创 2020-08-06 21:47:00 · 234 阅读 · 1 评论 -
李宏毅2020机器学习03 - Where does the error come from?
为读者更好地掌握本文框架且方便查询,下面提供本文目录:课程回顾Bias and Variance of EstimatorModel SelectionValidation本文小结课程回顾上节课我们通过预测宝可梦CP值的案例了解了Regression,发现在改变Model和Regularization时erro都会变化。今天我们将了解到error从何而来,对overfitting和Regularization提供更多理论解释,并引入一个新的概念——validation。为读者更好地掌握本文框架且方便查原创 2020-08-09 21:59:51 · 112 阅读 · 0 评论 -
李宏毅2020机器学习04 - Classification
经过前面几节课的学习,我们了解了机器学习的基本概念、Regression、以及error的来源。而今天要处理的task是Classification。Why do we need to classify为什么我们需要解决分类问题?分类有什么意义?与我何干?两个好处界定、分析、处理问题提高效益举两个例子:快速记忆:「分类」本身就是一种「结构」,而人脑通过「结构」来理解和存储信息。我们知道,短时记忆的容量只有4个单位。那么,为什么有人能够同时记住更多的信息?能够思考更复杂、信息量更大的问题?原创 2020-08-13 21:54:41 · 296 阅读 · 0 评论 -
李宏毅2020机器学习05 - Logistic Regression
上节课提到在使用Generative model,且假设样本点服Gaussian distribution的情景下做Classification,后验概率P(C1|x) = σ(w⋅x+b)\sigma(w\cdot x+b)σ(w⋅x+b),此时我们需要先找到N1,N2,μ1,μ2,ΣN_{1}, N_{2}, \mu^{1}, \mu^{2}, \SigmaN1,N2,μ1,μ2,Σ,再去找参数w和b。但我们希望直接找到参数w和b,这节课将提供解答。Logistic Regression(逻辑回归原创 2020-08-14 21:13:54 · 237 阅读 · 0 评论 -
固定随机种子是否有必要?
为什么要固定随机种子固定随机性能解决这些问题:实验结果可复现、有效的对比实验为什么需要随机性?If you can’t get same results, it’s ok, it’s not your fault.In fact, it is often a feature, not a bug.In applied machine learning, we run a machine learning “algorithm” on a dataset to get a machine learn原创 2022-01-14 14:15:13 · 1679 阅读 · 0 评论 -
Pytorch、TensorFlow、Keras如何固定随机种子
1. 可能引入随机性的地方cuDNN中大量nondeterministic的算法GPU多线程多个num_workers带来的随机性来自复杂模型的随机性(比如一些版本的RNN和LSTM、Conv、Dropout、Dense、GRUCell层的初始化)一些第三方库(因此需要固定对应库RNG的种子)优化器(比如Adam)不同的开发环境,比如软件版本、CPU类型2. Pytorch如何固定随机种子在其他模块的导入或者其他代码之前,在文件的顶端部分通过调用seed_torch()函数固定随机种子原创 2022-01-14 14:05:57 · 10073 阅读 · 3 评论 -
Error occurred when finalizing GeneratorDataset iterator: Failed precondition: Python interpreter...
在使用TensorFlow 2.4.0的时候报错:Error occurred when finalizing GeneratorDataset iterator: Failed precondition: Python interpreter state is not initialized在网上查阅资料,大概有以下几种说法:TensorFlow 版本问题,2.3以上版本应该没这问题了tf.distribute + tf.keras产生的问题OOM了,将bs设置小一点几种据说可行的方法:原创 2021-11-16 20:48:57 · 8694 阅读 · 0 评论 -
cuda用不了、pycharm中某个环境的cuda用不了但jupyter notebook中可以
cuda用不了可能是因为:pytorch和cuda版本不对应nvidia驱动和cuda版本不对应另外,若pycharm中cuda用不了,而jupyter中可以,那很可能是因为你对应虚拟环境未安装jupyter,导致实际进的是base环境的jupyter(这点巨坑)。...原创 2021-03-29 18:05:42 · 2389 阅读 · 0 评论 -
argmax()、max()介绍
argmax()、max()的介绍在开始之前先明确“行轴”和“列轴”的方向如上图。对张量的操作import torcht = torch.tensor([[3,4,1,0],[12,1,2,3],[52,34,88,11]])t# 输出为:tensor([[ 3, 4, 1, 0], [12, 1, 2, 3], [52, 34, 88, 11]])-------------------------------------------------原创 2021-03-28 17:09:56 · 2088 阅读 · 0 评论 -
frp内网穿透(实现外网对内网服务器的访问)
为何需要随时随地访问服务器,而不受局域网的限制。准备工作1.自用机器A2.具有公网IP的机器B3.本地服务器C本文以阿里云作为公网IP机器介绍。(其他云服务器也可,最低配置就行。)frp内网穿透1.配置具有公网IP的机器B简单介绍下frp中几个文件:frpsfprs.inifrpcfrpc.ini前两个文件(s结尾代表server)分别是服务端程序和服务端配置文件,后两个文件(c结尾代表client)分别是客户端程序和客户端配置文件。来这里下载你适合你服务器系统的frp软件原创 2021-01-25 23:25:36 · 845 阅读 · 0 评论 -
启发式算法(heuristic)
WHY:1.有时候最优解是难以找到,甚至是无法找到的,此时我们希望去找一个逼近最优解的解。2.有时非最优解也可接受。WHAT:我认为启发式算法称为「探索式算法」or「经验学习法」更加合适。有一些不错的说法:启发式一般又称人工智能算法或全局优化算法。启发式算法是指具有自学习功能,可利用部分信息对计算产生推理的算法。…ps:这部分可见:什么是启发式算法(heuristic algorithm)朗文对heuristic的解释是:The use of experience and pract原创 2020-12-29 20:06:20 · 7162 阅读 · 0 评论 -
Numpy广播与matmul()
广播(Broadcast)是 numpy 对不同形状(shape)的数组进行数值计算的方式, 对数组的算术运算通常在相应的元素上进行。对于加减运算和矩阵乘法,广播法则略有不同?td广播在加减运算上的应用广播原则:如果两个数组的后缘维度(即:从末尾开始算起的维度)的轴长相符或其中一方的长度为1,则认为它们是广播兼容的,广播会在缺失和(或)长度为1的轴上进行。举几个例子:例1:数组(array)与标量数字(scalar)的广播例2:2个不同形状的数组这里a的shape是(4,3),b的sha.原创 2020-12-29 20:04:14 · 434 阅读 · 0 评论 -
pip、conda安装包(库)失败解决办法
为方便只想要配置文件内容的小伙伴,文末提供了我的配置方法,可直接复制。1.镜像源解决法pip源更换:windows下:在C:\Users\XXX下新建一个文件夹,重命名为pip。在pip文件夹里面新建一个文本文档,并重新命名为:pip.ini,需要修改后缀。在pip.ini里面添加下面的信息(采用阿里云):[global]trusted-host = mirrors.aliyun.comindex-url = http://mirrors.aliyun.com/pypi/simpleu原创 2020-12-29 20:01:08 · 4018 阅读 · 3 评论 -
Tensorboard无法正常显示数据的解决方案
问题及解决所遇问题解决方案情形一:路径错了情形二:代码错了所遇问题假设其他一切均正常,而在终端输入tensorboard --logdir=runs后如下图一样无法正常显示数据。解决方案情形一:路径错了由于路径错误,导致TensorBoard没法找到对应文件。此时,可以选择自己添加runs文件夹的路径。我的做法如下:在jupyter中我可以看到自己的runs文件夹所在的位置,据此能够找到电脑中的runs文件夹。而后将tensorboard --logdir=runs的runs去掉,再拖动原创 2020-07-29 21:26:13 · 6975 阅读 · 5 评论