numpyflow
艾与代码
这个作者很懒,什么都没留下…
展开
-
使用numpy搭建自己的深度学习框架(三)
自动求导(完善算子)简介完善算子完善`Tensor`解耦合注:本系列搭建的深度学习框架名称叫numpyflow,缩写nf,用以熟悉目前主流的深度学习框架的基础和原理。本系列的目标是使用nf可以训练resnet。开源地址:RanFeng/NumpyFlow简介上一节自动求导(封装算子)中,创建了加法算子并重写了__add__方法来对加法操作进行自动求导。这一节我们完善Tensor类,并将所有...原创 2020-05-02 16:56:23 · 650 阅读 · 1 评论 -
使用numpy搭建自己的深度学习框架(二)
自动求导(封装算子)简介注:本系列搭建的深度学习框架名称叫numpyflow,缩写nf,用以熟悉目前主流的深度学习框架的基础和原理。本系列的目标是使用nf可以训练resnet。开源地址:RanFeng/NumpyFlow简介上一节自动求导(基础知识)中我们介绍了自动求导的必备要素,其中之一就是要将一些基本的操作,比如加、减、乘、除、乘方等封装成一个个基本的算子,并首先写好对应的梯度计算方法...原创 2020-05-02 15:18:14 · 630 阅读 · 0 评论 -
使用numpy搭建自己的深度学习框架(一)
自动求导简介Numerical differentiationSymbolic differentiationAutomatic differentiation一个例子????forward modereverse mode简介这里的自动求导,我们可以理解为自动求解梯度而不是导函数。道理都是一样的,就是基础的链式法则,参考知乎的这个问题tensorflow的函数自动求导是如何实现的?自动求导常用的...原创 2020-05-01 21:06:44 · 1340 阅读 · 0 评论 -
深入理解神经网络中的数学
深入理解神经网络中的数学简介IntroductionKeras什么是神经网络单个神经元单个神经层向量化多样本(引入batch)什么是激活函数以及我们为什么需要激活函数?损失函数神经网络如何学习?反向传播总结翻译:原文在这里简介如今,针对深度学习,我们已经有了很多高级的特定的库或框架,比如Keras,Tensorflow和PyTorch。我们不再用再为权值矩阵的大小而担心,也不用费力去记住激活...翻译 2020-04-30 14:03:35 · 1327 阅读 · 0 评论 -
使用numpy搭建自己的深度学习框架(零)
使用numpy搭建自己的深度学习框架简介第一个目标第二个目标第三个目标总结一下注:本系列搭建的深度学习框架名称叫numpyflow,缩写nf,用以熟悉目前主流的深度学习框架的基础和原理。简介本系列主要记录自己仅仅使用numpy来搭建自己的toy级别的深度学习框架。麻雀虽小,五脏俱全。在搭建自己的框架之前,我们要搞清楚我们需要准备些什么。我们首先要知道,深度学习是啥、为啥叫深度学习。对于初学...原创 2020-04-30 14:07:17 · 1294 阅读 · 0 评论