- 博客(43)
- 收藏
- 关注
RSS订阅转载 TensorFlow学习笔记-总结与排错
总结为了学习和使用tensorflow作为工具, 我决定逐步亲自动手一行行写一下：[x] MNIST手写模型;[x] MNIST多层感知机(前馈神经网络,2层);[x] MNIST卷积网络(2层);[ ] cifar-10卷积网络(2层);[ ] word2vec;[ ] 循环神经网络;[ ] fast-RCNN。输出层常用softmax(多分类问题)/sigmoid...
2019-08-30 15:28:00
178
转载 TensorFlow学习笔记13-循环、递归神经网络
循环神经网络(RNN)卷积网络专门处理网格化的数据，而循环网络专门处理序列化的数据。一般的神经网络结构为：一般的神经网络结构的前提假设是：元素之间是相互独立的，输入、输出都是独立的。现实世界中的输入并不完全独立，如股票随时间的变化，这就需要循环网络。循环神经网络的本质循环神经网络的本质是有记忆能力,能将前一时刻的输出量('记忆')作为下一时刻的输入量。RNN的结构与原理...
2019-08-30 15:27:00
283
转载 TensorFlow学习笔记12-word2vec模型
为什么学习word2word2vec模型?该模型用来学习文字的向量表示。图像和音频可以直接处理原始像素点和音频中功率谱密度的强度值，把它们直接编码成向量数据集。但在"自然语言处理"中，对语句中的单词(Word)进行编码，无法提供不同词汇之间的关联信息。这种"独立的、离散的"符号将导致数据稀疏，训练模型时将必须寻求更多数据。word2vec旨在克服上述问题。向量空间模型(VSMs...
2019-08-30 15:25:00
287
转载 TensorFlow学习笔记11-开始用TensorFlow
TensorFlow运作方式要用到的代码都在Github上。当然，如果你本地装了TensorFlow，也可以用Everything直接搜索以下文件：mnist.pyfully_connected_feed.py要开始训练，只需要：python fully_connected_feed.py准备数据，下载数据；设置输入与占位符大小；assets_placeholder ...
2019-08-30 15:24:00
202
转载 TensorFlow学习笔记10-卷积网络
卷积网络卷积神经网络(Convolutional Neural Network,CNN)专门处理具有类似网格结构的数据的神经网络。如：时间序列数据(在时间轴上有规律地采样形成的一维网格)；图像数据(二维的像素网格)；卷积网络是指至少在网络的一层中使用卷积运算来替代一般的矩阵乘法运算的神经网络。卷积前面讲过卷积，相关算法这里直接使用。卷积公式为：\(s(t)=\int_...
2019-08-30 15:23:00
432
转载 TensorFlow学习笔记9-深度模型的优化
深度模型的优化回顾概念：代价函数时训练集上损失函数的平均：\[J(\theta)=E_{(x,y)\sim \hat{p}_{data}}L(f(x;\theta),y) \tag{1}\]引入概念：概念描述批量梯度算法使用整个训练集的优化算法，可计算更精确的梯度估计，但回报小于线性批量batch整个数据集中的一组样本构成的子集随机算法(在线算...
2019-08-30 15:22:00
118
转载 TensorFlow学习笔记8-深度学习的正则化
深度学习的正则化回顾一些基本概念概念描述设计矩阵数据集在特征向量上的表示训练误差学习到的模型与训练集标签之间的误差泛化误差(测试误差)学习到的模型与测试集之间的误差欠拟合模型的训练误差很大过拟合训练误差小，但训练误差与测试误差之间差距很大容量拟合各种函数的能力，容量越大，拟合函数的能力越大交叉验证当数据集不大时，将数...
2019-08-30 15:21:00
147
转载 TensorFlow学习笔记7-深度前馈网络(多层感知机)
深度前馈网络(前馈神经网络,多层感知机)神经网络基本概念前馈神经网络在模型输出和模型本身之间没有反馈连接;前馈神经网络包含反馈连接时，称为循环神经网络。前馈神经网络用有向无环图表示。设三个函数组成的链：\(f_3(f_2(f_1))\)，$f_1$为网络第一层，叫输入层。$f_2$为第二层，依次类推，中间层叫做隐藏层。最后一层为输出层。链的全长称为模型的深度。每个隐藏层都有张量...
2019-08-30 15:20:00
522
转载 TensorFlow学习笔记5-概率与信息论
TensorFlow学习笔记5-概率与信息论本笔记内容为“概率与信息论的基础知识”。内容主要参考《Deep Learning》中文版。\(X\)表示训练集的设计矩阵，其大小为m行n列，m表示训练集的大小(size)，n表示特征的个数；\(W\)表示权重矩阵，其大小是n行k列，n为输入特征的个数，k为输出(特征)的个数；\(\boldsymbol{y}\)表示训练集对应标签，其...
2019-08-30 15:18:00
229
转载 TensorFlow学习笔记6-数值计算基础
TensorFlow学习笔记6-数值计算本笔记内容为“数值计算的基础知识”。内容主要参考《Deep Learning》中文版。\(X\)表示训练集的矩阵，其大小为m行n列，m表示训练集的大小(size)，n表示特征的个数；\(y\)表示训练集对应标签，其大小为m行，m表示训练集的大小(size)；\(y’\)表示将测试向量\(x\)输入后得到的测试结果；上溢与下溢、so...
2019-08-30 15:18:00
188
转载 TensorFlow学习笔记4-线性代数基础
TensorFlow学习笔记4-线性代数基础本笔记内容为“AI深度学习”。内容主要参考《Deep Learning》中文版。\(X\)表示训练集的设计矩阵，其大小为m行n列，m表示训练集的大小(size)，n表示特征的个数；\(W\)表示权重矩阵，其大小是n行k列，n为输入特征的个数，k为输出(特征)的个数；\(\boldsymbol{y}\)表示训练集对应标签，其大小为m行...
2019-08-30 15:17:00
272
转载 TensorFlow学习笔记3-从MNIST开始
TensorFlow学习笔记3-从MNIST开始学习softmax本笔记内容为“从MNIST学习softmax regression算法的实现”。注意：由于我学习机器学习及之前的书写习惯，约定如下：\(X\)表示训练集的设计矩阵，其大小为m行n列，m表示训练集的大小(size)，n表示特征的个数；\(W\)表示权重矩阵，其大小是n行k列，n为输入特征的个数，k为输出(特征)的...
2019-08-30 15:14:00
118
转载 TensorFlow学习笔记2-性能分析工具
TensorFlow学习笔记2-性能分析工具性能分析工具在spyder中运行以下代码:import tensorflow as tffrom tensorflow.python.client import timeline#构造计算图x = tf.random_normal([1000, 1000])y = tf.random_normal([1000, 1000])...
2019-08-30 15:13:00
371
转载 TensorFlow学习笔记1-入门
TensorFlow学习笔记1-入门作者: YunYuan***写在前面本笔记是我学习TensorFlow官方文档中文版的读书笔记，由于尚未搭建好Github的个人博客的评论功能，故尚不方便与各位交流。如有问题，可邮箱联系。TensorFlow运算的本质是有状态的数据流式图。TensorFlow的直译是“流动的张量”。特点：计算模型简洁灵活，计算性能显著提升，支持更多的异构...
2019-08-30 15:11:00
159
转载 PA动画使用教程
1.动画复制与动画粘贴、动画删除PA的动画复制、动画粘贴不会覆盖原有动画；PPT自带的动画刷会覆盖原有动画；注意：超级属性的动画复制、粘贴有bug，应使用自带的动画刷；PA动画的复制、粘贴只能实现一对一，一对多，无法实现多对一；但可以实现多对多，如3to3或3to6快捷键Ctrl+Shift+Alt+C和Ctrl+Shift+Alt+C。按Ctrl+Click可以设置动画...
2019-08-30 14:43:00
1136
转载 Altium Designer(AD)使用笔记
在PCB中间打洞，螺丝孔等制作PCB螺丝孔1 在Keepout层首先绘制一个圆形(矩形)；2 在绘制PCB时，选中该图形，Tool>>Convert>>create board cutout from selected primitives。封装为库1 在Keepout层首先绘制一个圆形(矩形)；2 在绘制PCB库时，选中该图形，Tool>>...
2019-08-30 14:43:00
1117
转载 VS代码自动补全功能
VS代码自动补全功能新建工程后，依次打开 工具>>代码段管理器>>选择C++>>点击 添加(A)...按钮 ,设置你的代码块的目录复制以下代码并存为note.snippet<?xml version="1.0" encoding="utf-8"?><CodeSnippets xmlns="http://schemas.micr...
2019-08-30 14:39:00
2485
转载 Visio 2016自定义模具与形状
Visio 2016自定义模具与形状0. 什么是模具?模具：一组形状的集合1. 新建模具打开Visio 2016，在空白的文件中选更多形状>>新建模具2. 编辑模具新建的模具已自动打开"编辑"，你可进行编辑该模具；微软的模具默认不可编辑。你需要右击“模具名称”>>编辑模具，已进入编辑模式；3. 添加形状在模具名称下方"空白处"右击>...
2019-08-30 14:39:00
1988
转载 怎样理解傅立叶变换和卷积
怎样理解傅立叶变换和卷积傅立叶变换先看连续和离散系统的公式：\[F(w)=\int^{+\infty}_{-\infty} f(t)e^{-iwt}dt=\int^{+\infty}_{-\infty} f(t)(\cos wt-i\sin wt)dt \tag{1}\]\[F(w)=\sum^{+\infty}_{t=-\infty}f(t)(\cos wt-i\sin wt)...
2019-08-30 14:38:00
395
转载 推荐使用MarkdownPad2进行Markdown写作
笔者更推荐使用notepad++写markdownAtom也有Bug，还是Visual Studio Code好用。去官网下载MarkdownPad2的安装包，并安装之。如果你是Windows 10用户，你还需要下载安装awesomium sdk以支持浏览器框架对你的markdown作品进行渲染。如果还不能渲染，可以再安装一下：directx_ Jun2010_ redist....
2019-08-30 14:37:00
169
转载 题库管理
题库管理本笔记记录使用磨题帮进行题库管理与复习的过程。安卓手机上下载磨题帮APP，注册账户，免费用户即可。免费用户的云空间为200MB，VIP为500MB。使用Excel建立你的题库在磨题帮官网上给出了一些题型的示例，可参考下载修改。这里使用自己制作的模板即可。如图。注意：多媒体的材料需要放在题库同目录下；表格文件必须是xls(97-2003)类型；建立完成后，将该目...
2019-08-30 14:35:00
387
转载 使用文献管理软件写论文
参考：citationstyles使用文献管理软件写SCI论文首先，你可能需要确定需要投稿的杂志。确定你要投稿的杂志个人认为，在写作之前，应该综合考虑所选杂志的影响因子(IF)，年文章数，投稿参考，投稿难易，一审周期等。在梅斯网站可以查询你关注的期刊。查看该期刊的Guide for Authors在期刊官网上，查找Guide for Authors，一般推荐Mendeley...
2019-08-30 14:30:00
160
转载 使用notepad++写markdown的配置过程
已过时下载最新的markdown插件,github解压后将MarkdownViewerPlusPlus.dll复制一份到notepad安装目录的plugins里现在再打开notepad就能看到markdown插件的小图标了设置markdown高亮下载最新的markdown高亮配置文件,github打开notepad++,依次点击:语言→自定义语言格式→导入我选的是t...
2019-08-30 14:29:00
380
转载 使用HEXO建站
使用Hexo模板按以下指导进行本地预览和上传到你的github。环境安装安装node.jsnode.js官方下载地址https://nodejs.org/en/设置npm淘宝镜像站(npm默认的源的下载速度可能很慢，建议使用淘宝镜像替换)执行下面的命令，将npm的源设置成淘宝镜像站。npm config set registry "https://registry.npm...
2019-08-30 14:28:00
149
转载 Github建站笔记
下载Git搜索“Git”，在官网中根据系统版本下载，并双击打开，按默认已勾选组件点下一步;勾选在Windows命令行窗口中使用Git；使用推荐的OpenSSL库用于HTTPS连接；一路默认安装即可。使用Git 命令创建仓库新建本地仓库双击打开Git Bash，配置你的GitHub用户：git config --global user.name "charleech...
2019-08-30 14:27:00
199
转载 使用Atom写你的笔记
使用Atom写你的笔记本文参考简书笔记。使用sync-settings同步你的Atom设置使用sync-settings插件需要以下3个条件:电脑已安装AtomAtom内已安装sync-settings插件拥有一个GitHub账号（因为需要将同步的信息上传到gits上）安装sync-settings插件：在Atom官网下载安装Atom。在Atom中按Ctrl+Sh...
2019-08-30 14:27:00
228
转载 个人珍藏的PC和安卓应用列表
个人珍藏的PC和安卓应用列表PC应用名称功能描述注意事项存储位置维棠FLV视频下载软件可用来下载腾讯视频的视频将视频列表的网址粘贴到维棠软件左侧"下载"的地址中即可批量下载。百度云-"腾讯视频下载工具.exe"Everything快速搜索定位你想查找的文件位置软件很小，可以设置开机自启-SyncTrayzor局域网或互联网上进行文件夹共享...
2019-08-30 14:26:00
150
转载 机器学习实战笔记-12-降维方法
PCA(Principal Component Analysis)与SVD常用的降维方法有主成分分析(PCA)，因子分析(Factor Analysis)，独立成分分析(ICA)。PCA优点：降低数据的复杂性；缺点：不一定非要用，且可能损失有用信息。适用于数值型数据PCA算法概要：```python选择能覆盖数据，能获得最大方差的直线，为第一个坐标轴(一团数据的长轴)选择与...
2019-08-30 14:25:00
128
转载 机器学习实战笔记-11-Apriori与FP-Growth算法
Apriori算法优点：易编码实现；缺点：大数据集上较慢；适用于：数值型或标称型数据。关联分析：寻找频繁项集(经常出现在一起的物品的集合)或关联规则(两种物品之间的关联关系)。概念：支持度：数据集中包含某项集的记录所占的比例P(A)；可信度(置信度)：对某个关联规则\(A\rightarrow B\)，\(\frac{P\left( \text{AB} \right)}{P(A)...
2019-08-30 14:24:00
324
转载 机器学习实战笔记-10-K均值聚类
K-均值聚类优点：易实现。缺点：可能收敛到局部最小值，大规模数据集上收敛较慢；适用于数值型数据。K-均值聚类(找到给定数据集的k个簇) 算法流程 伪代码：创建k个点作为起始质心(经常是随机选择)当任意一个点的簇分配结果发生改变时 对数据集中的每个数据点 对每个质心 计算质心到数据点的间距 将数据点分配到距其最近的簇...
2019-08-30 14:23:00
154
转载 机器学习实战笔记-9-树回归
CART(classification and regression trees)树回归优点：可对复杂和非线性的数据建模；缺点：结果不易理解；适用于：数值型和标称型。构建树函数createTree()的伪代码：选择最好的划分方式(得到最佳划分的特征与阈值)：用于回归树和模型树如果该节点不能再分，将该节点存为叶节点执行二元划分在右子树调用createTree()函数在左子树...
2019-08-30 14:22:00
138
转载 机器学习实战笔记-8-回归
回归线性回归设\(\mathbf{x}^{\mathbf{T}}\)向量第一列全为1，即\(x_{0} = 1\)，这样\(x_{0}w_{0}\)代表的是截距，\(x_{1}w_{1}\)是斜率：设回归方程\(y_{i}^{'} =\mathbf{x}_{\mathbf{i}}^{T}\mathbf{\omega}\)，则回归的评价指标：误差的平方和\(\sum_{i = 1}^...
2019-08-30 14:21:00
149
转载 机器学习实战笔记-7-AdaBoost元算法
AdaBoost(Adaptive boosting)元算法元算法：将不同分类器组合起来的结果，也叫集成方法。AdaBoost优点：泛化错误率，易编码，可应用在大部分分类器，无参数调整；缺点：对离群点敏感；适用于：数值型和标称型。自举汇聚法(Bootstrap aggregating,bagging方法)：从原始数据集中随机选择1个样本，然后随机选择另一个样本替换这个样本。对原...
2019-08-30 14:19:00
159
转载 机器学习实战笔记-4-朴素贝叶斯
朴素贝叶斯(计算 每类下个特征的条件概率之积 和 该类概率 的乘积)朴素贝叶斯的特点：特点例优点：数据较少时依然有效，可处理多类别问题； 缺点：对输入数据的准备方式比较敏感； 适用数据类型：标称。文档分类(用关键词) 过滤垃圾邮件(某些关键词是否有侮辱性) 从广告获取区域倾向原理如果\(p\left( c_{1} \middle| x,y \righ...
2019-08-30 14:16:00
104
转载 机器学习实战笔记-5-Logistic回归
Logistic回归优缺点适用范围优点：计算代价不高，易于理解和实现。 缺点：容易欠拟合，分类精度可能不高。 适用于：数值型和标称型数据。仅用于二分类原理：每个特征都乘以一个回归系数>>将结果相加>>总和代入到Sigmoid函数，得到范围在(0,1)中的数值>>预测分类结果\(\hat{y}\)。即\(Z= w_{0}x...
2019-08-30 14:16:00
137
转载 机器学习实战笔记-3-决策树
决策树(迭代地寻找划分样本集的最好特征，按该特征划分时信息增益最大)决策树算法的优缺点特点例优点：计算复杂度不高，输出结果易于理解，对中间值的缺失不敏感，可处理不相关特征数据。 缺点：可能产生过度匹配的问题。 适用数据类型：数值型和标称型。隐形眼镜决策； 垃圾邮件决策。决策树的构造：createTree:If 检测数据集中的每个子项属于同一分类： ...
2019-08-30 14:15:00
110
转载 机器学习实战笔记-2-kNN近邻算法
# k-近邻算法(kNN)本质是(提取样本集中特征最相似数据（最近邻）的k个分类标签)。K-近邻算法的优缺点例优点：精度高，对异常值不敏感，无数据输入假定； 缺点：计算复杂度高，空间复杂度高； 适用于：数值型和标称型。手写数字识别工作原理输入样本集，该样本集中标签已确定。输入无标签（目标变量无值）的新数据，将新数据的每个特征与样本集中的数据对应特征比...
2019-08-30 14:14:00
114
转载 机器学习实战笔记-2-7分类机器学习形象化总结
kNN算法：就看测试向量距哪种更近，前k个最近的点中哪类多，预测结果就是哪类。决策树：选择用来划分数据集的最好特征(最大的\(infoGain = baseEntropy - newEntropy\))，对该特征的每一个值创建一个子节点，递归至label完全相同或已用完所有特征。朴素贝叶斯：if \(p\left( c_{1} \middle| x,y \right) >...
2019-08-30 14:13:00
122
转载 机器学习实战笔记-2-7非均衡分类问题
混淆矩阵预测结果 真实结果+1(正例)-1(反例)+1真正例(TP)伪反例(FN)-1伪正例(FP)真反例(TN)正确率=TP/(TP+FP)召回率=TP/(TP+FN)假阳率=FP/(FP+TN)真阳率=TP/(TP+FN)ROC曲线是真阳率-假阳率的曲线，ROC曲线越在左上角越好。基于代价函数的分类器控制预测结果 真实结果...
2019-08-30 14:11:00
92
转载 机器学习实战笔记-1-机器学习基础
# 机器学习基础监督学习简介监督学习的两个任务：分类和回归分析（预测数值型数据）。分类思路分类方法思路：这个表至关重要，叫做特征向量表特征1特征2…目的变量(类别)实例1…………实例2………………………如上表，分类思路如下：找到输入采样集中的特征（属性）-用你的大脑给各特征一个值，并确定该值的类型（十进制...
2019-08-30 14:08:00
110
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人