![](https://img-blog.csdnimg.cn/20201014180756918.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
人工智能
人工智能学习笔记,心得等
william118
这个作者很懒,什么都没留下…
展开
-
没有最好的激活函数,只有场景最适合的函数
没有最好的激活函数,只有场景最适合的函数。Sigmoid、tanh函数,适用于二分类输出层;模型隐藏层;Relu、Leaky Relu函数,适用于回归任务输出层,卷积神经网络隐藏层。Softmax函数,适合于多分类任务的输出层;学习链接:https://blog.csdn.net/dfly_zx/article/details/104493048...原创 2021-07-30 21:34:04 · 308 阅读 · 0 评论 -
深度学习项目实战-图像分类与CIFAR-10
CIFAR-10有5万个训练数据,1万多个测试数据 ;可直接下载使用重要代码:载入数据,如果没有会自动在网上下载:X_train, Y_train), (X_test, Y_test) = cifar10.load_data() #对输入进行归一化处理 X_train=X_train /255 X_test =X_test /255 #对于输出进行one-hot-coding Y_train = keras.utils.to_categorical(Y_trai.原创 2021-07-26 20:48:42 · 428 阅读 · 0 评论 -
python安装pytorch踩过的坑
学习Python的朋友在安装pytorch都会直接pip install pytorch,但是这样安装就会直接报错。就很苦恼,这是因为pytorch不走寻常路,所以我们还是应该回到pytorch的官网寻找原因:官网 :https://pytorch.org/get-started/locally/在上图中选择自己的运行环境,然后看到Run this Command:这行命令,直接复制到对应的环境进行运行即可pip3 install torch==1.9.0+cu102 t...原创 2021-07-25 06:36:04 · 1066 阅读 · 4 评论 -
Tensorflow和其对应的keras版本
找到tensorflow对应的keras,下载就可以了。另外据说tersorflow2已经集成了keras,不用另外安装了,直接用就可以,推荐一本书《深度学习实战 基于tersorflow2.0的人工智能开发应用》,使用keras,只需要import。参考网址:https://docs.floydhub.com/guides/environments/Framework Env name (--env parameter) Description Docker Image P翻译 2021-07-25 06:21:04 · 3972 阅读 · 0 评论 -
Anaconda配置国内镜像源
1. 为conda配置(清华)镜像源使用conda进行安装时,访问的是国外的网络,所以下载和安装包时会特别慢。我们需要更换到国内镜像源地址,这里我更换到国内的清华大学地址。(永久添加镜像)Windows和Linux 对于conda修改镜像源的方法一样1.添加清华镜像:conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/conda config --add channels h原创 2021-07-25 06:10:37 · 13303 阅读 · 2 评论 -
模型评估的方法介绍
建模的评估一般可以分为回归、分类和聚类的评估,本文主要介绍回归和分类的模型评估:一、回归模型的评估主要有以下方法:指标 描述 metrics方法 Mean Absolute Error(MAE) 平均绝对误差 from sklearn.metrics import mean_absolute_error Mean Square Error(MSE) 平均方差 from sklearn.metrics import mean_squared_error转载 2021-07-21 05:42:59 · 12643 阅读 · 0 评论 -
循环神经网络机理
循环神经网络RNN机理同一层有两个输入:当前时间点的值以及上一个时间点的a(t-1)输入状态。循环神经网络结构GRU经典的循环神经网络网络结构LSTM双向RNN与DeepRNN原创 2021-07-18 10:40:20 · 104 阅读 · 0 评论 -
实战项目记录
1、定义任务和目标--选取好的模型以及结构超参数;2、对模型训练;3、评估模型的表现,发现问题(过拟合与梯度消失)4、根据模型表现进行优化。原创 2021-07-18 10:21:26 · 55 阅读 · 0 评论 -
笔记---为何要做数据归一化处理
为何要做数据归一化处理?原因如下:1、提高训练速度,帮助训练收敛,避免梯度消失/爆炸;2、帮助模型专注数据真正的关联性,提高模型最终表现;对数据结果有很大的提高。模型优化策略其他策力:数据清洗数据归一化非对称数据优化强调权重比,平均分布为0;非对称数据训练与优化数据严重不平衡,容易过拟合达到99.99%,解决上述问题方法:1、数据增强扩大比例较低的样本的数量;2、修改损失函数赋予比例较低样本更高的权重。如何优化超参数?进化算法最为常用,需要不断试.翻译 2021-07-18 10:13:06 · 390 阅读 · 0 评论 -
sklearn学习
sklearn是机器学习领域中最知名的python模块之一,若要学习机器学习与人工智能,必绕不开sklearn,网上有很多关于sklearn的学习教程,但最好的教程就是官方文档(http://scikit-learn.org/stable/),其中sklearn库官方文档结构中有很多模块:Install:安装指导,不同版本安装包,包依赖的版本。User Guide(用户指南):这里对每一个算法有详细的介绍API:这里是库调用的方法Examples:是一个官方教程,可以快速上手教程,里面有很多d翻译 2021-07-18 05:54:16 · 288 阅读 · 0 评论 -
深度学习模型优化
深度学习模型优化:非饱和激活函数(ReLu)与梯度截断(Gradient Clipping)、网络参数的初始化参数初始化时:1、全零/全一,完全一样权重的,不希望发生;2、随机初始化,容易造成激活函数饱和;3、Xavier初始化;4、He初始化(ReLu);5、Pre-train初始化(迁移学习),被迁移学习的应该已经在大量的服务器中的海量数据批量规范化(Batch Normalization),防止梯度消失,梯度爆炸的有效优化方法;1、防止graqdient vanis原创 2021-07-17 21:22:44 · 235 阅读 · 0 评论 -
异常检测与高斯分布的概率密度函数
异常检测:根据输入数据,对不匹配预期模式进行识别。应用举例:欺诈检测,入侵检测,缺陷基本检测,生态系统中灾害的发生。监督式异常检测:提前使用“正常”与“异常”标签数据对模型进行训练,机器基于训练好的模型判断新的数据并标记,进行分离。无监督式学习,概率密度函数在连续分布事件中,用于描述连续随机变量的输出值在某个稳定的取值点附近的可能性的函数,通过其可计算取值点附近区间发生事件的概率。现实生活中,很多事件发生的频率都符合高斯分布。...翻译 2021-07-17 17:33:57 · 196 阅读 · 0 评论 -
监督式学习与无监督式学习
监督式学习能快速掌握数据规律,例如日常学习。无监督式学习加上一定的矫正方法,也能得到好的分类效果,但如果场景复杂以后,必须通过监督式学习才能得到好的分类效果。 现实场景:任务复杂,也需要采集大量数据有难度。解决办法: 1、大部分场景都需要监督学习; 2、条件允许的情况下尽可能收集足够的样本; 3、无法收集足够样本时考虑用标签样本加无标签样本实现监督学习与无监督学习的结合,即半监督学...原创 2021-07-17 17:14:06 · 278 阅读 · 0 评论 -
Kmeans实现数据聚类
基于数据源,建立Kmeans模型,实现数据聚类。流程:1、数据加载及展示;2、数据预处理;3、模型建立与训练;4、模型预测;5、结果展示及表现评估。任务1、k=2时,实现数据聚类,可视化聚类结果,聚类中心;2、已经第一个样本点X1=82,X2=63属于类别,对已聚类进行矫正;3、基于数据2建立KNN模型,思考与其聚类模型对比;4、修改Kmeans迭代次数与初始化参数,查看模型迭代过程中的结果变化。代码实现:数据加载...原创 2021-07-17 15:31:47 · 1948 阅读 · 2 评论 -
非监督学习
非监督分类,是机器学习的一种方法,训练数据中不带标签,让机器自动寻找数据规律并完成任务。特点:1、数据不需要标签;2、算法不受监督信息(偏见)约束。优点:1、极大难度降低数据采集难度,极大程序扩大样本量;2、可能发现新的数据规律,被忽略的重要信息;主要运用:聚类分析、关联规则、维度缩减。聚类分析:把数据样本按照一定的方法分成不同的组别,让同一个组中的成员对象都有相似的一些属性。可实现例如:目标用户的群体分类,图像切割,基因聚类。最基本的方法有K-Means分类法K均值原创 2021-07-17 15:13:20 · 476 阅读 · 0 评论 -
经典卷积神经网络结构
1.卷积神经网络解决的问题我们构造了⼀个含单隐藏层的多层感知机模型来对Fashion-MNIST数据集中的图像进⾏分类。每张图像⾼和宽均是28像素。我们将图像中的像素逐⾏展开,得到⻓度为784的向量,并输⼊进全连接层中。然而,这种分类⽅法有⼀定的局限性。1. 图像在同⼀列邻近的像素在这个向量中可能相距较远。它们构成的模式可能难以被模型识别。2. 对于大尺寸的输⼊图像,使⽤全连接层容易造成模型过大。假设输⼊是⾼和宽均为1000像素的彩⾊照⽚(含3个通 道)。即使全连接层输出...转载 2021-07-14 22:07:52 · 1239 阅读 · 0 评论 -
深度学习模型机理
通过卷积算子,进行计算:池化层:取矩阵中最大值,最大池化算子,卷积运算,经过多次计算,进入分类器,推导出分类结果。 运算结果: 全连接神经网络输入数据为m*n*s的矩阵,经过多次卷积与池化后,得到上述矩阵,与每个全连接神经网络连接,每个神经网络与矩阵全相连,最后得到一个识别结果。...原创 2021-07-14 21:54:04 · 233 阅读 · 0 评论 -
卷积神经网络
深度学习三大神经网络:MLP,CNN,RNN。最早的神经网络最早于1962年开始,1980,福岛邦彦提出卷积神经网络;1998 ,Yann Lecun LeNet-S首次推出2012 ,ImageNet AlexNet卷积神经网络,一炮而红。alphago阿尔法狗,基于CNN神经网络神经网络的机理 ...原创 2021-07-13 22:59:05 · 89 阅读 · 0 评论 -
人工智能与深度学习的重要步骤
人工智能的主要学科分支和领域1、计算视觉2、自然语言处理3、认知推理/博弈伦理4、机器人学5、机器学习6、大数据分析/数据挖掘。。。。。。人工智能三巨头:Geoffrey Hinton 主要贡献:反向传播算法,MLD,CNN,RNN的底层算法都要用到Yoshua Bengio主要贡献:将深度学习引入自然语言元处理Yann LeCun 主要贡献:计算机视觉,搭建卷积神经网络人工智能与深度学习的步骤:1、模型的机理,包括神经元和全连接神经网...原创 2021-07-13 22:46:06 · 255 阅读 · 0 评论 -
神经元与神经网络,神经元的机理
神经元,树突作为输入,多个神经元组成神经网络,可以自由构建不同的神经网络,作为CNN,RNN的基本神经元单位。深度学习模型机理:神经元的机理x1w1x2 z=w1x1+w2x2+b得到一个激活函数f(q),并能得到一个输出。w2b通过神经元对值进行加权求和,并加上偏差,得到激活函数。假如有4个输入(n),对应5个神经元(m),对应就有4*5有20个权重矩阵。实际上有5*1个偏差向量(b),最后得到对应5个输出结果。4*n个向量(...原创 2021-07-13 22:33:01 · 328 阅读 · 0 评论 -
人工智能--激活函数
激活函数是深度学习,也是人工神经网络中一个十分重要的学习内容,对于人工神经网络模型去学习、理解非常复杂和非线性的函数来说具有非常重要的作用。常用三个激活函数:(1)Sigmoid函数sigmoid函数可以将输入的整个实数范围内的任意值映射到[0,1]范围内,当输入值较大时,会返回一个接近于1的值,当输入值较小时,则返回一个接近于0的值。在tensorflow中,用tf.sigmoid(x)直接调用这个函数使用。Sigmoid函数的数学公式和函数图像如下...原创 2021-07-13 08:07:57 · 833 阅读 · 0 评论