![](https://img-blog.csdnimg.cn/20201014180756922.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
【PKU】TensorFlow
文章平均质量分 54
【PKU】TensorFlow
SuperSources
这个作者很懒,什么都没留下…
展开
-
【PKU-TensorFlow】激活函数
激活函数的概念对于简化的神经元模型,没有设计激活函数,因此无论设计多少层神经结构,最终得到的都是线性结构。因此,我们在神经元进行乘加运算的神经元体后面增加一个激活函数,以增强模型的表达力。(激活函数非线性时,多层神经网络可逼近所有函数)激活函数的特征优秀的激活函数应有以下几个特征:非线性:激活函数非线性时,多层神经网络可逼近所有函数可微性:优化器大多用梯度下降更新参数单调性:当激活函数是单调的,能保证单层网络的损失函数是凸函数近似恒等性:f(x)≈x当参数初始化为随机小值时,神经原创 2021-02-23 23:51:50 · 731 阅读 · 0 评论 -
【PKU-TensorFlow】复杂度、学习率
神经网络的复杂度NN复杂度:多用NN层数和NN参数的个数表示空间复杂度层数=隐藏层的层数+1个输出层总参数= 总w + 总b时间复杂度乘加运算的总次数原创 2021-01-19 05:58:39 · 182 阅读 · 0 评论 -
【PKU-TensorFlow】神经网络优化过程中常用的函数
tf.where条件语句真返回A,条件语句假返回Btf.where(条件语句,真返回A,假返回B)a=tf.constant([1,2,3,1,1])b=tf.constant([0,1,3,4,5])c=tf.where(tf.greater(a,b), a, b) # 若a>b,返回a对应位置的元素,否则返回b对应位置的元素print("c:",c)运行结果c:tf.Tensor([1 2 3 4 5], shape=(5,), dtype=int32)np.random.原创 2021-01-17 11:00:19 · 194 阅读 · 0 评论 -
【PKU-TensorFlow】神经网络实现鸢尾花的分类
准备数据•数据集读入•数据集乱序•生成训练集和测试集(即x_train/ y_train)•配成(输入特征,标签)对,每次读入一小撮(batch)搭建网络•定义神经网路中所有可训练参数参数优化•嵌套循环迭代,with结构更新参数,显示当前loss测试效果•计算当前参数前向传播后的准确率,显示当前acc可视化acc / loss的可视化# -*- coding: UTF-8 -*-# 利用鸢尾花数据集,实现前向传播、反向传播,可视化loss曲线# 导入所需模块import t原创 2021-01-15 23:54:48 · 354 阅读 · 0 评论 -
【PKU-TensorFlow】反向传播代码示例
import tensorflow as tfw = tf.Variable(tf.constant(5, dtype=tf.float32))lr = 0.2epoch = 40for epoch in range(epoch): # for epoch 定义顶层循环,表示对数据集循环epoch次,此例数据集数据仅有1个w,初始化时候constant赋值为5,循环40次迭代。 with tf.GradientTape() as tape: # with结构到grads框起了梯度的原创 2021-01-15 23:51:34 · 192 阅读 · 0 评论 -
【PKU-TensorFlow】鸢尾花数据集的读入
from sklearn import datasetsfrom pandas import DataFrameimport pandas as pdx_data = datasets.load_iris().data # .data返回iris数据集所有输入特征y_data = datasets.load_iris().target # .target返回iris数据集所有标签print("x_data from datasets: \n", x_data)print("y_data f原创 2021-01-15 23:50:13 · 376 阅读 · 0 评论 -
【PKU-TensorFlow】TensorFlow的常用函数
强制tensor转换为该数据类型最大最小值tf.cast(张量名,dtype=数据类型)计算张量维度上元素的最小值tf.reduce_min(张量名)计算张量维度上元素的最大值tf.reduce_max(张量名)x1 = tf.constant([1., 2., 3.],dtype=tf.float64)print(x1)x2 = tf.cast(x1, tf.int32)print(x2)print (tf.reduce_min(x2), tf.reduce_max(x2))原创 2021-01-15 18:12:46 · 188 阅读 · 0 评论 -
【PKU-TensorFlow】张量生成
判断张量是几阶的,就看其最左边有几个方括号张量的数据类型创建一个张量常规tf.constant(张量内容,dtype=数据类型(可选))import tensorflowas tfa=tf.constant([1,5],dtype=tf.int64)print(a)print(a.dtype)print(a.shape)如果去掉dtype项,不同电脑环境不同导致默认值不同,可能导致后续程序bug将numpy类型转换为Tensortf. convert_to_tensor(数据名.原创 2021-01-15 11:19:15 · 237 阅读 · 0 评论 -
【PKU-TensorFlow】神经网络计算过程及模型搭建
人工智能三学派行为主义:基于控制论,构建感知-动作控制系统。(控制论,如平衡、行走、避障等自适应控制系统)符号主义:基于算数逻辑表达式,求解问题时先把问题描述为表达式,再求解表达式。(可用公式描述、实现理性思维,如专家系统)连接主义:仿生学,模仿神经元连接关系。(仿脑神经元连接,实现感性思维,如神经网络)神经网络模型处理问题的过程准备数据:采集大量“特征/标签”数据(特征,标签)形式的数据搭建网络:搭建神经网络结构优化参数:训练网络获取最佳参数(反传)应用网络:将网络保存为模型,输入新数据原创 2021-01-15 10:57:31 · 226 阅读 · 0 评论