Tensorflow学习笔记

Tensorflow学习

前期准备

Anaconda安装，tensorflow安装

一、第一章

1.1神经网络（连接主义）的程序流程

• 人工智能三学派

1. 行为主义：基于控制论，构建感知-动作控制系统
2. 符号主义：基于算数逻辑表达式，求解问题时先把问题描述为表达式，再求解表达式
3. 连接主义：仿生学，模仿神经元连接关系

• 神经网络：

1. 准备数据：采集大量“特征/标签”数据
2. 搭建网络：搭建神经网络结构
3. 优化参数：训练网络获取最佳参数（反转）
4. 应用网络：讲网络保存为模型，输入新数据，输出分类或预测结果（前传）

1.2鸢尾花分类问题

神经网络：采集大量（花萼长、花萼宽、花瓣长、花瓣款，对应的类别）数据对构成数据集

MP模型

• x为输入特征，w为权重，b为偏置项

损失函数

梯度下降

反向传播

1.3tensorflow函数

session1

• tf.constant(张量内容，dtype=数据类型（可选）)

import tensorflow as tf
a=tf.constant([1,5],dtype=tf.int64)
print(a)

#运行结果
<tf.Tensor([1,5],shape=(2,),dtype=int64)>

• 将numpy的数据类型转换为Tensor类型

tf.convert_to_tensor(数据名，dtype=数据类型（可选）)

import tensorflow as tf
import numpy as np
a=np.arange(0,5)
b=tf.convert_to_tensor(a,dtype=tf.int64)
print(a)
print(b)

#运行结果
[0 1 2 3 4]
tf.Tensor([0 1 2 3 4],shape=(5,),dtype=int64)

• 如何创建一个Tensor

#创建全为0的张量
tf.zeros(维度)
#创建全为1的张量
tf.ones(维度)
#创建全为指定值的张量
tf.fill(维度，指定值)

维度：

一维 直接写个数

二维 用[行，列]

多维 用[n,m,j,k…]

#生成正态分布的随机数，默认均值为0，标准差为1
tf.random.normal(维度，mean=均值,stddev=标准差)
#生成截断式正态分布的随机数
tf.random.truncated_normal(维度,mean=均值，stddev=标准差)
#生成均匀分布随机数[min,max)
tf.random.uniform(维度，minval=最小值，maxval=最大值)

在tf.truncated_normal中如果随机生成数据的取值在($\mu -2\sigma ,\mu +2\sigma$)之外则重新进行生成，保证了生成值在均值附近

标准差计算公式$\sigma =\sqrt{\frac{{\Sigma }_{i=1}^n(x_i-\overline{x}{)}^2}{n}}$

session2

#强制tensor转换为该数据类型
tf.cast(张量名，dtype=数据类型)
#计算张量维度上元素的最小值
tf.reduce_min(张量名)
#计算张量维度上元素的最大值
tf.reduce_max(张量名)

• 理解axis：在一个二维张量或数组中，可以通过调整axis等于0或1控制执行维度。
  • axis=0代表跨列（经度，down），而axis=1代表跨行（纬度，across）
  • 如果不指定axis，则所有元素参与计算

#计算张量沿着指定维度的平均值
tf.reduce_mean(张量名，axis=操作轴)
#计算张量沿着指定维度的和
tf.reduce_sum(张量名，axis=操作轴)

tf.Variable(tf.random.normal([2,2],mean=0,stddev=1))
#tf.Variable()将变量标记为“可训练”，被标记的变量会在反向传播中记录梯度信息。
#神经网络训练中，常用该函数标记待训练参数。
tf.Variable(初始值)
w=tf.Variable(tf.random.normal([2,2],mean=0,stddev=1))

#数学运算函数
#实现两个张量对应元素相加
tf.add(张量1，张量2)
#实现两个张量的对应元素相减
tf.subtract(张量1，张量2)
#实现两个张量的对应元素相乘
tf.multiply(张量1，张量2)
#实现两个张量的对应元素相除
tf.divide(张量1，张量2)
#维度相同的两个张量才可以进行四则运算

#平方，次方与开方
#计算某个张量的平方
tf.square(张量名)
#计算某个张量的n次方
tf.pow(张量名，n次方数)
#计算某个张量的开方
tf.sqrt(张量名)

#矩阵乘法
tf.matmul(矩阵1，矩阵2)

#切分传入张量的第一维度，生成输入特征/标签对，构建数据集
data=tf.data.Dataset.from_tensor_slices((输入特征，标签))

#例子
features=tf.constant([12,23,10,17])
lables=tf.constant([0,1,1,0])
dataset=tf.data.Dataset.from_tensor_slices((features,lables))
print(dataset)
for element in data:
print(element)

session3

#with结构记录计算过程,gradient求出张量的梯度
with tf.GradientTape() as tape:
若干个计算过程
grad=tape.gradient(函数，对谁求导)

#enumerate是ptthon的内建函数，可遍历每个元素（如列表、元组或字符串），组合为：索引 元素，常在for循环中使用
enumerate(列表名)


seq=['one','two','three']
for i,element in enumerate(seq):
print(i,element)

#独热编码（one-hot encoding）:在分类问题中，常用独热码作标签，标记类别：1表示是，0表示非
tf.one_hot(待转换数据，depth=几分类)

#tf.nn.softmax使输出符合概率分布
tf.nn.softmax(x)
#结果总和等于1

$Softmax(y_i)=\frac{e^{y_i}}{{\Sigma }_{j=0}^n{e}^{y_i}}$

#赋值操作，更新参数的值并返回
#调用assign_sub前，先用tf.Variable定义变量w为可训练（可自更新）
w.assign_sub(w要自减的内容)

#例子
w=tf.Variable(4)
w.assign_sub(1)

#返回张量沿指定维度最大值的索引
tf.argmax(张量名，axis=操作轴)

---

学习记录，侵权必删，本文参考【Tensorflow零基础入门教学，手把手教你从安装到搭建好第一个神经网络模型，全用心的必看Tensorflow教程！| 新手篇】 https://www.bilibili.com/video/BV1Kg4y1Z73F/?p=12&share_source=copy_web&vd_source=c62a50333f8ab9149f6acfdf0a7c31e7