莫烦PYTHON | Tensorflow教程——建造我们第一个神经网络(第三章)

本文详细介绍了如何使用TensorFlow构建一个简单的神经网络,用于预测y=x^2。探讨了reduce_sum()函数的作用,以及在训练过程中加速神经网络的几种方法,包括随机梯度下降(SGD)、Momentum、AdaGrad、RMSProp和Adam优化器,并解释了它们的工作原理。
摘要由CSDN通过智能技术生成

#3.1 例子3 添加层def add_layer()
为神经网络添加一个神经层

import tensorflow as tf
#添加一个神经层
def add_layer(inputs, in_size, out_size, activation_function = None):
	Weights = tf.Variable(tf.random_normal([in_size,out_size])) #in_size代表行/输入层
	biases = tf.Variable(tf.zeros([1,out_size]) + 0.1)
	Wx_plus_b = tf.matmul(inputs,Weights) + biases #Wx_plus_b代表W*x+b

	if activation_function is None: #如果没有激励函数,即为线性关系,那么直接输出,不需要激励函数(非线性函数)
		outputs = Wx_plus_b
	else:
		outputs = activation_function(Wx_plus_b) #把这个值传进去
	return outputs	

#3.2 例子3 建造神经网络
构建一个简单的神经网络来预测y=x^2

import tensorflow as tf
import numpy as np
#添加一个神经层,定义添加神经层的函数
def add_layer(inputs, in_size, out_size, activation_function = None):
	Weights = tf.Variable(tf.random_normal([in_size,out_size])) #in_size代表行/输入层
	biases = tf.Variable(tf.zeros([1,out_size]) + 0.1)
	Wx_plus_b = tf.matmul(inputs,Weights) + biases #Wx_plus_b代表W*x+b

	if activation_function is None: #如果没有激励函数,即为线性关系,那么直接输出,不需要激励函数(非线性函数)
		outputs = Wx_plus_b
	else:
		outputs = activation_function(Wx_plus_b) #把这个值传进去
	return outputs

x_data = np.linspace(-1, 1, 300, dtype = np.float32)[:, np.newaxis]  #输入,np.float32改变数组的长度显示,linspace创建一个从-1到1的等差数列,默认为50个数,这里规定了要生成300个数,并且使用[:, np.newaxis]将数组转换为列向量,[np.newaxis,:]可转换为行向量
noise = np.random.normal(0, 0.05, x_data.shape).astype(np.float32) #生成一个均值/中心为0,标准差/宽度为0.05的正太分布作为噪点/干扰点,它的格式为x_data,使得我们想要预测的函数更加接近实际情况;astype转换数据类型格式为float32
y_data = np.square(x_data) - 0.5 + noise #x的平方减去一个任意值再加上噪点

xs = tf.placeholder(tf.float32, [None, 1]) #占位符,保存数据的利器,float32数据类型,[None,1]表示列为1,行不定的列向量;xs表示x_Session,因为placeholder是与Session一起用的,它在使用的时候和前面的variable不同的是在session运行阶段,需要给placeholder提供数据,利用feed_dict的字典结构给placeholdr变量“喂数据”;placeholder的语法:tf.placeho
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值