低级API实现:
1.随机初始化数据
import matplotlib.pyplot as plt
import tensorflow as tf
TRUE_W=3.0
TRUE_b=2.0
NUM_SAMPLES=100
#初始化随机数据
X=tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
noise=tf.random.normal(shape=[NUM_SAMPLES,1]).numpy()
y=X*TRUE_W+TRUE_b+noise #添加噪声
plt.scatter(X,y)
2.
定义一元回归模型并拟合曲线:
𝑓(𝑤,𝑏,𝑥)=𝑤∗𝑥+𝑏
class Model(object): #object模型的主体
def __init__(self):
self.W = tf.Variable(tf.random.uniform([1])) # 随机初始化参数
self.b = tf.Variable(tf.random.uniform([1]))
def __call__(self, x):
return self.W * x + self.b # w*x + b
model = Model() # 实例化模型
plt.scatter(X, y)
plt.plot(X, model(X), c='r')
可见拟合效果不是很好 因此继续训练模型
3.利用损失函数 去 进行梯度下降迭代 得到好的拟合结果
损失函数:
更新参数:
𝑏←b−𝑙𝑟∗∂loss(𝑤,𝑏)
w←w−𝑙𝑟∗∂loss(𝑤,𝑏)
lr指是学习率
最后迭代十次
def loss_fn(model,x,y):
y_=model(x)
return tf.reduce_mean(tf.square(y_ -y))
EPOCHS =10
LEARNING_RATE=0.1
for epoch in range (EPOCHS): #迭代次数
with tf.GradientTape() as tape:
loss=loss_fn(model,X,y)#计算损失
dW,db=tape.gradient(loss,[model.W,model.b]) #计算梯度
model.W.assign_sub(LEARNING_RATE*dW)
model.b.assign_sub(LEARNING_RATE*db)
#输出计算结果
print(f'Epoch[{epoch}/{EPOCHS}], loss[{loss}], W/b[{model.W.numpy()}/{model.b.numpy()}]')
plt.scatter(X, y)
plt.plot(X, model(X), c='r')
得到以下结果:
高阶API实现:
使用tensorflow现有库中的keras
model = tf.keras.Sequential() # 新建顺序模型
model.add(tf.keras.layers.Dense(units=1, input_dim=1)) # 添加线性层
model.compile(optimizer='sgd', loss='mse') # 定义损失函数和优化方法
model.fit(X, y, epochs=10, batch_size=32) # 训练模型