Tensorflow 2.* 网络训练（一） compile(optimizer, loss, metrics, loss_weights)

最新推荐文章于 2022-09-25 20:39:17 发布
最新推荐文章于 2022-09-25 20:39:17 发布
阅读量7.5k 收藏 58
点赞数 9
分类专栏： Tensorflow 学习笔记 文章标签： 深度学习 python tensorflow
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Forrest97/article/details/106598409
版权

在搭建完网络以后，就需要配置模型训练的函数，比如损失函数、误差方向传播优化算法等。Tensorflow 2.* 中compile编译函数便集成了此项功能，比如对于一个分类问题，常见的形式如下：

model.compile(optimizer='rmsprop',
				loss='categorical_crossentropy',
				metrics=['accuracy'])

文章目录

tf.keras.Model.compile()

optimizer 优化器

基于训练数据和损失函数来更新网络的机制，常用的有Adam， RMSprop、SGD等

loss 损失函数

网络衡量在训练数据上的性能，即网络如何朝着正确的方向前进。
BinaryCrossentropy, CategoricalCrossentropy,KLDivergence等

metrics 监控指标

训练和测试过程中需要监控的指标。常用的有AUC、Accuracy、BinaryAccuracy、BinaryCrossentropy, CategoricalCrossentropy, KLDivergence、Precision等等

loss和metrics关系

  1. loss和metrics都是用来评价训练过程中模型的预测性能；
  2. optimizer是根据lo
最低0.47元/天 解锁文章
老光头_ME2CS
关注
  • 9
    点赞
  • 踩
  • 58
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
记Tensorflow自定义Loss坑我两天时间（compile传递和手工实现的区别）
qaz2883383的博客
04-07 1742
Tensorflow自定义Loss
tensorflow2中自定义损失、传递loss函数字典/compile(optimizer=Adam(lr = lr), loss= lambda y_true, y_pred: y_pred)理解
sinat_33909696的博客
12-14 4598
在阅读yolov3代码的时候有下面这样一样代码： model.compile(optimizer=Adam(lr = lr), loss={'yolo_loss': lambda y_true, y_pred: y_pred}),这行代码在网上有人进行解释过，但是都是看的云里雾里，一般使用compile的时候我们都是直接传递的一个函数对象，这里竟然传递的是一个字典，对此很是不解。 经过大量的饿查阅别人写的博客：最后在这篇博客中得到了答案的启发：链接,这篇文章 写的很好，大家可以去看看。 我在上面文章的基
tensorflow2的compile & fit函数
进击的Explorer
04-08 9137
1、compile 配置用于训练的模型。 用法： compile ( optimizer='rmsprop', loss=None, metrics=None, loss_weights=None, sample_weight_mode=None, weighted_metrics=None, target_tensors=None, ...
tensorflow2.0 --- api之model.compile
奋斗
12-26 5075
https://tensorflow.google.cn/api_docs/python/tf/keras/Sequential?version=stable#compile 作用 Configures the model for training， 配置模型，准备训练 定义 def compile(self, optimizer='rmsprop', ...
Keras学习记录之模型编译-训练-评估-预测
pengxiang1998的博客
09-25 1741
Keras的模型编译的语法格式为： 但我们最常用的还是以下这种： 在完成了模型的构建后, 可以使用 来配置学习过程 在训练模型之前，需要配置学习过程，这是通过 compile 方法完成的。它接收三个参数： 如果需要，你还可以进一步地配置你的优化器。Keras 的核心原则是使事情变得相当简单，同时又允许用户在需要的时候能够进行完全的控制（终极的控制是源代码的易扩展性）。 此外还可以根据问题种类进行细分 模型训练 fit调用格式 迭代训练参数格式为： 参数 。 如果模型中的输入层被命名，你也可以传递一个字典
Tensorflow—model.compile ()
hser-chen的博客
06-30 564
参数列表 model.compile(optimizer, loss=None, metrics=None, loss_weights=None, sample_weight_mode=None, weighted_metrics=None, target_tensors=None, **kwargs): optimize
resnet50_weights_tf_dim_ordering_tf_kernels.zip
05-11
model.compile(optimizer=Adam(), loss='categorical_crossentropy', metrics=['accuracy']) ``` 通过上述内容，我们可以看到，"resnet50_weights_tf_dim_ordering_tf_kernels.zip"文件提供了在TensorFlow环境下...
resnet50_weights_tf_dim_ordering_tf_kernels.h5.zip
06-05
model.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy']) ``` 这段代码首先加载了ResNet50模型的权重，然后添加了全局平均池化层和全连接层以适应新的任务。注意，你可以根据实际...
VGG19_with_tensorflow-master111.zip_QZI_mase111_neural network_t
07-14
custom_vgg19.compile(optimizer='adam', loss='categorical_crossentropy', metrics=['accuracy']) custom_vgg19.fit(x_train, y_train, validation_data=(x_test, y_test), epochs=epochs) ``` 5. 评估与推理：...
inception_v3_weights_tf_dim_ordering_tf_kernels_notop.h5
03-06
custom_model.compile(optimizer='rmsprop', loss='categorical_crossentropy', metrics=['accuracy']) ``` 在上述代码中，`num_classes`是新任务的类别数量，`categorical_crossentropy`是损失函数，用于多分类...
tensorflow学习5：使用tensorboard可视化loss，weight，biases
xiexu911的博客
03-13 8113
这一次的可视化任务和上一次的可视化差不多，只是增加了一些可视化项，不仅仅是网络结构。 我们还是在前面搭建的网络结构上进行修改，大家对这个也比较熟悉了。 第一步还是准备数据： import tensorflow as tf import numpy as np #构造数据 x_data = np.linspace(-1,1,300, dtype=np.float32)[:, np.new...
Tensorflow2 model.compile()理解
Toby的博客
07-22 5911
在TensorFLow2中进行神经网络模型的训练主要包括以下几个主要的步骤： 导入相关模块import 准备数据，拆分训练集train、测试集test 搭建神经网络模型model (两种方法：Sequential或自定义模型class) 模型编译model.compile() 模型训练model.fit() 查看模型model.summary() 模型评价 模型预测model.predict() model.compile()的作用就是为搭建好的神经网络模型设置损失函数loss、优化器opt
Unet项目解析(7): 模型编译-优化函数、损失函数、指标列表
沈春旭的博客
06-16 2万+
项目GitHub主页：https://github.com/orobix/retina-unet参考论文：Retina blood vessel segmentation with a convolution neural network (U-net)1. 模型编译model.compile(optimizer='rmsprop',loss='categorical_crossentropy',...
python深度学习第五章
qq_33228039的博客
04-15 572
5.1简单的神经网络 # coding=utf-8 """ __project_ = 'Python深度学习' __file_name__ = '5.1卷积神经网络' __author__ = 'WIN10' __time__ = '2020/4/12 15:27' __product_name = PyCharm """ from keras import layers from kera...
卷积神经网络
静以修身
03-28 239
视频： https://www.youtube.com/watch?v=hMIZ85t9r9A https://www.youtube.com/channel/UCdyjiB5H8Pu7aDTNVXTTpcg 文章（没看）： https://blog.csdn.net/qq_28168421/article/details/81611874 https://blog.csdn.net/w...
tensorflow compile
weixin_30781107的博客
09-05 82
bazel build --spawn_strategy=standalone tensorflow/examples/label_image/... 转载于:https://www.cnblogs.com/mtcnn/p/9410044.html
集群配置tensorflow出现的问题汇总
yanshuai_tek的博客
11-29 4891
ImportError: libnvidia-fatbinaryloader.so.375.66: cannot open shared object file: No such file or directory解决方案： https://medium.com/@sunpochin/tensorflow-gpu-%E9%8C%AF%E8%AA%A4-importerror-libnvidia-f
Tensorflow 离线安装跳坑总结
热门推荐
may0324的博客
12-01 3万+
TensorFlow作为目前最被看好的深度学习开源框架，又顶着Google爸爸的光环，使得很多CNN网络的部署都基于此框架。最近开始研究GAN（生成对抗网络），鉴于大部分源码都基于TensorFlow，theano，torch等Python框架，为了顺应时代潮流，开始学习Tensorflow，此篇记录了一下安装过程中的坑，供以后翻阅。 其实总体来说，Tensorflow作为Google荣誉出品的框
在训练模型model.compile()中计算loss的常用函数都有哪些？
ch206265的博客
08-11 5775
http://www.ifunvr.cn/180.html https://www.cnblogs.com/smuxiaolei/p/8662177.html 目标函数，或称损失函数，是网络中的性能函数，也是编译一个模型必须的两个参数之一。由于损失函数种类众多，下面以keras官网手册的为例。 在官方keras.io里面，有如下资料： mean_squared_error或mse mean_absolute_error或mae mean_absolute_percentage
帮我一个深度信念网络进行无监督学习的例子，使用tensorflow2.x
最新发布
04-04
以下是一个深度信念网络进行无监督学习的例子，使用tensorflow2.x： ```python import tensorflow as tf import numpy as np from tensorflow.keras.layers import Dense from tensorflow.keras.models import Sequential from tensorflow.keras.optimizers import Adam # 构建深度信念网络 class DBN(tf.keras.Model): def __init__(self, n_visible=784, n_hidden=[500, 500], n_classes=10): super(DBN, self).__init__() self.n_visible = n_visible self.n_hidden = n_hidden self.n_classes = n_classes # 构建可视层 self.visible_layer = Dense(n_visible, activation='relu') # 构建隐藏层 self.hidden_layers = [] for i, size in enumerate(n_hidden): self.hidden_layers.append(Dense(size, activation='relu', name=f'hidden_{i}')) # 构建分类器 self.classifier = Dense(n_classes, activation='softmax') def call(self, x): # 可视层 h = self.visible_layer(x) # 隐藏层 for layer in self.hidden_layers: h = layer(h) # 分类器 y = self.classifier(h) return y # MNIST数据集 (x_train, y_train), (x_test, y_test) = tf.keras.datasets.mnist.load_data() # 数据预处理 x_train = x_train.reshape(-1, 784).astype('float32') / 255.0 x_test = x_test.reshape(-1, 784).astype('float32') / 255.0 y_train = tf.keras.utils.to_categorical(y_train) y_test = tf.keras.utils.to_categorical(y_test) # 定义超参数 learning_rate = 0.01 batch_size = 64 epochs = 10 n_visible = 784 n_hidden = [500, 500] n_classes = 10 # 初始化深度信念网络 model = DBN(n_visible, n_hidden, n_classes) # 定义损失函数和优化器 loss_fn = tf.keras.losses.CategoricalCrossentropy() optimizer = Adam(learning_rate=learning_rate) # 进行无监督预训练 for i, layer in enumerate(model.hidden_layers): # 构建自编码器 autoencoder = Sequential([ Dense(n_hidden[i], input_shape=(n_hidden[i-1],), activation='relu', name=f'encoder_{i}'), Dense(n_hidden[i-1], activation='relu', name=f'decoder_{i}') ]) # 编译自编码器 autoencoder.compile(optimizer=optimizer, loss=loss_fn) # 获取前面的层的输出 encoder_input = tf.keras.Input(shape=(n_hidden[i-1],)) for j in range(i): encoder_input = model.hidden_layers[j](encoder_input) # 获取当前层的输入 encoder_output = layer(encoder_input) # 获取当前层的输出 decoder_output = autoencoder(encoder_output) # 训练自编码器 history = autoencoder.fit(encoder_output, encoder_input, batch_size=batch_size, epochs=epochs) # 更新当前层的权重 layer.set_weights(autoencoder.layers[0].get_weights()) # 进行有监督微调 model.compile(optimizer=optimizer, loss=loss_fn, metrics=['accuracy']) model.fit(x_train, y_train, batch_size=batch_size, epochs=epochs, validation_data=(x_test, y_test)) ``` 在这个例子中，我们首先定义了一个DBN类，它包含了可视层、隐藏层和分类器。然后，我们加载了MNIST数据集，将输入数据预处理为784维向量，并将标签数据转换为one-hot编码。接着，我们定义了超参数并初始化了深度信念网络。之后，我们进行了无监督预训练，对每一层的权重进行初始化。最后，我们进行了有监督微调，对整个网络进行训练。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值