Toby的博客

Embedding简单例子

在特征提取中，可以在预先训练好的网络结构后修改或添加一个简单的分类器，然后将源任务上预先训练好的网络作为另一个目标任务的特征提取器，只对最后增加的分类器参数进行重新学习，而预先训练好的网络参数不被修改或冻结。实际上，微调要优于特征提取，因为它能够对迁移过来的预训练网络参数进行优化，使其更加适合新的任务。微调的大致过程是在预先训练过的网络上添加新的随机初始化层，此外预先训练的网络参数也会被更新，但会使用较小的学习率以防止预先训练好的参数发生较大改变。常用方法是固定底层的参数，调整一些顶层或具体层的参数。

ssh终端 nohup 后台进程不终止

tf.feature_column 模块转换特征列

一文说清楚Tensorflow分布式训练必备知识大数据时代的互联网应用产生了大量的数据，这些数据就好比是石油，里面蕴含了大量知识等待被挖掘。深度学习就是挖掘数据中隐藏知识的利器，在许多领域都取得了非常成功的应用。然而，大量的数据使得模型的训练变得复杂，使用多台设备分布式训练成了必备的选择。Tensorflow是目前比较流行的深度学习框架，本文着重介绍tensorflow框架是如何支持分布式训练的。

提示安装的scipy的版本太高了，按照提示继续降级： pip3 install --upgrade scipy==1.4.1。

tensorflow深度学习模型读取parquet数据进行训练实现

最近看tensorflow2官方API文档，尤其是tf.keras API文档，梳理下其框架，形成脑图，方便自己记忆，也有助于形成一张相互关联的知识图。如下：

近日学习使用TensorFlow搭建神经网络建模终于取得了一些微小的成绩：1、学会了使用Squential \ class 搭建神经网络模型2、学会了使用compile来配置模型训练方法，如损失函数、优化器、准确性评价方法3、学会了一些经典的神经网络模型的实现方法4、学会了各优化器的作用和效果5、学会了搭建神经网络进行训练和学习的整体框架和步骤其实，我学习TensorFlow不止一两周了。我是从今年的2月份就开始学习了。当时报名了一个天池的算法比赛，需要使用CNN和RNN模型进行建模，所以

在TensorFLow2中进行神经网络模型的训练主要包括以下几个主要的步骤：导入相关模块import 准备数据，拆分训练集train、测试集test 搭建神经网络模型model (两种方法：Sequential或自定义模型class) 模型编译model.compile() 模型训练model.fit() 查看模型model.summary() 模型评价 模型预测model.predict()model.compile()的作用就是为搭建好的神经网络模型设置损失函数loss、优化器opt

在使用tensorFlow2搭建神经网络模型的时候，除了Sequential的方法，还有就是自己写模型class，然后初始化。自己写模型类的优势就是可以自定义层与层之间的连接关系，自定义数据流x的流向。这是为鸢尾花数据做的一个简单基础的神经网络模型代码：class IrisModel(Model): #继承TF的Model类 def __init__(self): #在这里定义网络结构块 super(IrisModel, self).__init__() s

写在前面：这是翻译自colah的一篇博客，原文关于LSTM神经网络模型的理解写的非常直观、简单易懂，所以翻译过来帮助大家学习理解LSTM模型。当然我不是按照原文一字不落的翻译，而是摘出其中对模型理解最有帮助的部分，然后用我自己理解的方式和语言来写的博文。这是我翻译博文的一贯做法。有兴趣的可以自行去看原文，比较简短，原博客地址：http://colah.github.io/posts/2015-08-Understanding-LSTMs/一、循环神经网络RNNRNN循环神经网络使用循环核来实

1、2、3、da'kai

深度学习with Keras

TensorFlow实战-Google深度学习框架

1、安装Docker下载地址：Docker Desktop for Mac 和常规的MAC-APP一样安装。完成后，可以通过客户端输入 docker version 来查看版本情况 2、Docker常用命令克隆cp创建容器build执行run保存push3、Docker理解Docker像是融合了Git、Maven的功能。...

选自mlfromscratch作者：Casper Hansen机器之心编译在计算每一层的激活值时，我们要用到激活函数，之后才能确定这些激活值究竟是多少。根据每一层前面的激活、权重和偏置，我们要为下一层的每个激活计算一个值。但在将该值发送给下一层之前，我们要使用一个激活函数对这个输出进行缩放。本文将介绍不同的激活函数。在阅读本文之前，你可以阅读我前一篇介绍神经网络中前向传播和反向传播的文章，其中已经简单地提及过激活函数，但还未介绍其实际所做的事情。本文的内容将建立在你已了解前一篇文章.